Сообщение от cyber
|
Gozar, т.е по сути они "гуляют" по ссылкам которые находят на странице?
|
Робот видит сайт в виде исходного кода и считывает часть текста (если текста не очень много, то всю страницу целиком), поэтому даже трюк такой есть, что всю важную инфу нужно размещать как можно выше, а с помощью CSS уже ставить куда её надо.
Упрощёно да, он находит ссылки на странице и ходит по ним. Ему также можно написать sitemap.xml, где описать что и как индексировать и т.д. В случае AJAX ссылок с #, гугл (насчёт других не знаю) позволяют задать куда идти за статичным файлом, если таковой есть.
Т.е. JavaScript роботы не понимают, но если делать деградацию, то можно скармливать им статичную инфу.