Для того, чтобы узнать есть ли robots.txt на сайте, достаточно просто в адресной строке браузера добавить "/robots.txt", полный вид выглядит так: "http://вашсайт.ru/robots.txt". Практически на каждом интернет ресурсе есть этот robots.txt, именно этот файл определяет и дает поисковому роботу возможность индексировать или не индексировать разделы, категории веб-сайта. Плохо настроенный robots.txt или вообще просто оставленный по-умолчанию, порой может дать плохой результат в поисковой выдаче в ви...
Блоги вебмастеров
Интересная информация от наших складчиков
Сен
09
Авг
21
В прошлом месяце Гугл разослал обновленные директивы для получения видимости в результатах поиска. Они включают в себя получение доступа к файлам CSS и JS (таблицы стилей и ява-скрипты) на Ваших сайтах. Это влияет на общий поисковый рейтинг. Следующая статья объясняет, что необходимо сделать для того, чтобы сайт на Joomla соответствовал новым требованиям. Многие читатели, возможно, уже недавно получили от Гугла письмо об этих нововведениях, требующих внести изменения в файл robots.txt. Но ...