robots.txt и Googlebot

BebOp

Постоялец
Регистрация
21 Фев 2008
Сообщения
62
Реакции
15
В связи с новым алгоритмом поиска решил посмотреть как видит Googlebot мой сайт.
И был в шоке.
f48bec3e.jpg

Не смотря на это сайт прекрасно отображается на всех мобильных устройствах и планшетах.
После недолгих размышление удаляю содержимое robots.txt и запускаю проверку еще раз.
И вуаля
a31f51c7.jpg


Добавляю свой robots.txt может вы подскажете что тут не так
Скрытое содержимое доступно для зарегистрированных пользователей!
 
Так у тебя же бутстрап находится в /catalog/view/theme/lexus_yourstyle/stylesheet/stylesheet.css
И ты его рубиш: Disallow: /catalog
 
Я понял.
Поправил спс тебе
54649977.png

А то что он открыт для индекса ничего страшного?
 
даядумаю роботам в твоей папке /catalog мало что интерестно для роботов, да и шаблон для кеша будет более подходящим !
 
Назад
Сверху