Проверка Robots.txt

0 из 0 оценок

Что такое проверка Robots.txt?

Файл robots.txt указывает поисковым роботам, к каким частям вашего сайта они могут получить доступ. Этот инструмент проверяет наличие robots.txt и отображает расположение карт сайта и директивы запрета, которые он содержит.

Поделиться

Похожие инструменты

Проверка страницы 404

Проверяйте, корректно ли ваш сайт возвращает код состояния 404 для несуществующих страниц.

266
4
Проверка noindex

Проверяйте, установлен ли на веб-странице noindex, предотвращающий её появление в результатах поисковых систем.

723
20
Проверка HTTP-заголовков

Получайте все HTTP-заголовки, возвращаемые URL. Просматривайте тип сервера, политики кэширования, заголовки безопасности и многое другое.

379
1

Популярные инструменты