Индексация

Проверка карты сайта sitemap.xml

Карта сайта — список адресов, которые вы просите обойти. Если в ней редиректы, 404 и чужие зеркала, робот тратит время на мусор, а новые страницы ждут очереди. Проверим и формат, и сами адреса.

Проверка по адресу Бесплатно, без регистрации около 8 с
Защита от роботов Проходит автоматически — ничего отмечать не нужно

Что проверяет

  • Где лежит карта: директива Sitemap в robots.txt или стандартный адрес
  • Формат XML и ошибки разбора со строкой, сжатие gzip
  • Индекс карт: вложенные файлы и число адресов в каждом
  • Число адресов, пределы 50 000 адресов и 50 МБ, повторы
  • Даты lastmod: у скольких есть, верный ли формат, нет ли дат из будущего
  • Адреса с чужого хоста или зеркала, по http на https-сайте
  • Выборка адресов: отвечают ли 200, нет ли редиректов и noindex

Как пользоваться

  1. 1 Укажите сайт — карту найдём сами — или прямой адрес файла карты.
  2. 2 Нажмите «Проверить карту». Для индекса карт разберём первые вложенные файлы и выборочно запросим адреса.
  3. 3 Главное — блок выборки: адрес с редиректом или 404 в карте означает, что карта строится не из живых страниц.

Параметры в справочнике

Частые вопросы

Нужны ли changefreq и priority?

Google их игнорирует, Яндекс учитывает слабо. Вреда нет, но важнее верный lastmod: по нему роботы решают, какие страницы перечитать первыми. lastmod, равный сегодняшней дате у всех адресов сразу, роботы учатся не замечать.

Сколько адресов проверяет выборка?

До десяти, равномерно по всей карте, а не первые подряд: в начале карты обычно главная и разделы, которые живы всегда. Проверить каждую страницу — работа обхода сайта, а не разовой проверки.

Карта большая, больше 10 МБ. Что будет?

Разберём первые 10 МБ и скажем об этом прямо. Файлы такого размера лучше разбивать на индекс из нескольких карт: и роботам, и серверу так проще.

Анализ robots.txt

Индексация

Разбор файла по строкам, группы роботов, ошибки синтаксиса и ответ, открыт ли нужный адрес для Googlebot и YandexBot.

Проверка по адресу ~2 с

Цепочка переходов для адреса и всех вариантов домена: http и https, с www и без. Коды 301 и 302, петли, лишние шаги.

Проверка по адресу ~5 с

Какой код отдаёт адрес, все заголовки ответа, время до первого байта, IP, протокол и сжатие — глазами браузера или робота.

Проверка по адресу ~2 с

Не проверять руками, а узнавать об изменениях

Сканирование сайта в кабинете сверяет карту с тем, что реально найдено по ссылкам: какие страницы есть только в карте, какие не попали в неё вовсе и какие из карты отвечают ошибкой.