Meta Robots Tag

Meta Robots Tag (мета-тег robots) — это HTML-тег в секции <head> страницы, который даёт поисковым роботам указания насчёт её индексации и перехода по ссылкам. Две основные пары директив — index/noindex (добавлять страницу в индекс или нет) и follow/nofollow (переходить по ссылкам на ней или нет).

Простыми словами: это записка для робота на конкретной странице — «меня показывай в поиске, а меня пропусти». В отличие от robots.txt, который управляет доступом на уровне всего сайта, этот тег действует точечно.

Что такое Meta Robots Tag и зачем он нужен

Иногда страницу не стоит показывать в поиске: служебные страницы, результаты внутреннего поиска, дубли, «корзина», страницы благодарности. Именно для таких случаев нужен meta robots tag с директивой noindex — она убирает страницу из индекса, не скрывая её от пользователей. Это чистый и надёжный способ управлять тем, что попадает в выдачу, а что нет.

Основные директивы

  • index / noindex — индексировать страницу или исключить из поиска.
  • follow / nofollow — передавать вес по ссылкам на странице или нет.
  • noarchive — не сохранять кешированную копию.
  • nosnippet — не показывать текстовый сниппет в выдаче.
  • max-snippet, max-image-preview — ограничения на размер сниппета и превью.

Синтаксис и пример кода

<!-- закрыть страницу от индексации, но разрешить переход по ссылкам -->
<meta name="robots" content="noindex, follow">

<!-- индексировать и ходить по ссылкам (значение по умолчанию) -->
<meta name="robots" content="index, follow">

<!-- указание только для Googlebot -->
<meta name="googlebot" content="noindex">

Пример

На сайте интернет-магазина страницы фильтров (цвет, размер, цена) плодят тысячи почти одинаковых URL. Чтобы они не засоряли индекс, на них ставят <meta name="robots" content="noindex, follow">: страница исчезает из выдачи, но робот дальше ходит по ссылкам и видит товары. Так краулинговый бюджет тратится на важные страницы.

Часто путают с…

  • robots.txt — управляет сканированием на уровне сайта; meta robots tag управляет индексацией отдельной страницы. Если закрыть страницу в robots.txt, робот её не прочитает — и не увидит noindex в коде.
  • X-Robots-Tag — те же директивы, но переданные через HTTP-заголовок; удобны для не-HTML файлов (PDF, изображений).

Вопросы и ответы

Чем meta robots tag отличается от robots.txt?

Meta robots tag управляет индексацией конкретной страницы (index/noindex), а robots.txt — доступом робота к разделам сайта. Чтобы noindex сработал, страница должна быть открыта для сканирования в robots.txt, иначе робот просто не прочитает тег.

Как закрыть страницу от индексации?

Добавить в <head> тег <meta name="robots" content="noindex, follow">. Страница останется доступной людям, но выпадет из поиска после следующего сканирования.

Что означает nofollow в meta robots?

Это указание не переходить по ссылкам на странице и не передавать им вес. Его ставят редко и осторожно, потому что оно касается сразу всех ссылок на странице.

Не уверены, что в индекс попадает то, что нужно? Проверим директивы и наведём порядок — SEO-аудит и исправление ошибок на сайте.

Похожие термины: Noindex, robots.txt, Canonical, Индексация, HTML.

Опишіть свій запит
і ми зробимо для Вас
пропозицію

Напишіть мені, щоб бути в ТОП

    [telegram]
    • icon-google-ads-color
    • icon-google-analytics
    • icon-google-partner