Индексация сайта в 2021: что было бы неплохо знать

קידום אתרים בישראל

Как поисковые системы индексируют сайты в 2021?
Как изменяются подходы к оптимизации индекса сайта?
Разберем важные нюансы об индексации сайтов поисковой системой, про которые мало кто знает.

Влияние индексации сайта на позиции в поисковой выдаче

Оптимизация индекса является отправной точкой в начале работ по продвижению любого сайта.
Удалить большое количество страниц из индекса крайне сложно.
Запрет в файле robots.txt не решит проблему. Для Google потребуется дополнительный переобход страниц, которые следует исключить из поисковой системы.
Нет инструментов по массовому удалению страниц из индекса Google. Официальный инструмент лишь скрывают страницы из поисковой выдачи.

Как индекс влияет на ранжирование? Влияние происходит так:

  • Наличие большого количества страниц с thin content или бесполезным контентом воспринимается как попытка манипуляции;
  • Через хостовые факторы сайта.

Практика показывает, что удаление из индекса страниц с бесполезным контентом положительно влияет на позиции сайта в поисковой выдаче.

Как происходит индексация сайтов?

Сначала разберемся с термином. Что такое индексация сайта? Индексация сайта — сканирование, сохранение страниц в базу поисковой системы и дальнейшая обработка алгоритмами.
Процесс индексации сайта в упрощенном виде:

  • Краулер поисковой системы сканирует сайт;
  • Система индексации обрабатывает контент.

На практике схема индексации намного сложнее.

В процессе индексации участвует три отдельных системы: планировщик, робот для сканирования сайтов и система обработки:

  • Google Scheduler создает план на индексацию с учетом краулингового бюджета на сайт.
  • Googlebot сканирует сайты и сохраняет данные в бинарном виде.
  • Google Caffeine — система обработки проиндексированных страниц. Задача системы заключается в приеме, обработке и распределении страниц сайтов по индексам.

Как работает Google Caffeine

Весь процесс системы индексирования:

Сначала происходит выгрузка данных, которые собрал поисковый краулер Googlebot.

Для скорости обработки данные передаются в бинарном виде, то бишь применяется процесс перевода структуры данных в последовательность байтов.

Для обработки данных применяется Protocol Buffers.

После получение данных система индексации конвертирует данные в специальный формат, который способны анализировать роботы.

Страница передается в лексер. Предназначение лексера в поиске и исправлении ошибок в коде страницы.

Часто на сайтах встречаются ошибки в коде. Провести анализ контента со страниц с ошибками нет возможности технически.

С целью устранения ошибок код анализируются через HTML-лексер и автоматически исправляются.

Ошибки в верстке страницы напрямую никак не влияют на ранжирование.

На последнем этапе включается система Collapsor.

Google Collapsor в системе индексации сайтов

Collapsor является подсистемой в системе индексации.

Collapsor определяет куда переместить страницу. Варианты:

  • Индекс проиндексированных страниц, но бесполезных;
  • Индекс обслуживания или Serving Index.

Именно Коллапсер присваивает страницам статус soft 404.

Коллапсер фильтрует индекс от бесполезных страниц: товар отсутствует, дубли, технические страницы и прочее.

Индексация сайта гарантирует только обработку страниц. Попадание страниц в поисковую выдачу зависит от оценки страниц Google Коллапсером.

На основе Serving Index формируются результаты поисковой выдачи.

Google Serving Index — Индекс обслуживания

Индекс обслуживания или Serving Index — основной индекс поисковой системы состоящий из страниц, которые участвуют в ранжировании.

Находится в отдельных дата-центрах, откуда пользователи получают результаты поиска.

Документ попадает в Serving Index если:

  • Код ответа — 200;
  • Нет запрета к индексации;
  • Collapsor пропустил страницу в индекс.

Поисковая система обрабатывает коды ответа так:

  • 200. Роботу надо обойти страницу;
  • 3XX. Роботу надо обойти страницу, которая открывается по редиректу.
  • 4XX и 5XX. Страница с таким кодом не должна участвовать в поиске. Если до момента обращения робота страницы была размещена в поисковой выдаче, то будет удалена из индекса.

Если страницы перестали открываться, то такие страницы подлежат удалению из индекса.

Если сайт отдает код ошибки, то страницы удаляются из индекса.

Уязвимость могут эксплуатировать конкуренты по выдаче.

Выводы

Задача по улучшению индексация сайта требует внимания, поскольку влияет на позиции сайта в поисковой выдаче.

Через сигналы Web Vitals на ранжирование могут влиять даже страницы, которые закрыты в robots.txt.

Открытыми к индексации должны быть такие страницы:

  • Страницы по которым планируется привлечение трафика из поисковой выдачи;
  • Страницы сайта, важные для E-A-T.

Страницы сайта могут быть проиндексированы, но проигнорированы при включении в индекс обслуживания.

Приведенная информация является достоверной и подтвержденной из официальных источников.

Вы всегда можете заказать контекстную рекламу и продвижение бизнеса или сайта в Израиле у нас — nikk.co.il.

קידום אתרים בישראל

קידום אתרים בישראל

  • Еще информация:

    • SEO или PPC: как выбрать правильный подход?

      Здесь все еще нет однозначного ответа, зато есть правильное решение клиентского запроса. PPC и SEO: для решения каких задач подходят …
    • Индексация сайта в 2021: что было бы неплохо знать

      Как поисковые системы индексируют сайты в 2021? Как изменяются подходы к оптимизации индекса сайта? Разберем важные нюансы об индексации сайтов …
    • Google откажется от технологий отслеживания действий пользователей

      Пресс-служба интернет-гиганта Google сообщила, что компания откажется от технологий отслеживания действий пользователей и не будет больше разрабатывать новые рекламные инструменты, …
    • Заголовки h1, h2, h3 в SEO

      Текстовые факторы входят в перечень ключевых факторов ранжирования. Содержание заголовка h1 является значимым сигналом, который влияет на ранжирование в поисковой …
    • Тренды SEO в 2021. Что меняется в SEO?

      Как будем продвигать сайты в следующем 2021 году? Поисковые системы улучшили алгоритмы ранжирования, поэтому частично изменились подходы к поисковой оптимизации. …
  • ВВЕРХ ВВЕРХ