Как Google использует гибридную классификацию и данные о кликах пользователей для точного определения тематики контента

Термины и определения

Category Graph (Граф категорий)

Структура данных (например, направленный ациклический граф, дерево или лес), представляющая иерархические отношения между категориями. Узлы представляют категории, а ребра — отношения родитель-потомок.

Confirmed Valid Search Result (Подтвержденный действительный результат поиска)

Результат поиска, выбранный пользователем (например, клик по ссылке). Этот выбор подтверждает, что результат релевантен запросу пользователя.

First Subject Matter Categories (Первые категории)

Высокоуровневые или общие категории, присвоенные тексту на начальном этапе с помощью стандартного классификатора (например, naive Bayes classifier).

N-gram

Последовательность элементов (слов, частей слов, составных фраз) из запроса или текста. Используются как термины для классификации.

ODP (Open Directory Project / DMOZ)

Упоминается в патенте как пример источника иерархических категорий для существующего контента.

Second Subject Matter Categories (Вторые категории)

Детальные, иерархические категории (например, из ODP), которые являются кандидатами для классификации текста. Они связаны с поисковыми запросами через confirmed valid search results.

Supporters (Поддерживающие термины)

N-grams из поискового запроса, которые ассоциируются с определенной категорией. Ассоциация возникает, когда результат, принадлежащий этой категории, был кликнут пользователем для данного запроса.

TF-IDF (Term Frequency-Inverse Document Frequency)

Статистическая мера, используемая для расчета начального веса категории на основе важности N-grams (supporters), которые связывают текст с категорией.

Ключевые утверждения (Анализ Claims)

Claim 1 (Независимый пункт): Описывает основной метод классификации текста и последующей рекомендации контента.

1. Текст классифицируется в первые (общие) категории.
2. Идентифицируются вторые (детальные) категории. Условие идентификации: вторая категория является иерархической классификацией confirmed valid search results для запросов, и хотя бы один такой запрос содержит термин из классифицируемого текста.
3. Идентифицированные вторые категории фильтруются: исключаются те, чьи предки (ancestors) отсутствуют среди первых категорий.
4. Для каждой оставшейся второй категории:
   • Извлекаются составляющие термины (constituent terms / N-grams) из связанных запросов, которые также присутствуют в тексте.
   • Рассчитывается начальный вес категории как сумма TF-IDF значений этих извлеченных терминов.
   • Категория выбирается на основе начального веса и порога релевантности.
5. Выбранные категории используются как основа для рекомендации контента пользователю.

Claim 2 (Зависимый от 1): Детализирует расчет TF-IDF.

Расчет TF-IDF включает вычисление IDF (Inverse Document Frequency) термина относительно корпуса документов и TF (Term Frequency) термина, а затем их комбинирование.

Claim 4 и 5 (Зависимые от 2): Описывают два варианта расчета TF.

Claim 4: TF рассчитывается на основе частоты термина в классифицируемом тексте (деленной на длину текста).

Claim 5: TF рассчитывается на основе частоты термина в confirmed valid search results, связанных с запросами, из которых извлечен термин.

Claim 6 (Зависимый от 1): Вводит эвристику для выбора категории.

Подсчитывается количество различных (distinct) извлеченных терминов (N-grams). Категория выбирается (как first selected category), если это количество удовлетворяет первому порогу. Это фильтр против случайных совпадений.

Claim 7 (Зависимый от 6): Описывает механизм бустинга (повышения веса) категории.

1. Идентифицируются термины, которые соответствуют уточнению (refinement) в иерархии выбранной категории, и определяется уровень этого уточнения.
2. Начальный вес повышается на первую величину (first boost value), соразмерную уровню уточнения (Depth Boost). Получается первый повышенный вес.
3. Первый повышенный вес повышается на вторую величину (second boost value), соразмерную общему количеству терминов (Supporter Count Boost). Получается второй повышенный вес.
4. Категория окончательно выбирается, если второй повышенный вес удовлетворяет второму порогу.

Claim 8 (Зависимый от 1): Определяет, что такое Confirmed Valid Search Result.

Это результат, полученный в ответ на поисковый запрос и выбранный пользователем (клик).

Где и как применяется

Изобретение затрагивает несколько этапов поисковой архитектуры, как в офлайн-режиме (построение модели), так и в онлайн-режиме (классификация нового контента).

Офлайн-процессы (Построение Графа Категорий):

CRAWLING & INDEXING (Сбор данных и Индексирование)
Система собирает документы и определяет их существующие категории (например, из ODP). Эти данные сохраняются.

RANKING & RERANKING (Анализ логов)
Система анализирует логи поисковых запросов и взаимодействия пользователей с результатами поиска. Ключевой процесс — идентификация confirmed valid search results (кликов). На основе этих данных строится System Category Graph: N-grams из запросов становятся supporters для категорий кликнутых документов.

Онлайн-процессы (Классификация нового текста):

INDEXING – Индексирование и извлечение признаков
Основное применение патента происходит на этапе индексирования нового документа (или при анализе любого текста, например, для таргетинга рекламы или рекомендаций). Система выполняет многоступенчатую классификацию для глубокого понимания тематики контента.

1. Применяется стандартный классификатор (Feature Extraction).
2. Извлекаются N-grams.
3. Система обращается к заранее построенному System Category Graph для поиска кандидатов.
4. Происходит фильтрация, взвешивание (TF-IDF) и бустинг.
5. Результат: Документ ассоциируется с набором детальных иерархических категорий.

Входные данные:

• Текст для классификации.
• System Category Graph (содержит иерархию категорий, связанные с ними запросы/N-grams (supporters) и confirmed valid search results).
• Корпус документов (для расчета IDF).

Выходные данные:

• Набор выбранных детальных иерархических категорий, ассоциированных с текстом.

На что влияет

• Типы контента: Влияет на любой текстовый контент (веб-страницы, email, сообщения), который требует детальной тематической классификации.
• Специфические запросы и Ниши: Наибольшее влияние оказывает на информационные и узкоспециализированные тематики, где важна глубина иерархии (например, хобби, наука, технологии), в отличие от слишком общих тем.
• Форматы контента: Механизм бустинга за глубину иерархии может давать преимущество лонгридам и экспертным статьям, которые используют специфическую терминологию, соответствующую глубоким уровням тематической иерархии.

Когда применяется

Алгоритм применяется, когда системе необходимо классифицировать текст в детальную иерархическую структуру, например, при индексации новой веб-страницы или для генерации рекомендаций контента.

Условия и триггеры:

• Триггер активации детальной классификации: Наличие совпадений между N-grams текста и supporters в System Category Graph.
• Условие фильтрации (Precision Filter): Активируется, если предки детальной категории не совпадают с общими категориями текста.
• Пороговые значения:
  • Минимальное количество различных (distinct) N-grams для рассмотрения категории (Claim 6).
  • Минимальный итоговый вес (second boosted weight) для выбора категории (Claim 7).
  • Дополнительный порог: исключение категорий, чей вес не достигает определенной доли от веса самой релевантной категории (описано в Description).

Пошаговый алгоритм

Процесс А: Построение System Category Graph (Офлайн)

1. Сбор данных о поиске: Получение пользовательских запросов и отображение результатов поиска.
2. Идентификация кликов: Получение выбора пользователя, который обозначает Confirmed Valid Search Result.
3. Получение категорий результата: Определение иерархических категорий (например, ODP) кликнутого документа.
4. Ассоциация N-grams: Ассоциация N-grams из запроса с категориями документа. Эти N-grams становятся Supporters для категорий.
5. Обновление графа: Добавление категорий и Supporters в System Category Graph. Периодическое обновление графа.

Процесс Б: Классификация текста (Онлайн/Индексирование)

1. Общая классификация: Классификация текста в первые (высокоуровневые) категории с помощью стандартного классификатора.
2. Извлечение терминов: Извлечение N-grams из текста.
3. Идентификация кандидатов: Идентификация детальных категорий в System Category Graph, чьи Supporters совпадают хотя бы с одним извлеченным N-gram.
4. Фильтрация по предкам: Исключение идентифицированных категорий, чьи предки не входят в число первых категорий (Шаг 1).
5. Взвешивание и выбор (Итерация по оставшимся категориям):
   • Расчет начального веса: Для каждой категории извлекаются N-grams из связанных запросов, которые присутствуют в тексте. Рассчитывается сумма TF-IDF значений этих N-grams.
   • Применение эвристик и бустинга:
     1. Подсчет количества различных (distinct) N-grams. Если ниже первого порога, категория отбрасывается.
     2. Идентификация N-grams, соответствующих уточнениям в иерархии категории.
     3. Бустинг начального веса на основе глубины уточнения (Depth Boost).
     4. Дополнительный бустинг на основе общего количества Supporters (Supporter Count Boost).
   • Финальный выбор: Выбор категорий, чей итоговый вес превышает второй порог. Может применяться дополнительное исключение категорий, чей вес значительно ниже веса лидера.
6. Ассоциация и применение: Ассоциация текста с выбранными категориями. Использование этой ассоциации для рекомендации контента.

Какие данные и как использует

Данные на входе

Патент фокусируется на использовании данных о запросах и поведении пользователей для классификации.

• Контентные факторы: N-grams, извлеченные из тела текста, заголовка или метаданных. Используются для сопоставления с запросами.
• Поведенческие факторы: Критически важные данные. Confirmed Valid Search Results (клики пользователей на результаты поиска) используются для установления связи между запросами (Queries) и категориями (Categories).
• Структурные факторы (Внешние): Иерархическая структура категорий (например, из ODP). Глубина категории в иерархии используется для бустинга.
• Временные факторы: Логи запросов и кликов собираются за определенный период времени для построения и периодического обновления System Category Graph.

Какие метрики используются и как они считаются

• IDF (Inverse Document Frequency): Мера общей важности N-gram в корпусе документов. Рассчитывается как логарифм отношения общего числа документов к числу документов, содержащих N-gram.
  $idf(x) = log\frac{|D|}{|\{d_{i}:x\in d_{j}\}|}$
• TF (Term Frequency): Частота N-gram. Может рассчитываться двумя способами:
  • Относительно классифицируемого текста.
  • Относительно confirmed valid search results.
• Initial Weight (Начальный вес категории): Сумма TF-IDF значений всех N-grams, которые связывают текст с категорией.
• Number of Distinct N-Grams: Количество уникальных N-grams, связывающих текст с категорией. Используется как порог (First Threshold).
• First Boost Value (Depth Boost): Величина повышения веса, соразмерная глубине (уровню уточнения) в иерархии, которой соответствует N-gram.
• Second Boost Value (Supporter Count Boost): Величина повышения веса, соразмерная общему количеству Supporters категории.
• Second Boosted Weight: Итоговый вес категории после всех бустингов. Используется для финального выбора (Second Threshold).

1. Гибридная классификация для точности: Google использует многоуровневый подход к классификации контента. Он сочетает традиционные NLP-методы (для определения общих тем) с данными, основанными на поведении пользователей (для определения узких специализаций). Фильтрация по предкам является ключевым механизмом обеспечения точности, гарантируя, что детальная категория соответствует общей тематике документа.
2. Клики как обучающие данные для классификации: Патент прямо указывает на использование Confirmed Valid Search Results (кликов) для построения ассоциаций между запросами и категориями контента. Поведение пользователей в SERP напрямую влияет на то, как система понимает и классифицирует контент.
3. Важность иерархии и специфичности (Depth Boost): Система явно предпочитает более глубокие и специфичные категории. Вес категории повышается (Depth Boost), если термины в тексте соответствуют глубоким уровням в тематической иерархии. Это подчеркивает важность использования узкоспециализированной терминологии в контенте.
4. Защита от случайных совпадений: Система использует порог на минимальное количество различных (distinct) совпадающих N-grams. Это означает, что совпадения по одному или двум общим терминам недостаточно для классификации контента в определенную категорию; требуется более широкий семантический охват.
5. Взвешивание на основе TF-IDF и Популярности: Релевантность категории определяется не только семантикой (TF-IDF), но и популярностью категории среди пользователей (Supporter Count Boost).

Best practices (это мы делаем)

• Фокус на Topical Authority и глубине проработки: Создавайте контент, который глубоко раскрывает тему, используя специфическую терминологию, соответствующую нижним уровням тематической иерархии. Благодаря механизму Depth Boost, такой контент будет более точно классифицирован как экспертный в своей узкой нише.
• Оптимизация под реальные запросы (N-grams): Анализируйте, какие N-grams и фразы используют пользователи для поиска информации в вашей нише. Интеграция этих терминов в контент увеличивает вероятность совпадения с Supporters в System Category Graph.
• Повышение CTR и вовлеченности в SERP: Поскольку клики (Confirmed Valid Search Results) используются для обучения классификатора, необходимо работать над привлекательностью сниппетов. Высокий CTR по релевантным запросам укрепляет ассоциацию между этими запросами и категориями вашего контента, улучшая его классификацию в системе.
• Логичная иерархическая структура контента: Убедитесь, что ваш контент имеет четкую структуру, которая помогает стандартным классификаторам правильно определить высокоуровневые категории. Это критично, так как ошибка на верхнем уровне (First Categories) приведет к исключению правильных детальных категорий на этапе фильтрации по предкам.
• Семантическое разнообразие (Distinct N-grams): Используйте разнообразную лексику и синонимы при раскрытии темы. Порог на количество различных N-grams требует наличия нескольких семантических связей для подтверждения релевантности категории.

Worst practices (это делать не надо)

• Поверхностный контент с общими фразами: Создание контента, который затрагивает тему только на высоком уровне, не используя специфическую терминологию. Такой контент не получит преимуществ от Depth Boost и может быть классифицирован слишком общо.
• Манипуляции с CTR (Кликбейт): Привлечение нерелевантного трафика может негативно сказаться на классификации. Если пользователи кликают, но контент не соответствует их ожиданиям (что может привести к быстрым отказам, не описанным в этом патенте, но важным в целом), это может сформировать неверные или зашумленные связи в Category Graph.
• Изолированная оптимизация под один ключ: Фокусировка только на одном высокочастотном ключевом слове без использования связанных терминов. Это может привести к тому, что контент не преодолеет порог по количеству Distinct N-grams для релевантных категорий.
• Игнорирование общей тематики ради узкой оптимизации: Попытка оптимизировать страницу под узкий запрос, если он не соответствует общей тематике раздела или сайта. Механизм фильтрации по предкам исключит такую классификацию.

Стратегическое значение

Патент подтверждает, что понимание контента (Content Understanding) в Google — это сложный процесс, который не опирается только на анализ текста страницы. Он активно использует внешние данные, в частности, поведение пользователей в поиске, для валидации и уточнения тематики. Стратегически это означает, что SEO должно быть интегрировано с контент-стратегией и UX: необходимо не только создавать релевантный текст, но и обеспечивать положительный пользовательский опыт, который подтверждает эту релевантность через поведенческие сигналы (клики).

Практические примеры

Сценарий: Классификация статьи о редком заболевании

1. Контент: Создается подробная статья о "Синдроме Элерса-Данлоса, сосудистый тип (vEDS)".
2. Best Practice: В статье используются как общие термины ("генетическое заболевание", "соединительная ткань"), так и специфические N-grams ("мутация гена COL3A1", "разрыв артерий", "vEDS").
3. Работа алгоритма (Общая классификация): Стандартный классификатор определяет общие категории: /Health, /Health/Conditions_and_Diseases.
4. Работа алгоритма (Идентификация и Бустинг):
   • Пользователи ищут "симптомы vEDS" и кликают на авторитетные медицинские ресурсы. N-gram "vEDS" становится Supporter для категории /Health/Conditions_and_Diseases/Connective_Tissue_Disorders/Ehlers-Danlos_Syndrome/Vascular.
   • Новая статья содержит "vEDS". Эта детальная категория становится кандидатом.
   • Фильтрация пройдена, так как предки совпадают с общими категориями.
   • Категория получает высокий Depth Boost, так как "Vascular" находится глубоко в иерархии (уровень 6).
5. Результат: Статья точно классифицируется в узкой медицинской категории, что повышает её шансы на ранжирование по специфическим запросам и попадание в релевантные рекомендации.