Как Google использует вероятностное тематическое моделирование для ранжирования видео и медиаконтента с недостатком текста

Термины и определения

Domain Topic (T) (Тема Домена)

Скрытая семантическая тема или концепция, которая используется как промежуточный слой между запросом и результатом.

P(T|Q) (Вероятность Темы при условии Запроса)

Условная вероятность, используемая для сопоставления запроса (Q) с темой (T). Отражает, насколько вероятно, что запрос Q относится к теме T.

P(R|T) (Вероятность Результата при условии Темы)

Условная вероятность, используемая для идентификации результатов (R) для данной темы (T). Отражает, насколько результат R релевантен теме T.

P(R|Q) (Вероятность Результата при условии Запроса)

Условная вероятность, показывающая связь между запросом и результатом. В патенте она вычисляется на основе анализа Search Click Data.

P(T|R) (Вероятность Темы при условии Результата)

Условная вероятность, показывающая, насколько данный результат (R) связан с темой (T). Используется для расчета $P(T|Q)$.

Search Click Data (Данные о кликах в поиске)

Агрегированные данные о том, на какие результаты пользователи нажимали по определенным запросам. Используются для вычисления $P(R|Q)$.

Topicality Score (Оценка тематичности)

Оценка релевантности результата определенной теме. Может предоставляться внешней системой (например, хостингом видео), которая аннотирует контент сущностями на основе семантических баз знаний. Используется как эквивалент $P(T|R)$.

Knowledge Database (База знаний)

Семантические базы данных (например, Wikipedia, Freebase, упомянутые в описании), используемые для идентификации тем в контенте и расчета $P(T|R)$.

Topic Interest Distribution (Распределение интереса к темам)

Данные о популярности или частоте тем, которые могут использоваться для расчета априорной вероятности темы $P(T)$.

Ключевые утверждения (Анализ Claims)

Claim 1 (Независимый пункт): Описывает базовую архитектуру системы тематического поиска.

1. Система получает запрос (Q).
2. Mapping component сопоставляет запрос с набором тем (Domain Topics, T). Сопоставление основано на первой условной вероятности $P(T|Q)$.
3. Results component идентифицирует набор результатов (R) для запроса. Идентификация основана на второй условной вероятности $P(R|T)$.
4. Output component представляет набор результатов.

Claim 2 и 3 (Зависимые): Детализируют процесс ранжирования.

Система упорядочивает результаты на основе релевантности запросу. Релевантность определяется как произведение $P(R|T)$ и вероятности темы при условии запроса. В основном описании патента (Description) формула релевантности четко определена как: $\sum_T P(R|T) * P(T|Q)$.

Claim 6 и 8 (Зависимые от 5): Описывают два альтернативных метода расчета $P(T|Q)$.

• Claim 6: $P(T|Q)$ рассчитывается на основе $P(R|Q)$, которая извлекается из анализа Search Click Data.
• Claim 8: $P(T|Q)$ рассчитывается на основе строкового сходства (string similarity) между запросом и строковым названием темы.

Claim 9, 12 и 13 (Зависимые): Описывают методы расчета $P(T|R)$ (Вероятность темы при условии результата).

• Claim 12: $P(T|R)$ определяется на основе полученного Topicality Score для темы.
• Claim 13: $P(T|R)$ определяется на основе сравнения текста, связанного с результатом, с одной или несколькими базами знаний (knowledge database).

Где и как применяется

Изобретение представляет собой модель ранжирования, затрагивающую этапы индексирования, понимания запросов и ранжирования.

INDEXING – Индексирование и извлечение признаков
На этом этапе происходит расчет $P(T|R)$. Система анализирует контент (например, метаданные видео) и сопоставляет его с базами знаний для определения связанных тем или вычисления Topicality Score. Эти данные сохраняются для использования в ранжировании.

QUNDERSTANDING – Понимание Запросов
Система рассчитывает $P(T|Q)$. Это в основном происходит офлайн. Процесс анализирует исторические Search Click Data ($P(R|Q)$) и использует предварительно рассчитанные $P(T|R)$ для установления связей между запросами и темами. Также может использоваться string similarity.

RANKING – Ранжирование
Основное применение патента. На этапе ранжирования система использует рассчитанные вероятности $P(T|Q)$ и $P(R|T)$ для вычисления итоговой оценки релевантности результата запросу через промежуточный слой тем.

Входные данные:

• Запрос пользователя (Q).
• Набор тем (T).
• Предварительно рассчитанные вероятности: $P(T|R)$ или Topicality Scores для контента, $P(R|Q)$ из логов кликов.

Выходные данные:

• Набор результатов (R), отсортированный по оценке релевантности, вычисленной по формуле $\sum_T P(R|T) * P(T|Q)$.

На что влияет

• Конкретные типы контента: Патент явно указывает на его полезность при поиске видео или другого медиаконтента (media content), для которого связанная текстовая информация относительно скудна по сравнению с другими типами контента (например, веб-страницами).
• Специфические запросы: Влияет на запросы, где намерение пользователя тематически шире, чем используемые ключевые слова, или когда пользователи ищут контент без четкого представления о том, что они хотят найти.

Когда применяется

Алгоритм применяется как основной механизм ранжирования в среде, для которой он разработан (например, поиск на видеохостинге). Он активируется при получении поискового запроса. Дополнительный компонент стемминга (Stemming Component) может быть опционально активирован перед началом процесса сопоставления.

Пошаговый алгоритм

Алгоритм состоит из офлайн-вычислений (подготовка данных) и онлайн-обработки (ранжирование).

Процесс А: Вычисление Вероятностей (Offline/Indexing)

А.1. Расчет $P(T|R)$ (Индексирование контента):

1. Анализ контента (R): Анализируются метаданные видео.
2. Определение тем (T):
   • Вариант 1: Получение Topicality Score от хостинга, который аннотирует видео сущностями из баз знаний.
   • Вариант 2: Сравнение метаданных с записями в Knowledge Databases (например, Freebase, Wikipedia) с помощью сопоставления строк (string matching).
3. Сохранение $P(T|R)$.

А.2. Расчет $P(T|Q)$ (Анализ логов):

1. Анализ Search Click Data: Вычисление $P(R|Q)$ на основе того, как часто на результат R нажимали по запросу Q.
2. Вычисление $P(T|Q)$: Используется формула (при условии независимости T и Q при заданном R): $P(T|Q) = \sum_R P(T|R) * P(R|Q)$. (Альтернативно: используется string similarity).

А.3. Расчет $P(R|T)$:

1. Вычисление априорных вероятностей: Определение $P(Q)$ (на основе частоты запроса в истории) и $P(T)$ (на основе Topic Interest Distribution или частоты кликов на контент с темой T).
2. Вычисление $P(R|T)$: Используется формула (с применением теоремы Байеса и условия независимости R и T при заданном Q): $P(R|T) = \sum_Q P(R|Q) * P(T|Q) * P(Q) / P(T)$.

Процесс Б: Обработка запроса и ранжирование (Online)

1. Получение запроса: Система получает запрос (Q).
2. Стемминг (Опционально): Запрос проходит через Stemming Component для нормализации.
3. Сопоставление Запрос-Тема (Mapping): Mapping Component извлекает предварительно вычисленные значения $P(T|Q)$ для данного Q.
4. Идентификация Результатов (Retrieval): Results Component идентифицирует набор результатов (R), используя предварительно вычисленные $P(R|T)$.
5. Расчет Релевантности (Ranking): Ranking Component вычисляет оценку релевантности для каждого результата R по формуле: $Relevance(R, Q) = \sum_T P(R|T) * P(T|Q)$.
6. Упорядочивание и Вывод: Результаты сортируются и представляются пользователю.

Какие данные и как использует

Данные на входе

• Контентные факторы (Метаданные): Текстовая информация, связанная с результатом (например, заголовок видео, описание). Используется для расчета $P(T|R)$ путем сопоставления с базами знаний.
• Поведенческие факторы: Search Click Data. Критически важны для определения $P(R|Q)$ (связь запроса и результата на основе кликов). Также используются для расчета $P(T)$ (популярность темы).
• Временные факторы: Query History (История запросов). Используется для расчета $P(Q)$ (частота запроса).
• Внешние данные:
  • Базы знаний (Knowledge Databases), например, Freebase, Wikipedia. Используются для идентификации тем в контенте.
  • Topicality Score. Внешняя оценка тематичности контента.
  • Topic Interest Distribution. Данные о распределении интересов к темам.

Какие метрики используются и как они считаются

Система полностью основана на расчете условных и априорных вероятностей:

• $P(R|Q)$: Рассчитывается из Search Click Data.
• $P(T|R)$: Рассчитывается путем сопоставления метаданных с базами знаний или используется Topicality Score.
• $P(T|Q)$: Рассчитывается либо через агрегацию $P(T|R) * P(R|Q)$, либо через string similarity.
• $P(R|T)$: Рассчитывается с использованием теоремы Байеса, объединяя все вышеуказанные метрики.
• Relevance Rank (Ранг Релевантности): Итоговая метрика ранжирования: $\sum_T P(R|T) * P(T|Q)$.

Методы анализа: Патент использует методы вероятностного тематического моделирования, включая применение условных вероятностей и теоремы Байеса, а также базовые NLP-техники, такие как стемминг и сопоставление строк (string matching/similarity).

1. Переход от ключевых слов к темам: Патент формализует механизм ранжирования, который не зависит от наличия ключевых слов запроса в тексте результата. Релевантность устанавливается через общий тематический контекст (Domain Topics).
2. Двухэтапная модель релевантности: Проблема поиска решается путем разделения на две задачи: понимание темы запроса ($P(T|Q)$) и поиск контента по теме ($P(R|T)$). Это позволяет преодолеть скудность метаданных медиаконтента.
3. Критическая роль поведенческих данных: Search Click Data является фундаментальным источником для обучения модели. Вероятность $P(R|Q)$, основанная на кликах, напрямую влияет как на $P(T|Q)$, так и на $P(R|T)$.
4. Важность Баз Знаний и Сущностей: Для определения тематики контента ($P(T|R)$) система полагается на сопоставление с Knowledge Databases или на Topicality Score. Это подчеркивает роль сущностей (Entities) в определении тем.
5. Специфика медиа-поиска: Модель идеально подходит для сред, где текстовых данных мало (например, YouTube), позволяя находить и ранжировать контент на основе его семантического значения и пользовательского поведения.

Best practices (это мы делаем)

Рекомендации особенно актуальны для Video SEO (YouTube) и продвижения медиаконтента.

• Фокус на Сущностях в Метаданных: Для максимизации $P(T|R)$ необходимо насыщать заголовки и описания видео терминами, которые легко сопоставляются с записями в базах знаний (например, именами артистов, названиями альбомов, именами сущностей). Система использует их для определения Domain Topics контента.
• Оптимизация под Тематический Интент, а не только Ключи: Создавайте контент, который является лучшим ответом в рамках темы (высокий $P(R|T)$), а не узко оптимизирован под конкретную формулировку запроса. Это позволяет ранжироваться по широкому спектру запросов, связанных с этой темой.
• Стимулирование Поведенческих Сигналов (Кликов): Поскольку $P(R|Q)$, основанный на Search Click Data, является ключевым компонентом модели, критически важно оптимизировать CTR в поиске (привлекательные заголовки и значки видео). Высокий CTR по релевантным запросам укрепляет связь между этими запросами, вашим контентом и темой.
• Использование Структурированных Данных и Аннотаций: Если платформа поддерживает аннотирование контента (например, теги YouTube или Schema.org для видео на сайте), используйте их для явного указания связанных сущностей, чтобы помочь системе точнее рассчитать Topicality Score.

Worst practices (это делать не надо)

• Переоптимизация под Узкие Ключевые Слова: Фокус только на точном вхождении ключевых слов неэффективен, так как модель ранжирования основана на темах. Это может ограничить охват и не гарантирует релевантности на тематическом уровне.
• Использование Неоднозначных или Слишком Общих Метаданных: Если метаданные видео не содержат четких сигналов (сущностей), которые можно сопоставить с базой знаний, система не сможет точно определить $P(T|R)$, что снизит шансы на ранжирование.
• Кликбейт и Несоответствие Интенту: Привлечение кликов ($P(R|Q)$) по запросам, которым контент тематически не соответствует (низкий $P(T|R)$), в долгосрочной перспективе неэффективно, так как итоговая формула требует сильной связи по обоим параметрам.

Стратегическое значение

Патент подтверждает стратегический приоритет семантического поиска и тематического моделирования в Google, особенно для медиаконтента. Он демонстрирует, как Google интегрирует поведенческие сигналы (клики) и семантические данные (базы знаний/сущности) в единую вероятностную модель ранжирования. Для SEO-специалистов это означает, что долгосрочная стратегия должна фокусироваться на построении тематического авторитета (Topical Authority) и оптимизации пользовательского опыта (CTR, вовлеченность).

Практические примеры

Сценарий: Оптимизация музыкального видео

Представим, что мы продвигаем видео с живым исполнением песни "Judas" артистом Lady Gaga.

1. Исходный Запрос (Q): Пользователь ищет "Judas live".
2. Оптимизация Метаданных (Улучшение $P(T|R)$):
   • Плохой заголовок: "Judas live performance amazing!!"
   • Хороший заголовок: "Lady Gaga - Judas (Live from Event Name, City, Year)"
   • Описание: Включаем упоминание альбома "Born This Way" и другие связанные сущности.
3. Результат Оптимизации: Система легко сопоставляет "Lady Gaga", "Judas", "Born This Way" с записями в Knowledge Database и присваивает видео высокие значения $P(T|R)$ для тем T1="Lady Gaga" и T2="Judas (Song)".
4. Анализ Запроса ($P(T|Q)$): Запрос "Judas live" имеет высокую вероятность $P(T|Q)$ для темы T2="Judas (Song)" (на основе string similarity или исторических кликов).
5. Ранжирование: Наше видео получает высокую итоговую оценку, так как $P(R|T2)$ и $P(T2|Q)$ высоки.
6. Дополнительный эффект: Видео также может ранжироваться по запросу "Lady Gaga live", так как $P(R|T1)$ также высоко.