Как Яндекс использует историческую полезность пар «запрос-документ» для корректировки ранжирования текущей выдачи

Описание

Какую задачу решает

Патент решает проблему повышения общей полезности поисковой выдачи (usefulness of the SERP as a whole). Он адресует недостатки стандартных систем ранжирования (MLA), которые могут недооценивать релевантность некоторых документов или присваивать низкие позиции документам, которые, тем не менее, могут быть очень полезны пользователю. Изобретение предлагает механизм корректировки базового ранжирования для продвижения исторически полезных результатов.

Что запатентовано

Запатентован метод и сервер для переранжирования (re-ranking) результатов поиска. Суть изобретения заключается в использовании базы данных сохраненных поисковых пар (stored search pairs) – комбинаций «запрос-документ» – и связанных с ними показателей полезности (pair-specific values). Система сравнивает текущую пару «запрос-документ» с историческими парами и генерирует корректирующую оценку ранжирования (rank-adjustment score), которая используется для изменения позиции документа в выдаче.

Как это работает

Система работает в несколько этапов. Сначала основной алгоритм ранжирования (MLA — Machine Learning Algorithm) формирует первичную выдачу и присваивает документам базовые оценки (base-line ranking scores). Затем для каждой текущей пары «запрос-документ» система ищет похожие пары в исторической базе данных. Схожесть (pair-wise similarity) рассчитывается между текущей и исторической парой. Rank-adjustment score вычисляется на основе показателя полезности исторической пары (например, ее прошлого CTR или оценки асессора), взвешенного на степень схожести. Наконец, базовая оценка ранжирования комбинируется с корректирующей оценкой для переранжирования документа в SERP.

Актуальность для SEO

Высокая. Использование исторических данных о взаимодействии пользователей (поведенческих факторов) и оценок асессоров для улучшения качества ранжирования является фундаментальной практикой в современных поисковых системах. Описанный механизм прямого использования успешных прошлых пар для бустинга текущих результатов крайне актуален и отражает стремление поиска максимизировать полезность выдачи.

Важность для SEO

Влияние на SEO критическое (9/10). Этот патент описывает конкретный механизм, который напрямую связывает историческую полезность контента (например, высокий CTR или высокие оценки E-E-A-T асессорами) с его текущим ранжированием. Он показывает, что документ может получить значительный буст, если он похож на документ, который ранее успешно отвечал на похожий запрос, даже если его базовая релевантность оценена ниже. Это подчеркивает стратегическую важность максимизации сигналов полезности (User Engagement, CTR) в долгосрочной перспективе.

Детальный разбор

Термины и определения

Adjusted Ranking Score (Скорректированная оценка ранжирования)

Финальная оценка ранжирования документа, полученная путем комбинации Base-line Ranking Score и Rank-Adjustment Score.

Base-line Ranking Score (Базовая оценка ранжирования)

Предварительная оценка релевантности документа запросу, сгенерированная основным алгоритмом машинного обучения (MLA).

Current Search Pair (Текущая поисковая пара)

Пара, состоящая из текущего запроса пользователя и одного из релевантных документов, найденных в ответ на этот запрос.

KNN (K Nearest Neighbors)

Алгоритм поиска ближайших соседей. Упоминается в описании патента как способ идентификации наиболее похожих Stored Search Pairs для генерации Rank-Adjustment Score.

MLA (Machine Learning Algorithm / Алгоритм машинного обучения)

Основной алгоритм ранжирования (например, CatBoost), используемый для генерации Base-line Ranking Scores и определения предварительных рангов документов.

Pair-Specific Value (Значение, специфичное для пары)

Метрика, связанная со Stored Search Pair, которая указывает на полезность (usefulness) документа в этой паре для соответствующего запроса. Примеры: исторический CTR документа по этому запросу или оценка асессора.

Pair-wise Similarity (Попарная схожесть)

Метрика, указывающая на степень схожести между Current Search Pair и Stored Search Pair. Может рассчитываться на основе схожести запросов, схожести документов или их комбинации.

Potential Rank-Adjustment Score (Потенциальная корректирующая оценка ранжирования)

Промежуточная оценка, рассчитываемая для Current Search Pair на основе конкретной Stored Search Pair. Обычно это результат взвешивания Pair-Specific Value на Pair-wise Similarity.

Rank-Adjustment Score (Корректирующая оценка ранжирования)

Итоговая оценка, используемая для корректировки (бустинга) Base-line Ranking Score. Она выбирается из набора Potential Rank-Adjustment Scores (например, максимальное значение или среднее из Топ-K).

Stored Search Pair (Сохраненная поисковая пара)

Историческая пара «запрос-документ», хранящаяся в базе данных вместе с ее Pair-Specific Value. Может быть основана на прошлых поисках (past search pair) или на данных асессоров (assessor-marked search pair).

Ключевые утверждения (Анализ Claims)

Патент фокусируется на методе переранжирования результатов поиска путем интеграции исторических данных о полезности поисковых пар.

Claim 1 (Независимый пункт): Описывает основной процесс.

1. Система имеет доступ к базе данных Stored Search Pairs, каждая из которых связана с Pair-Specific Value (показателем полезности).
2. При получении текущего запроса система использует MLA для ранжирования релевантных документов, присваивая им предварительные ранги (preliminary ranks). Формируются Current Search Pairs.
3. Для данной Current Search Pair система генерирует Rank-Adjustment Score. Эта оценка основана на: (i) Pair-Specific Value одной из сохраненных пар И (ii) Pair-wise Similarity между текущей и этой сохраненной парой.
4. Система переранжирует документ из Current Search Pair, используя Rank-Adjustment Score, так что новый ранг отличается от предварительного.

Ядро изобретения — это механизм бустинга текущего ранжирования на основе прошлых успехов. Если текущая ситуация (запрос и документ) похожа на прошлую ситуацию, которая была очень успешной (высокий Pair-Specific Value), то текущий документ получает дополнительный вес (Rank-Adjustment Score). Этот механизм работает поверх основного алгоритма ранжирования (MLA).

Claim 3 (Зависимый от 1): Уточняет механизм генерации Rank-Adjustment Score.

1. Для текущей пары система генерирует множество Potential Rank-Adjustment Scores, по одному для каждой из множества сохраненных пар.
2. В качестве итогового Rank-Adjustment Score выбирается максимальное значение (highest one) из этого множества потенциальных оценок.

Система ищет наиболее похожую и одновременно наиболее успешную прошлую пару. Бустинг определяется именно этим лучшим совпадением.

Claim 4 и 5 (Зависимые от 1 и 4): Описывают альтернативный механизм генерации Rank-Adjustment Score.

1. Система выбирает предопределенное количество (pre-determined number) максимальных (topmost ones) Potential Rank-Adjustment Scores.
2. (Claim 5) Итоговый Rank-Adjustment Score определяется путем усреднения (averaging) этих выбранных максимальных значений.

Это альтернативный подход, который сглаживает результат, используя не одну лучшую прошлую пару, а Топ-K лучших пар (потенциально реализуется через алгоритм K-Nearest Neighbors (KNN), как упомянуто в описании).

Claim 7 (Зависимый от 6): Уточняет механизм переранжирования.

1. Переранжирование основывается на комбинации (i) Rank-Adjustment Scores и (ii) Base-line Ranking Scores (базовых оценок, определенных MLA).

Изобретение не заменяет основной алгоритм ранжирования, а дополняет его. Финальный ранг — это результат совместного учета базовой релевантности и исторической полезности.

Claim 10 (Зависимый от 1): Уточняет расчет Pair-wise Similarity.

1. Схожесть между текущей и сохраненной парой определяется на основе как минимум одного из: (i) схожести текущего запроса и сохраненного запроса, (ii) схожести текущего документа и сохраненного документа.

Система может использовать различные подходы для определения схожести ситуаций. Она может сравнивать векторы запросов, векторы документов или их комбинацию.

Где и как применяется

Изобретение затрагивает несколько этапов поиска, включая офлайн-обработку данных и онлайн-ранжирование.

Офлайн-процессы (INDEXING / Data Acquisition)

Значительная часть работы происходит до момента поиска:

• Сбор и хранение Stored Search Pairs. Это включает логирование прошлых запросов и показанных документов.
• Расчет Pair-Specific Values. Это может происходить путем анализа логов взаимодействий пользователей (для расчета исторического CTR) или путем использования данных от асессоров (assessor-marked search pair).
• Векторизация запросов и документов для последующего быстрого сравнения (например, с использованием методов word2vec или более современных эмбеддингов, как указано в описании).

Онлайн-процессы (RANKING – L3/L4 или Reranking/Post-processing)

Основное применение патента происходит на поздних стадиях ранжирования или на этапе пост-обработки выдачи.

1. На входе (L1/L2/L3): Основной MLA (например, CatBoost) генерирует предварительный список результатов с Base-line Ranking Scores.
2. Обработка (Reranking): Система формирует Current Search Pairs. Для каждой пары она выполняет поиск похожих Stored Search Pairs в базе данных (используя векторное сравнение для расчета Pair-wise Similarity).
3. Вычисление: Генерируются Rank-Adjustment Scores на основе схожести и исторических Pair-Specific Values.
4. На выходе: Система генерирует Adjusted Ranking Scores путем комбинации базовых и корректирующих оценок и формирует финальный SERP.

На что влияет

• Все типы контента и запросов: Механизм универсален и может применяться к любым типам запросов и документов, для которых возможно накопление исторических данных о полезности.
• Запросы с богатой историей: Наибольшее влияние оказывается на запросы, которые похожи на часто задаваемые ранее запросы, по которым накоплена четкая статистика полезности (высокий или низкий CTR) или имеются оценки асессоров.
• YMYL и авторитетные тематики: Если Pair-Specific Values основаны на оценках асессоров (отражающих E-E-A-T), этот механизм может активно продвигать авторитетный контент, который ранее был высоко оценен по схожим запросам.

Когда применяется

Алгоритм применяется во время ранжирования при обработке поискового запроса.

• Условие активации: Наличие в базе данных Stored Search Pairs, которые имеют достаточную степень Pair-wise Similarity с текущей Current Search Pair.
• Исключения: Механизм может быть менее эффективен для абсолютно новых запросов о свежих событиях, для которых еще не существует релевантных исторических данных (Stored Search Pairs).

Пошаговый алгоритм

Процесс работы системы при обработке текущего запроса:

1. Получение запроса и первичное ранжирование:
   • Система получает текущий запрос.
   • Основной алгоритм ранжирования (MLA) определяет набор релевантных документов.
   • MLA вычисляет Base-line Ranking Scores для каждого документа на основе его признаков и признаков запроса. Документам присваиваются предварительные ранги.
2. Формирование текущих пар:
   • Система формирует набор Current Search Pairs (текущий запрос + каждый релевантный документ).
3. Цикл расчета корректирующих оценок (для каждой Current Search Pair):
   1. Расчет схожести: Система сравнивает текущую пару с множеством Stored Search Pairs из базы данных. Вычисляется Pair-wise Similarity (например, путем скалярного произведения или расчета векторной дистанции между запросами и/или документами).
   2. Генерация потенциальных оценок: Для каждой сохраненной пары рассчитывается Potential Rank-Adjustment Score. Он основывается на Pair-Specific Value (исторической полезности) сохраненной пары, взвешенной на Pair-wise Similarity.
   3. Выбор итоговой оценки: Система выбирает итоговый Rank-Adjustment Score из множества потенциальных оценок. В патенте описаны варианты:
      • Вариант А: Выбор максимального значения (Claim 3).
      • Вариант Б: Усреднение Топ-K максимальных значений (Claims 4, 5).
4. Переранжирование:
   • Для каждого документа система вычисляет Adjusted Ranking Score путем комбинации Base-line Ranking Score и Rank-Adjustment Score (например, взвешенная сумма).
   • Документы сортируются заново на основе Adjusted Ranking Scores. Новый ранг может отличаться от предварительного.
5. Выдача SERP: Формирование страницы результатов поиска с обновленным ранжированием.

Какие данные и как использует

Данные на входе

• Поведенческие факторы: Критически важны для формирования Pair-Specific Values для прошлых поисковых пар. В описании патента явно упоминается использование прошлого CTR (Click-Through-Rate) в качестве показателя полезности. Также используются данные о взаимодействиях пользователей с прошлыми документами.
• Данные асессоров: В патенте упоминаются assessor-marked search pairs. Оценки асессоров о полезности документа для запроса используются для формирования Pair-Specific Values.
• Контентные факторы (Текстовые/Векторные): Тексты (или векторные представления/эмбеддинги) текущего запроса, текущих документов, прошлых запросов и прошлых документов. Они необходимы для расчета Pair-wise Similarity.

Какие метрики используются и как они считаются

• Pair-Specific Value (Полезность): Метрика полезности исторической пары. Может быть реализована как:
  • Исторический CTR документа по данному запросу.
  • Оценка асессора (например, по шкале релевантности или качества).
  • Оценка, основанная на предполагаемом CTR (estimated CTR), базирующемся на рейтинге асессора.
• Pair-wise Similarity (Схожесть): Метрика схожести между текущей и исторической парой. Рассчитывается на основе векторов запросов и/или документов. В патенте упоминаются методы:
  • Скалярное произведение (scalar product) между векторами.
  • Векторная дистанция (vectorial distance) между векторами.
  • Комбинация (потенциально взвешенная) схожести запросов и схожести документов.
• Potential Rank-Adjustment Score: Рассчитывается как произведение (или другая функция) полезности и схожести.
  $$Score_{potential} = F(Value_{specific}, Similarity_{pair-wise})$$
• Rank-Adjustment Score: Выбирается из потенциальных оценок. Может быть рассчитан как максимум или среднее Топ-K (что может включать использование алгоритма K Nearest Neighbors (KNN) для идентификации ближайших пар).
  $$Score_{adjustment} = Max(Score_{potential\_1} … Score_{potential\_N})$$
  или
  $$Score_{adjustment} = Average(TopK(Score_{potential\_1} … Score_{potential\_N}))$$
• Adjusted Ranking Score: Комбинация базовой и корректирующей оценки. В описании упоминается взвешенная сумма (weighted sum).
  $$Score_{adjusted} = W_1 * Score_{base-line} + W_2 * Score_{adjustment}$$

Выводы

1. Историческая полезность как прямой фактор ранжирования: Патент описывает механизм, который напрямую переносит успех (высокий CTR или оценку асессора) прошлых пар «запрос-документ» на похожие текущие пары. Это подтверждает, что долгосрочные поведенческие сигналы и качество (E-E-A-T) являются фундаментальными для ранжирования.
2. Коррекция ошибок основного алгоритма: Система разработана для работы поверх основного MLA. Она может «спасти» документ, который был недооценен основным алгоритмом (низкий Base-line Score), если существует убедительное историческое доказательство его полезности в схожем контексте (высокий Rank-Adjustment Score).
3. Два измерения схожести: Схожесть пар определяется как схожестью запросов, так и схожестью документов. Это означает, что буст можно получить, если (А) ваш документ отвечает на похожий запрос или (Б) ваш документ похож на другой документ, который был успешен ранее.
4. Важность данных асессоров: Упоминание assessor-marked search pairs подтверждает, что оценки качества асессорами (которые лежат в основе метрик типа Proxima и оценки E-E-A-T) напрямую используются для формирования базы Pair-Specific Values и, следовательно, влияют на бустинг в этом алгоритме.
5. Эффект «Богатые богатеют»: Документы и сайты, которые постоянно демонстрируют высокую полезность, накапливают положительные Stored Search Pairs в базе данных, что обеспечивает им систематическое преимущество в будущем при обработке похожих запросов.

Практика

Best practices (это мы делаем)

• Максимизация CTR и вовлеченности (Usefulness): Поскольку исторический CTR является одним из ключевых вариантов Pair-Specific Value, необходимо постоянно работать над привлекательностью сниппетов и удержанием пользователя на странице. Чем выше историческая полезность страницы по кластеру запросов, тем выше будет Rank-Adjustment Score в будущем.
• Фокус на E-E-A-T и качестве контента: Так как оценки асессоров также формируют Pair-Specific Values, необходимо создавать контент, который получит высокие оценки качества. Это обеспечит попадание в базу успешных пар и будущий бустинг по схожим запросам.
• Широкий охват семантического кластера: Поскольку схожесть запросов играет ключевую роль, важно, чтобы страница была релевантна широкому спектру синонимичных и близких по смыслу запросов. Это увеличивает вероятность совпадения с успешными Stored Search Pairs.
• Создание уникального и ценного контента (Document Similarity): Если ваш документ уникален и полезен, он может стать эталонным Stored Search Pair. В будущем другие похожие документы могут сравниваться с ним, но именно ваш оригинал будет иметь максимальную полезность в базе.

Worst practices (это делать не надо)

• Накрутка поведенческих факторов: Краткосрочные манипуляции CTR могут быть отфильтрованы и не привести к формированию стабильных Pair-Specific Values. Алгоритм опирается на агрегированные исторические данные.
• Создание контента низкого качества (Low E-E-A-T): Контент, получающий низкие оценки асессоров или демонстрирующий низкую вовлеченность (например, высокий Bounce Rate, короткие клики), сформирует низкие Pair-Specific Values. Это не только лишит его бустинга, но и может негативно повлиять на оценку похожих страниц в будущем.
• Игнорирование оптимизации сниппетов: Плохие сниппеты ведут к низкому CTR, что напрямую снижает Pair-Specific Value и лишает страницу преимуществ от этого механизма переранжирования.
• Узкая оптимизация под один запрос: Фокусировка только на текстовой релевантности для одного запроса без учета общей полезности для пользователя становится менее эффективной, так как механизм может предпочесть менее релевантный (по мнению MLA), но исторически более полезный документ.

Стратегическое значение

Этот патент имеет высокое стратегическое значение, так как он формализует механизм переноса доверия и успеха. Он подтверждает, что Яндекс строит системы, которые учатся на прошлом опыте и активно используют его для корректировки текущих результатов. Для SEO это означает, что репутация и история взаимодействий имеют решающее значение. Долгосрочная стратегия должна быть направлена на построение ресурса, который систематически решает задачи пользователей лучше конкурентов, накапливая базу успешных «Stored Search Pairs».

Практические примеры

Сценарий 1: Использование исторического CTR

1. Исторические данные: В базе есть Stored Search Pair: Запрос А («как выбрать ноутбук для учебы»), Документ X (обзорная статья). Pair-Specific Value = 0.25 (очень высокий CTR).
2. Текущий поиск: Пользователь вводит Запрос Б («лучший студенческий лэптоп»). Основной MLA ранжирует Документ X на 5 позицию (средний Base-line Score).
3. Действие системы: Система определяет высокую Pair-wise Similarity между текущей парой (Б, X) и сохраненной парой (А, X) (запросы очень похожи, документы идентичны).
4. Расчет: Генерируется высокий Rank-Adjustment Score из-за высокого Pair-Specific Value (0.25) и высокой схожести.
5. Результат: Adjusted Ranking Score значительно возрастает. Документ X перемещается с 5 на 1 позицию.

Сценарий 2: Использование оценок асессоров (E-E-A-T)

1. Исторические данные: В базе есть Stored Search Pair (асессорская разметка): Запрос А («лечение простуды»), Документ X (статья на авторитетном мед. портале). Pair-Specific Value = 0.95 (высшая оценка качества/полезности).
2. Текущий поиск: Пользователь вводит Запрос Б («что делать если заболел ОРВИ»). MLA ранжирует Документ Y (похожая статья на том же портале) на 8 позицию.
3. Действие системы: Система определяет высокую Pair-wise Similarity между текущей парой (Б, Y) и сохраненной парой (А, X) (запросы похожи, документы похожи по содержанию и источнику).
4. Расчет: Генерируется высокий Rank-Adjustment Score из-за высокого Pair-Specific Value (0.95).
5. Результат: Документ Y получает значительный буст и поднимается в Топ-3, вытесняя менее авторитетные, но текстово релевантные результаты.

Вопросы и ответы