Как Google использует LLM для генерации поисковых сводок (SGE), основываясь на контенте веб-сайтов, и итеративно уточняет ответы

Термины и определения

LLM (Large Language Model)

Большая языковая модель. Генеративная модель (например, PaLM, LaMDA), используемая для обработки входных данных и генерации сводки.

NL based summary (Сводка на естественном языке)

Генеративный ответ, созданный LLM в ответ на запрос (аналог SGE ответа).

SRD (Search Result Document)

Документ результата поиска. Веб-страница или ресурс, используемый как источник для генерации сводки.

Additional Content (Дополнительный контент)

Контент, который подается на вход LLM помимо самого запроса. В основном извлекается из SRDs.

Linkifying (Линковка)

Процесс добавления ссылок к частям NL based summary, которые ведут на SRDs, подтверждающие эти утверждения (атрибуция/цитирование).

Confidence Measure (Мера уверенности)

Метрика, оценивающая достоверность или точность части или всей NL based summary.

Query-dependent measures

Метрики SRD, зависящие от конкретного запроса (например, позиция в ранжировании, CTR для этого запроса, локальность, язык).

Query-independent measures

Метрики SRD, не зависящие от запроса (например, общая популярность, авторитетность/trustworthiness measure, свежесть).

User-dependent measures

Метрики SRD, зависящие от пользователя (например, соответствие интересам в профиле, история посещений).

Related/Recent/Implied Queries

Связанные (часто задаваемые вместе), недавние (в истории пользователя) или подразумеваемые (автоматически сгенерированные на основе контекста) запросы, используемые для расширения набора SRDs.

Ключевые утверждения (Анализ Claims)

Патент содержит несколько ключевых независимых пунктов, описывающих разные аспекты системы.

Claim 1 (Независимый пункт): Динамическое обновление сводки на основе взаимодействия (Итеративное уточнение).

Описывает метод реагирования на взаимодействие пользователя с результатами поиска после генерации первоначальной сводки.

1. Система генерирует первоначальную NL based summary с помощью LLM на основе входных данных (input).
2. Сводка и ссылки на SRDs отображаются пользователю.
3. Система обнаруживает взаимодействие пользователя с конкретным SRD (например, клик и просмотр).
4. В ответ система генерирует пересмотренные входные данные (revised input). Revised input отражает факт произошедшего взаимодействия (т.е. учитывает, что пользователь ознакомился с контентом).
5. LLM (тот же или другой) обрабатывает revised input и генерирует пересмотренную сводку (revised NL based summary), которая затем отображается.

Это механизм для эволюции генеративного ответа в реальном времени. Система интерпретирует взаимодействие с источником как сигнал о получении пользователем информации и адаптирует последующую сводку, чтобы сделать ее более полезной (например, убрав уже известное или углубив тему).

Claim 13 (Независимый пункт): Генерация сводки на основе SRDs и аннотации уверенности (Grounded Generation).

Описывает основной процесс генерации сводки с акцентом на использовании результатов поиска и оценке качества ответа.

1. В ответ на запрос система выбирает набор SRDs.
2. Система генерирует вывод LLM, обрабатывая контент из каждого SRD в наборе.
3. Генерируется NL based summary.
4. Система генерирует меру уверенности (Confidence Measure) для части этой сводки.
5. Сводка отображается пользователю с аннотацией уверенности (confidence annotation), соответствующей рассчитанной мере.

Это фундаментальный механизм "заземления" (grounding). LLM обязан использовать контент из отобранных веб-источников, а не только свои внутренние знания. Кроме того, система обязана оценивать уверенность в сгенерированном тексте.

Зависимые пункты (Детализация механизмов):

• Механизм обновления (Claims 8, 9): Обновление достигается либо путем изменения промпта (revised prompt) для того же LLM (указывая на знакомство пользователя с контентом), либо использованием другого LLM, специально настроенного (fine-tuned) для учета известных фактов.
• Выбор SRDs (Claims 14-17): SRDs выбираются на основе различных признаков (query-dependent, query-independent, user-dependent). Также могут включаться SRDs по связанным запросам (related queries), если корреляция достаточно сильна.
• Линковка (Claims 18-20): Система добавляет кликабельные ссылки на SRDs к тем частям сводки, которые подтверждаются (verifiable) контентом этих SRDs.

Где и как применяется

Изобретение затрагивает несколько ключевых этапов поиска, интегрируя генеративные модели с традиционным ранжированием и формированием выдачи.

INDEXING – Индексирование и извлечение признаков
На этом этапе рассчитываются Query-independent measures (например, авторитетность/trustworthiness, свежесть), которые критичны для последующего отбора источников.

RANKING – Ранжирование
На этом этапе происходит отбор кандидатов (SRDs) и расчет Query-dependent measures (например, позиция, релевантность) и User-dependent measures.

QUNDERSTANDING – Понимание Запросов
Система идентифицирует связанные, недавние или подразумеваемые запросы для расширения контекста. Также может происходить выбор конкретной LLM для использования (Model Routing).

METASEARCH – Метапоиск и Смешивание / RERANKING – Переранжирование
Это основной этап применения патента. Здесь происходит:

• Финальный отбор набора SRDs.
• Извлечение и подготовка контента для LLM.
• Генерация NL based summary.
• Верификация, расчет Confidence Measures и Linkifying.
• Обработка взаимодействий и динамическое обновление сводки в реальном времени.

Входные данные:

• Исходный запрос (и связанные/недавние запросы).
• Набор ранжированных SRDs и их контент (текст, изображения, видео).
• Метрики SRDs (Query/User/Independent measures).
• Данные профиля пользователя и контекст.
• Сигналы взаимодействия пользователя с выдачей (клики, dwell time).

Выходные данные:

• NL based summary (первоначальная или пересмотренная).
• Ссылки на источники (атрибуция).
• Аннотации уверенности.

На что влияет

• Типы контента: Влияет на все типы контента. Система извлекает информацию из текста, изображений (через подписи, распознавание объектов) и видео (через транскрипции).
• Специфические запросы: Наибольшее влияние на информационные и сложные запросы, требующие синтеза информации из нескольких источников.
• Конкретные ниши: Критическое влияние в YMYL-тематиках, где авторитетность источников (trustworthiness) и возможность верификации играют ключевую роль.

Когда применяется

• Триггеры активации (Генерация): Применяется, когда система решает использовать генеративную модель для ответа. Это может зависеть от типа запроса и качества доступных SRDs.
• Триггеры активации (Обновление): Механизм обновления (Claim 1) активируется при обнаружении взаимодействия пользователя (например, просмотр SRD в течение порогового времени).
• Условия для Linkifying: Применяется, когда система может верифицировать утверждение в сводке, сравнив его с источником (например, если расстояние между эмбеддингами ниже порога).

Пошаговый алгоритм

Процесс А: Генерация первоначальной сводки (на основе FIG. 2)

1. Получение запроса.
2. Отбор набора SRDs:
   • Выбор Query-responsive SRDs на основе всех трех типов метрик.
   • (Опционально) Расширение набора за счет SRDs из связанных, недавних или подразумеваемых запросов, если корреляция высока.
3. Подготовка входных данных для LLM:
   • Извлечение контента (текст, изображения, видео) из каждого отобранного SRD.
   • (Опционально) Суммаризация контента, если он слишком велик.
   • (Опционально) Добавление идентификаторов источников (Source Identifiers) к контенту.
4. Генерация сводки (LLM Processing): Обработка подготовленных входных данных с помощью LLM для создания NL based summary.
5. Постобработка (Верификация и Аннотация):
   • Определение SRDs, которые подтверждают части сводки (например, с помощью сравнения эмбеддингов - FIG. 3).
   • Расчет финальных Confidence Measures.
6. Рендеринг: Отображение NL based summary пользователю, включая ссылки (Linkifying) и аннотации уверенности.

Процесс Б: Динамическое обновление сводки (на основе FIG. 4, Claim 1)

1. Мониторинг взаимодействия: После Процесса А система отслеживает взаимодействие пользователя с SRDs.
2. Обнаружение взаимодействия: Фиксация факта просмотра конкретного SRD.
3. Подготовка пересмотренных входных данных (Revised Input): Создание новых входных данных для LLM, отражающих факт ознакомления пользователя с контентом. Это достигается через измененный промпт (например, "Учитывая, что пользователь уже знает X...") или использование специально настроенного LLM.
4. Генерация пересмотренной сводки: Обработка Revised Input для создания Revised NL based summary.
5. Рендеринг обновления: Замена первоначальной сводки на пересмотренную в интерфейсе пользователя.

Какие данные и как использует

Данные на входе

Система использует разнообразные данные для отбора источников и генерации сводки:

• Контентные факторы: Текст из SRDs. Система извлекает релевантные фрагменты текста.
• Мультимедиа факторы: Данные из изображений и видео в SRDs. Для изображений: автогенерируемые подписи (image captioning model), распознанный текст, дескрипторы объектов (object detection model). Для видео: автоматически сгенерированные транскрипции.
• Сигналы Ранжирования (Метрики SRD): Для отбора SRDs используются:
  • Query-dependent measures: Позиция в ранжировании, CTR для запроса, локальность, язык.
  • Query-independent measures: Авторитетность (trustworthiness measure), общая популярность, свежесть (freshness measure).
  • User-dependent measures: Соответствие профилю пользователя, истории поиска.
• Поведенческие факторы: Взаимодействие пользователя с выдачей в реальном времени (клики на SRDs, dwell time) используется для запуска динамического обновления сводки. Логи запросов используются для определения related queries.
• Пользовательские факторы: Профиль пользователя используется для определения знакомства с контентом (FIG. 6), что влияет на генерацию первоначальной сводки (персонализация промпта).

Какие метрики используются и как они считаются

• Метрики для отбора SRD: Используются стандартные метрики ранжирования (описанные выше) для фильтрации и выбора наилучших источников для подачи в LLM.
• Magnitude of Correlation (Величина корреляции): Метрика для определения связанных запросов. Основана на частоте совместного появления запросов в сессиях.
• Метрики Верификации (для Linkifying):
  • Сравнение Эмбеддингов: Система генерирует эмбеддинги для утверждения в сводке и для контента SRD с помощью модели-энкодера (encoder model).
  • Distance Measure (Мера расстояния): Рассчитывается расстояние между эмбеддингами. Если расстояние меньше порога, утверждение считается верифицированным.
• Confidence Measure (Мера уверенности): Рассчитывается для частей сводки. Может основываться на внутренних оценках LLM, метриках авторитетности (trustworthiness) подтверждающих источников и/или количестве подтверждающих источников.

1. "Заземление" (Grounding) LLM на результатах поиска: Ключевой вывод – Google не полагается только на внутренние знания LLM. Система активно использует контент из актуальных результатов поиска (SRDs) в качестве входных данных для LLM. Это критически важно для обеспечения точности, актуальности и снижения галлюцинаций.
2. Ранжирование определяет генерацию: Отбор SRDs для генерации сводки напрямую зависит от метрик ранжирования (Query-dependent, Query-independent, User-dependent). Чтобы участвовать в генеративной сводке, сайт должен сначала высоко ранжироваться по релевантным запросам и быть авторитетным.
3. Верификация и Атрибуция (Linkifying): Система использует технические методы (сравнение эмбеддингов) для проверки того, подтверждает ли источник утверждение в сводке. Только верифицированные утверждения могут получать атрибуцию (ссылку). Это подчеркивает важность четкости и фактологичности контента.
4. Меры уверенности (Confidence Measures): Google активно рассчитывает и может отображать уровень уверенности в сгенерированном контенте. Уверенность зависит от качества и авторитетности используемых источников (SRDs).
5. Динамическое и Итеративное обновление: Генеративная сводка не статична. Патент описывает механизм (Claim 1), где сводка переписывается в реальном времени по мере того, как пользователь кликает на источники. Система адаптирует ответ, предполагая, что пользователь усвоил информацию из просмотренного источника.
6. Мультимодальность ввода: Контент для LLM извлекается не только из текста, но и из изображений и видео на страницах SRDs, подчеркивая важность оптимизации всех типов медиа.

Best practices (это мы делаем)

• Обеспечение высокого ранжирования и авторитетности (E-E-A-T): Это фундаментальная задача. Чтобы контент был рассмотрен как источник (SRD), он должен быть отобран системой на основе стандартных метрик, включая авторитетность (trustworthiness measure). Работа над E-E-A-T критически важна.
• Фокус на четкости, структуре и фактологичности контента: Оптимизируйте контент для верификации (Linkifying). Используйте явные ответы на вопросы, четкие определения и структурированные данные. Контент должен быть написан так, чтобы его эмбеддинг точно соответствовал потенциальному утверждению в сводке.
• Оптимизация мультимедиа контента: Поскольку система извлекает данные из изображений и видео, необходимо оптимизировать эти активы. Предоставляйте детальные текстовые описания (alt-текст, подписи) для изображений и точные транскрипции для видео, так как эта информация используется как входные данные для LLM.
• Построение тематического авторитета (Topical Authority): Поскольку система может использовать SRDs из связанных и недавних запросов, важно полностью покрывать тему. Это увеличивает вероятность того, что ваш сайт будет использован как источник для широкого спектра запросов в рамках кластера.
• Анализ поискового пути и итераций: Учитывайте механизм итеративного уточнения. Предоставляйте как базовую информацию (для первичной сводки), так и контент для углубленного изучения (для пересмотренной сводки после взаимодействия пользователя).

Worst practices (это делать не надо)

• Создание контента без четкой структуры («Вода»): Контент, из которого сложно извлечь конкретные факты или ответы, будет игнорироваться при формировании входных данных для LLM или не пройдет этап верификации.
• Использование двусмысленных или неподтвержденных утверждений: Система верификации, основанная на сравнении эмбеддингов, требует высокой степени семантического соответствия. Двусмысленный контент не получит атрибуции.
• Игнорирование технической оптимизации для извлечения контента: Блокировка или затруднение извлечения основного контента (включая изображения и видео) помешает системе использовать сайт в качестве источника для сводки.
• Фокус только на тексте, игнорируя мультимедиа: Пренебрежение оптимизацией изображений и видео снижает общий объем контента, который система может извлечь из SRD для генерации сводки.

Стратегическое значение

Этот патент описывает архитектуру генеративного поиска (SGE/AI Overviews). Стратегическое значение для SEO заключается в переходе от борьбы за позиции к борьбе за «цитирование» (linkifying) внутри генеративного ответа. Видимость теперь означает не только позицию в списке ссылок, но и присутствие контента и атрибуции в NL based summary. Долгосрочная стратегия должна быть направлена на создание наиболее авторитетного, четкого и легко извлекаемого контента в нише.

Практические примеры

Сценарий 1: Оптимизация статьи для верификации (Linkifying)

• Задача: Добиться, чтобы статья о пользе кофе получила ссылку из генеративной сводки.
• Действия: Вместо общего текста вроде "Многие считают кофе полезным...", использовать четкие утверждения: "Кофе повышает уровень энергии и способствует снижению веса благодаря содержанию кофеина и антиоксидантов".
• Обоснование (Патент): Система верификации (FIG. 3) сравнивает эмбеддинг утверждения в сводке с эмбеддингом текста источника. Четкое утверждение с большей вероятностью будет иметь близкий эмбеддинг к тому, что сгенерирует LLM, и получит ссылку.

Сценарий 2: Адаптация контента под динамическое обновление

• Задача: Удержать пользователя при изучении сложной темы (например, настройка роутера).
• Действия: Разделить контент на логические блоки: (1) Вход в систему, (2) Базовые настройки, (3) Расширенные настройки.
• Обоснование (Патент): Если пользователь кликнет на источник по блоку (1), система может обновить сводку (FIG. 4, Claim 1), убрав информацию о входе и сделав акцент на блоках (2) и (3). Система перегенерирует промпт, предполагая, что пользователь уже знает, как войти в систему.