Как Google использует «Фразовую модель» (Phrase Model) для прогнозирования качества сайта на основе статистики использования N-грамм

Термины и определения

Aggregate Site Quality Score (Агрегированная оценка качества сайта)

Промежуточная оценка, полученная путем усреднения (часто взвешенного) Average Baseline Site Quality Scores для всех фраз, найденных на новом сайте.

Average Baseline Site Quality Score (Средняя базовая оценка качества сайта)

Среднее значение Baseline Site Quality Scores для группы сайтов, которые используют определенную фразу со схожей относительной частотой (т.е. находятся в одном Bucket).

Baseline Site Quality Score (Базовая оценка качества сайта)

Предварительно определенная оценка качества сайта, используемая как эталон (ground truth) для обучения модели. Может быть получена с помощью ресурсоемких процессов.

Buckets (Корзины/Сегменты)

Диапазоны относительной частоты. Сайты сегментируются в эти корзины на основе того, как часто конкретная фраза встречается на их страницах.

N-gram (N-грамма) / Phrase (Фраза)

Последовательность из N элементов (токенов). В патенте упоминаются 2-граммы, 3-граммы, 4-граммы и 5-граммы.

Neutral Score (Нейтральная оценка)

Глобальная средняя оценка качества всех сайтов. Используется для сглаживания (Smoothing) и для фильтрации фраз, которые не несут информации о качестве.

Phrase Model (Фразовая модель)

Ядро изобретения. Структура данных, которая для каждой фразы хранит соответствие между диапазонами относительной частоты (Buckets) и Average Baseline Site Quality Score.

Predicted Site Quality Score (Прогнозируемая оценка качества сайта)

Итоговая оценка качества нового сайта, полученная на основе Aggregate Site Quality Score. Используется как входной сигнал для Ranking Engine.

Relative Frequency Measure (Мера относительной частоты)

Метрика, показывающая, как часто фраза встречается на сайте. Рассчитывается как количество страниц, содержащих фразу, деленное на общее количество страниц на сайте.

Smoothing (Сглаживание)

Процесс корректировки агрегированной оценки, если небольшое количество фраз оказывает доминирующее влияние на расчет. Выполняется путем интерполяции с Neutral Score.

Ключевые утверждения (Анализ Claims)

Claim 1 (Независимый пункт): Описывает полный метод прогнозирования качества сайта и его использования в ранжировании.

1. Получение базовых оценок: Система получает Baseline Site Quality Scores для набора предварительно оцененных сайтов.
2. Генерация Фразовой Модели: Создается Phrase Model. Она определяет для каждой фразы соответствие между её Relative Frequency Measure и Average Baseline Site Quality Score.
   • Относительная частота измеряет, на скольких страницах сайта есть фраза относительно общего числа страниц.
   • Средняя базовая оценка качества – это усредненное качество тех сайтов из обучающей выборки, которые используют данную фразу с данной частотой.
3. Анализ нового сайта: Для нового сайта (не из обучающей выборки) вычисляется относительная частота для каждой найденной фразы.
4. Расчет агрегированной оценки: Определяется Aggregate Site Quality Score.
   • Для каждой фразы из Phrase Model извлекается соответствующая средняя базовая оценка качества.
   • Агрегированная оценка рассчитывается как мера центральной тенденции (например, среднее) этих извлеченных оценок.
5. Определение прогнозируемой оценки: На основе агрегированной оценки определяется Predicted Site Quality Score.
6. Использование в ранжировании: Система генерирует Ranking Scores для ресурсов. При расчете используются как базовые оценки качества (для известных сайтов), так и прогнозируемые оценки качества (для новых сайтов).

Claim 2 (Зависимый): Уточняет, что фразы являются N-граммами (2, 3, 4 или 5-граммы).

Где и как применяется

Изобретение применяется на этапе индексирования для вычисления статических сигналов качества сайта и на этапе ранжирования.

INDEXING – Индексирование и извлечение признаков
Основное применение патента. Site Scoring Engine анализирует контент сайта.

1. Извлечение признаков: Система токенизирует контент страниц и извлекает N-граммы.
2. Расчет частот: Вычисляется Relative Frequency Measure для всех N-грамм на уровне сайта.
3. Прогнозирование качества: Используя предварительно созданную Phrase Model, система рассчитывает Predicted Site Quality Score.
4. Сохранение: Прогнозируемая оценка сохраняется в индексе как характеристика сайта.

RANKING – Ранжирование
Ranking Engine использует сохраненный Predicted Site Quality Score (или Baseline Site Quality Score, если он доступен) как один из сигналов для определения позиции ресурсов с этого сайта.

Офлайн-процессы (ML Training)
Генерация самой Phrase Model происходит офлайн. Это процесс машинного обучения, требующий анализа большого корпуса документов с известными Baseline Site Quality Scores.

Входные данные:

• Текстовое содержимое всех страниц сайта.
• Общее количество страниц на сайте.
• Предварительно рассчитанная Phrase Model.
• (Для обучения модели): Baseline Site Quality Scores.

Выходные данные:

• Predicted Site Quality Score для анализируемого сайта.

На что влияет

• Конкретные типы контента и ниши: Наибольшее влияние оказывается на сайты с большим объемом текста. Особенно сильно влияет на ниши, где существует четкое различие в языке между экспертными и низкокачественными ресурсами (например, YMYL-тематики vs спам или MFA-сайты).
• Лингвистические особенности и грамотность: Патент упоминает, что токенизация может сохранять ошибки (орфографические, грамматические), существующие в оригинальном тексте. Это означает, что модель неявно учитывает качество языка, так как N-граммы с ошибками будут коррелировать с качеством сайтов, на которых они встречаются.
• Отдельные страницы: Хотя фокус на качестве сайта, в описании патента упоминается, что Phrase Model может использоваться для прогнозирования качества меньших коллекций текста (страницы, абзаца).

Когда применяется

• Цель применения: Основная цель — оценить качество сайтов, для которых отсутствуют Baseline Site Quality Scores (например, новые сайты).
• Ограничения: В патенте указано, что прогноз не может быть сделан, если на новом сайте нет фраз, присутствующих в Phrase Model, или если их слишком мало (упоминаются пороги, например, минимум 3, 5, 10, 50 фраз).

Пошаговый алгоритм

Процесс А: Генерация Фразовой Модели (Офлайн-обучение)

1. Сбор данных и Извлечение N-грамм: Определяется коллекция сайтов с известными Baseline Site Quality Scores. Извлекаются все N-граммы (например, 2-5 граммы). Токенизация может сохранять ошибки из оригинального текста.
2. Расчет относительной частоты: Для каждой пары (сайт, N-грамма) вычисляется Relative Frequency Measure (RFM): (Количество страниц с N-граммой) / (Общее количество страниц на сайте).
3. Сегментация (Bucketing): Для каждой N-граммы сайты делятся на сегменты (Buckets) в зависимости от их RFM (например, 0-5%, 5-10% и т.д.).
4. Расчет средних оценок: Для каждого сегмента вычисляется Average Baseline Site Quality Score, усредняя базовые оценки качества сайтов, попавших в этот сегмент.
5. Формирование модели: Генерируется Phrase Model, которая хранит для каждой N-граммы вектор средних оценок качества по сегментам.
6. Фильтрация (Опционально): Фразы, чьи средние оценки качества близки к глобальной средней (Neutral Score), могут быть исключены из модели, так как они не информативны (например, фраза "on the").

Процесс Б: Прогнозирование качества нового сайта (Индексирование)

1. Анализ нового сайта: Для нового сайта извлекаются все N-граммы и рассчитываются их RFM.
2. Запрос к модели: Для каждой N-граммы система обращается к Phrase Model и определяет, в какой сегмент (Bucket) она попадает исходя из её RFM.
3. Извлечение оценок: Из модели извлекается Average Baseline Site Quality Score, соответствующая этому сегменту.
4. Агрегация: Вычисляется Aggregate Site Quality Score путем усреднения всех извлеченных оценок. Может использоваться взвешенное среднее (веса могут зависеть от частоты фразы или отклонения от Neutral Score).
5. Проверка на доминирование и Сглаживание (Опционально): Проверяется, не доминирует ли небольшое число фраз в расчете (например, вес топ-N фраз превышает порог). Если да, выполняется Smoothing путем линейной интерполяции с Neutral Score.
6. Прогнозирование и Применение: Финальная оценка используется как Predicted Site Quality Score и передается в Ranking Engine.

Какие данные и как использует

Данные на входе

• Контентные факторы: Текстовое содержимое страниц сайта. Критически важно: патент упоминает возможность токенизации без нормализации, т.е. с сохранением орфографических и грамматических ошибок из оригинального текста.
• Структурные факторы: Общее количество страниц на сайте (используется как знаменатель при расчете RFM).
• Лингвистические данные: N-граммы (фразы длиной от 2 до 5 токенов).
• Ссылочные факторы (Косвенно): Упоминается, что при анализе страницы может учитываться текст из внешних источников, например, анкорный текст (anchor text) ссылок, указывающих на страницу.
• Системные данные (для обучения): Baseline Site Quality Scores.

Какие метрики используются и как они считаются

• Relative Frequency Measure (RFM): $RFM = \frac{\text{Число страниц с фразой}}{\text{Общее число страниц на сайте}}$.
• Average Baseline Site Quality Score: Среднее (арифметическое, геометрическое, медиана) базовых оценок качества сайтов в определенном сегменте (Bucket).
• Aggregate Site Quality Score: Среднее (часто взвешенное) значение Average Baseline Site Quality Scores для всех фраз нового сайта.
• Weight Distribution Quotient (Квотиент распределения весов): Используется для определения необходимости сглаживания. $Quotient = \frac{\text{Сумма весов Топ-N фраз}}{\text{Сумма весов всех фраз}}$. (N может быть 10-50).
• Smoothing (Сглаживание): Если Quotient превышает порог (например, 0.1-0.4), используется линейная интерполяция: $\text{Score}_{\text{smoothed}} = (\text{Score}_{\text{aggregate}} \times \alpha) + (\text{Score}_{\text{neutral}} \times (1 - \alpha))$, где $\alpha$ – коэффициент интерполяции (может быть функцией от Quotient).

1. Качество как лингвистический паттерн: Патент демонстрирует механизм оценки качества сайта, основанный исключительно на статистическом анализе текста (N-грамм). Система учится ассоциировать определенные лингвистические паттерны с высоким или низким качеством.
2. Важность распределения контента (Relative Frequency): Ключевым фактором является не просто наличие фразы, а то, на каком проценте страниц сайта она встречается (RFM). Одно и то же слово может быть сигналом высокого качества при одной частоте и низкого — при другой (например, при переспаме).
3. Оценка на уровне сайта (Site-Wide): Анализ проводится на уровне всего сайта. RFM учитывает общее количество страниц. Это подчеркивает важность согласованности качества всего ресурса.
4. Неявный учет грамотности и стиля: Поскольку система может токенизировать текст без исправления ошибок, N-граммы, содержащие орфографические и грамматические ошибки или неестественные конструкции (например, плохая ИИ-генерация), становятся частью модели. Частое использование таких N-грамм будет коррелировать с низким качеством.
5. Масштабируемость и автоматизация: Механизм позволяет автоматически прогнозировать Site Quality Score для огромного количества сайтов, особенно новых, не требуя ресурсоемких базовых вычислений.
6. Защита от манипуляций: Механизм Smoothing защищает систему от чрезмерного влияния небольшого числа фраз, предотвращая попытки манипулировать оценкой.
7. Связь с Google Panda: Учитывая изобретателя (Navneet Panda) и фокус на контент-анализе, этот патент тесно связан с механизмами алгоритма Google Panda и его наследников (Helpful Content System).

Best practices (это мы делаем)

• Развитие экспертного языка и авторского стиля: Стремитесь к тому, чтобы лингвистические паттерны сайта соответствовали паттернам авторитетных ресурсов в нише. Используйте специализированную терминологию и уникальные N-граммы, которые естественно встречаются в экспертном контенте.
• Поддержание высоких редакционных стандартов: Обеспечивайте грамотность и чистоту языка на всем сайте. Поскольку ошибки могут сохраняться при токенизации, паттерны неграмотного письма будут коррелировать с низким качеством в Phrase Model.
• Контроль распределения контента и Boilerplate: Анализируйте шаблонный текст (boilerplate), который появляется на большом проценте страниц (высокий RFM). Убедитесь, что он качественный и не содержит фраз, ассоциирующихся со спамом. Также следите за естественным распределением ключевых тем по сайту.
• Поддержание консистентности качества: Поскольку оценка основана на анализе всего сайта (RFM зависит от общего числа страниц), необходимо поддерживать высокое качество всех индексируемых страниц. Большое количество низкокачественных страниц негативно повлияет на метрики.
• Анализ N-грамм конкурентов: Изучайте, какие 2-5-граммы используют лидеры ниши и как они распределены. Это поможет понять лингвистические ожидания Phrase Model для вашей тематики.

Worst practices (это делать не надо)

• Использование низкокачественного сгенерированного или "spun" контента: Такой контент часто содержит неестественные N-граммы или повторяющиеся паттерны, которые легко идентифицируются моделью и коррелируют с низкокачественными сайтами.
• Keyword Stuffing и неестественное повторение: Попытки манипулировать частотой фраз приведут к аномальным значениям RFM. Если модель обучена распознавать это как спам (например, коммерческая фраза на 95% страниц), это снизит оценку качества.
• Игнорирование качества языка и ошибок: Допущение большого количества орфографических, грамматических и стилистических ошибок. Система зафиксирует эти ошибки как часть N-грамм и свяжет их с низким качеством.
• Злоупотребление шаблонным контентом низкого качества: Использование стандартных, неуникальных шаблонов (boilerplate) на всех страницах, если эти шаблоны используются на сайтах низкого качества.

Стратегическое значение

Патент подтверждает, что Google разработал сложные механизмы для оценки качества контента (и E-E-A-T) через прямой лингвистический анализ. Язык сайта сам по себе является сигналом ранжирования. Стратегия должна фокусироваться на создании контента, который не только информативен, но и написан языком, соответствующим ожиданиям качества в данной нише. Это механизм, позволяющий оценить E-E-A-T через призму фактически созданного контента.

Практические примеры

Сценарий: Оценка нового медицинского сайта

1. Анализ N-граммы: Система анализирует 3-грамму "клинические исследования показали".
2. Данные из Phrase Model (Пример):
   • Сайты уровня WebMD/Mayo Clinic (High-Quality) используют эту фразу на 15% своих страниц. Среднее качество в этом сегменте (Bucket) = 0.9.
   • Сайты с медицинским спамом (Low-Quality) используют эту фразу на 80% страниц (манипуляция). Среднее качество в этом сегменте = 0.1.
3. Прогнозирование: Новый сайт публикует 100 статей. Фраза встречается на 18 страницах (RFM = 18%).
4. Расчет: Система определяет, что 18% попадает в сегмент, где среднее качество = 0.9. Эта высокая оценка используется при расчете Aggregate Site Quality Score.
5. Результат: Сайт получает буст к прогнозируемому качеству благодаря тому, что его лингвистический паттерн соответствует паттернам авторитетных медицинских ресурсов, а не спамных.