Как Google фильтрует поисковые подсказки (Autocomplete) на основе оценок безопасности контента в результатах поиска

Термины и определения

Candidate Search Suggestion (Кандидат в поисковые подсказки)

Запрос, который система предсказывает как вероятное завершение частичного запроса, введенного пользователем.

Content Rating (Рейтинг контента)

Метка или оценка, присвоенная результату поиска (документу, видео), указывающая на характер контента. Например, возрастные ограничения (suitable for all ages, suitable for adults), наличие сцен насилия, ненормативной лексики и т.д.

Disallowed List / Prohibited List (Список запрещенных подсказок)

Список запросов, которые не должны показываться в качестве подсказок. Генерируется на основе анализа Content Ratings в результатах поиска.

Partial Search Query (Частичный поисковый запрос)

Один или несколько символов, введенных пользователем в строку поиска.

Previously Submitted Search Queries (Ранее отправленные поисковые запросы)

Логи запросов, используемые для офлайн-анализа и генерации списка запрещенных подсказок.

Safety Score (Оценка безопасности)

Метрика, связанная с запросом, часто основанная на количестве результатов поиска с определенным Content Rating. Используется для определения, следует ли добавить запрос в Disallowed List.

Safety Score Server (Сервер оценки безопасности)

Компонент системы, ответственный за генерацию, хранение и предоставление данных о безопасности запросов (списков или оценок).

Suggestion Completion Server (Сервер завершения подсказок)

Компонент системы (Autocomplete), который генерирует кандидатов в подсказки и выполняет их фильтрацию.

Threshold Value (Пороговое значение)

Критерий для определения безопасности запроса. Например, минимальное количество или процент "безопасных" результатов в Top N выдачи, необходимое для показа подсказки.

Ключевые утверждения (Анализ Claims)

Claim 1 (Независимый пункт): Описывает основной метод предоставления и фильтрации поисковых подсказок.

1. Система получает частичный запрос (Partial Search Query) от пользовательского устройства.
2. Идентифицируется группа кандидатов в подсказки (Candidate Search Suggestions).
3. Проверяется, включен ли каждый кандидат в список запрещенных подсказок (Disallowed List).
4. Описывается механизм генерации этого списка (ядро изобретения):
   • Анализ ранее выполненных запросов (полученных от других устройств) и их результатов поиска.
   • Для каждого запроса определяется количество результатов с определенным Content Rating (указывающим рекомендуемый возраст).
   • Проверяется, достигает ли это количество порогового значения (Threshold Value).
   • Если порог НЕ достигнут (т.е. безопасных результатов слишком мало), запрос добавляется в Disallowed List.
5. Генерируется модифицированная группа подсказок путем удаления тех, что находятся в Disallowed List.
6. Модифицированная группа предоставляется пользователю.

Claim 3 и 4 (Зависимые): Уточняют процесс после фильтрации.

Модифицированная (отфильтрованная) группа подсказок ранжируется. Подмножество для показа выбирается на основе этого ранжирования. Ранжирование может выполняться на основе релевантности результатов поиска, связанных с подсказкой, для определенной демографической группы (например, детей определенного возраста).

Claim 5 (Зависимый): Детализирует процесс генерации Disallowed List в отношении похожих запросов.

Система определяет похожие запросы (например, с опечатками или синонимами) в логах. Для этой группы рассчитывается среднее (averaging) количество результатов с нужным Content Rating. Если это среднее значение не достигает порога, вся группа похожих запросов добавляется в Disallowed List.

Claim 6 (Зависимый): Описывает использование дополнительных списков блокировки.

Система также проверяет кандидатов по второму списку запрещенных подсказок, который связан с учетной записью пользователя (например, ручные настройки родительского контроля).

Claim 7 (Зависимый): Уточняет хранение данных.

Система сохраняет количество результатов с определенным Content Rating и производную оценку безопасности (Safety Score) в ассоциации с каждым запросом в списке.

Где и как применяется

Изобретение применяется на этапе взаимодействия пользователя с поисковой строкой и требует предварительной обработки данных на этапах индексирования и понимания запросов.

INDEXING – Индексирование и извлечение признаков
На этом этапе система должна проанализировать контент (веб-страницы, видео и т.д.) и присвоить ему соответствующий Content Rating (оценку безопасности, возрастные ограничения). Эти данные сохраняются в индексе.

QUNDERSTANDING – Понимание Запросов
Это основной этап применения патента, включающий два процесса:

1. Офлайн-анализ: Система периодически анализирует логи запросов (Previously Submitted Search Queries) и использует данные Content Rating из индекса для расчета Safety Scores и генерации Disallowed List. Это происходит на Safety Score Server.
2. Онлайн-фильтрация (Autocomplete): В момент ввода пользователем Partial Search Query, Suggestion Completion Server генерирует кандидатов и в реальном времени фильтрует их, используя данные от Safety Score Server.

Входные данные (Онлайн):

• Частичный запрос пользователя.
• Список кандидатов в подсказки.
• Disallowed List или Safety Scores.
• Настройки безопасности пользователя или демографические данные (для определения порога).

Выходные данные (Онлайн):

• Отфильтрованный и отранжированный список поисковых подсказок.

На что влияет

• Конкретные типы контента: Наибольшее влияние на мультимедийный контент (видео, изображения, игры), где Content Ratings часто явно определены и критичны.
• Специфические запросы: Запросы с неоднозначным интентом (dual-intent), которые могут вести как к безопасному, так и к взрослому контенту.
• Конкретные ниши или тематики: Темы, связанные со здоровьем, развлечениями для взрослых, новостями о происшествиях или шокирующим контентом.

Когда применяется

• Условия работы: Алгоритм фильтрации активируется в процессе ввода текста в строку поиска, когда система генерирует поисковые подсказки.
• Триггеры активации: Фильтрация применяется, когда на устройстве или в аккаунте активированы режимы безопасного поиска (SafeSearch), родительского контроля или используются детские аккаунты (например, YouTube Kids).
• Пороговые значения: Применение фильтра зависит от Threshold Value – минимального количества безопасных результатов в выдаче. Этот порог может быть более строгим для детских аккаунтов.

Пошаговый алгоритм

Процесс А: Онлайн-фильтрация подсказок (в реальном времени)

1. Получение ввода: Пользовательское устройство получает текст частичного поискового запроса и передает его на Suggestion Completion Server.
2. Генерация кандидатов: Сервер определяет список кандидатов в поисковые подсказки, соответствующих введенному тексту.
3. Запрос проверки безопасности: Suggestion Completion Server отправляет список кандидатов на Safety Score Server, запрашивая индикацию допустимости для каждого. Запрос может включать требуемый уровень рейтинга контента.
4. Определение допустимости: Safety Score Server проверяет наличие кандидатов в Disallowed List или сравнивает их Safety Score с требуемым порогом. Также могут проверяться пользовательские списки блокировки.
5. Передача индикаций: Safety Score Server возвращает результаты проверки.
6. Удаление запрещенных кандидатов: Suggestion Completion Server удаляет из списка кандидатов те, которые были помечены как недопустимые.
7. Ранжирование и выбор: Оставшиеся разрешенные кандидаты ранжируются (например, по популярности или релевантности для демографической группы пользователя). Выбирается подмножество лучших.
8. Отображение: Подмножество разрешенных кандидатов передается на пользовательское устройство для отображения.

Процесс Б: Офлайн-генерация списка запрещенных запросов

1. Получение логов: Система получает список ранее выполненных поисковых запросов за определенный период.
2. Определение результатов поиска: Для каждого запроса определяются Топ N связанных с ним результатов поиска.
3. Анализ рейтингов контента: Для Топ N результатов подсчитывается количество результатов, имеющих определенный Content Rating (например, "безопасно для всех возрастов").
4. Агрегация похожих запросов (Опционально): Система идентифицирует похожие запросы (синонимы, опечатки) и усредняет количество безопасных результатов для них.
5. Сохранение оценки: Количество безопасных результатов (или рассчитанный Safety Score) сохраняется в ассоциации с запросом.
6. Генерация списка запрещенных запросов: Формируется Disallowed List, в который попадают запросы, у которых количество безопасных результатов ниже установленного Threshold Value.

Какие данные и как использует

Данные на входе

Патент фокусируется на использовании следующих данных для обеспечения безопасности подсказок:

• Факторы классификации контента (Content Classification Factors): Content Ratings. Предварительно рассчитанные оценки безопасности, возрастные ограничения или классификация контента (взрослый, шокирующий) для результатов поиска. Это ключевые данные для расчета Safety Score.
• Поведенческие факторы: Журналы запросов (Previously Submitted Search Queries). Используются в офлайн-процессе для определения популярных запросов и анализа состава их выдачи.
• Пользовательские факторы: Данные учетной записи пользователя. Используются для применения персональных списков блокировки (родительский контроль) и для ранжирования подсказок с учетом демографии.

Какие метрики используются и как они считаются

• Количество безопасных результатов (Number of safe results): Прямой подсчет количества результатов в Top N выдачи, которые имеют определенный Content Rating (например, "suitable for all ages").
• Safety Score (Оценка безопасности): Метрика, рассчитываемая на основе количества безопасных результатов. Может быть выражена в виде процента или нормализованной оценки.
• Threshold Value (Пороговое значение): Заранее определенное минимальное значение Safety Score или количества безопасных результатов. Если метрика запроса ниже порога, он блокируется.
• Агрегированная оценка безопасности (Averaged Score): Усредненное количество безопасных результатов для группы похожих запросов (синонимов, запросов с опечатками).

1. Фильтрация подсказок основана на анализе SERP: Google определяет безопасность поисковой подсказки (запроса) не по ключевым словам в ней, а по тому, какой контент находится в результатах поиска по этому запросу. Если выдача преимущественно "небезопасна", подсказка блокируется.
2. Критичность классификации контента (Content Rating): То, как Google классифицирует контент сайта (безопасный, взрослый, шокирующий), напрямую влияет на видимость связанных запросов в Autocomplete.
3. Автоматизированный и пороговый механизм: Генерация Disallowed List происходит автоматически (офлайн) путем сравнения количества безопасных результатов с пороговым значением (Threshold Value).
4. Обработка вариативности запросов: Система агрегирует данные о безопасности для похожих запросов (синонимы, опечатки). Если средняя безопасность группы низкая, блокируется вся группа.
5. Ранжирование безопасных подсказок учитывает демографию: После фильтрации оставшиеся подсказки ранжируются. Патент упоминает возможность ранжирования на основе релевантности для конкретной демографической группы (например, детей).
6. Многоуровневая фильтрация: Помимо автоматической фильтрации на основе контента, система поддерживает дополнительные уровни, такие как персональные настройки пользователя (родительский контроль).

Best practices (это мы делаем)

• Обеспечение корректной классификации контента: Для сайтов, ориентированных на широкую или детскую аудиторию, критически важно, чтобы контент классифицировался Google как безопасный. Это увеличивает вероятность того, что релевантные запросы останутся в Autocomplete при включенных фильтрах. Используйте соответствующие метаданные и следите за чистотой контента.
• Мониторинг выдачи в режиме SafeSearch: Анализируйте видимость ваших ключевых запросов в Autocomplete при включенном SafeSearch. Исчезновение запроса может указывать на то, что Google считает выдачу по нему недостаточно безопасной.
• Сегментация контента: Если на сайте есть как безопасный, так и взрослый контент, убедитесь, что они четко разделены (например, по разделам или поддоменам). Это поможет избежать негативного влияния "взрослых" страниц на классификацию безопасного контента и видимость связанных с ним запросов в подсказках.
• Анализ безопасности SERP по целевым запросам: Оценивайте качество и безопасность сайтов-конкурентов в Топ N. Если в выдаче много сомнительного контента, это повышает риск попадания запроса в Disallowed List, даже если ваш собственный сайт полностью безопасен.

Worst practices (это делать не надо)

• Игнорирование сигналов безопасности контента: Размещение рекламы для взрослых, использование ненормативной лексики или шокирующих изображений на страницах, предназначенных для широкой аудитории. Это может привести к присвоению нежелательного Content Rating и последующему исключению связанных запросов из Autocomplete.
• Создание контента "на грани": Попытки привлечь трафик с помощью кликбейтных заголовков или контента на сенситивные темы, которые могут быть классифицированы как небезопасные. Это ставит под угрозу видимость в подсказках для значительной части аудитории.
• Манипуляция Content Ratings: Попытки указать неверный (более мягкий) возрастной рейтинг для контента с целью обойти фильтры. Google использует автоматические классификаторы, и несоответствие может привести к пессимизации.

Стратегическое значение

Патент демонстрирует, что системы классификации контента Google влияют не только на ранжирование, но и на взаимодействие с пользователем на самых ранних этапах поиска (Autocomplete). Content Rating и Safety Score являются факторами, влияющими на охват аудитории. Для SEO-стратегии это подчеркивает важность управления репутацией сайта как безопасного источника, особенно для брендов и медиа, ориентированных на широкую аудиторию.

Практические примеры

Сценарий: Фильтрация подсказок для YouTube или Поиска по Видео

1. Офлайн-анализ (Запрос А): Google анализирует запрос "смешные падения". В Топ-20 результатов 18 видео классифицированы как "Безопасные", а 2 имеют ограничения из-за потенциально опасных сцен.
2. Расчет Safety Score (Запрос А): 90% результатов безопасны. Это выше порога (например, 70%). Запрос считается допустимым.
3. Офлайн-анализ (Запрос Б): Анализируется запрос "жесткие розыгрыши". В Топ-20 только 5 видео классифицированы как "Безопасные", остальные имеют ограничения по возрасту.
4. Расчет Safety Score (Запрос Б): Только 25% безопасны. Это ниже порога. Запрос "жесткие розыгрыши" добавляется в Disallowed List.
5. Онлайн-взаимодействие: Пользователь с активным SafeSearch (или ребенок на YouTube Kids) вводит "жесткие".
6. Фильтрация: Система генерирует кандидата "жесткие розыгрыши", но Safety Score Server блокирует его, так как он в Disallowed List.
7. Результат: Подсказка "жесткие розыгрыши" не отображается этому пользователю.