Безопасный поиск в Google: разборы патентов
Детальные разборы патентов Google, связанные с безопасным поиском (Safe Search)
Как Google использует последовательность кликов пользователей (Co-selection) для классификации изображений и фильтрации контента (SafeSearch)
Google анализирует, какие изображения пользователи выбирают последовательно в рамках одной сессии (co-selection). Если Изображение Б часто выбирается сразу после Изображения А (с известной темой), система присваивает Изображению Б ту же тему. Этот механизм использует графовый анализ поведения для уточнения тематики изображений, что критично для повышения релевантности и работы фильтров, таких как SafeSearch.
- US8856124B2
- 2009-06-03
Как Google классифицирует интент запросов (например, поиск порнографии), анализируя историю использования фильтров (SafeSearch)
Google использует данные о том, как часто пользователи включают или отключают фильтры контента (например, SafeSearch) при вводе конкретного запроса. Анализируя нормализованное соотношение фильтрованных и нефильтрованных поисковых операций, система классифицирует запрос как целенаправленно ищущий определенный тип контента (например, adult). Эта классификация затем используется для повышения или понижения релевантности соответствующего контента в выдаче.
- US9152701B2
- 2012-05-02
Как Google динамически повышает детский контент в безопасном поиске, чтобы компенсировать недостаток данных о популярности
Google использует механизм для улучшения видимости детского контента (Youth-Oriented, Y) в безопасной выдаче. Поскольку такой контент часто имеет меньше поведенческих данных, чем общий контент (General Audience, G), система вычисляет динамический повышающий коэффициент (Query-Dependent Factor). Этот коэффициент рассчитывается путем статистического сравнения метрик популярности Y и G контента для конкретного запроса и применяется только к результатам, прошедшим порог релевантности.
- US10671616B1
- 2015-02-22
Как Google динамически повышает порог качества для результатов поиска по «рискованным» запросам
Google оценивает «риск» поискового запроса, анализируя общее качество топовых результатов. Если запрос часто привлекает спам, кликбейт или нежелательный контент (особенно видео), система динамически повышает минимальный порог качества. Контент, не соответствующий этому повышенному стандарту, понижается в выдаче, при этом учитываются такие сигналы, как показатель просмотров (Watch Rate).
- US11609949B2
- 2019-11-06
Как Google использует машинное обучение для проверки логотипов и названий организаций перед показом в поисковой выдаче (включая рекламу)
Google применяет систему для валидации брендовых ассетов (изображений и названий организаций) перед их отображением в результатах поиска. Система использует ML-модели для двух проверок: является ли изображение приемлемым (не нарушает правила, не имитирует чужие бренды) и верифицирована ли организация (используя платежную информацию для рекламы, органический рейтинг и базы доверенных компаний). Это предотвращает спуфинг и повышает доверие пользователей.
- US11954167B1
- 2022-12-21
Как Google перехватывает навигацию пользователя для защиты от низкокачественных сайтов (паркинги, фермы контента)
Механизм защиты пользователей, который перехватывает запрос на загрузку веб-страницы. Если страница идентифицирована как низкокачественная (паркинг домена, ферма контента или ссылочная ферма), система показывает предупреждение и предлагает перейти на альтернативный релевантный сайт вместо запрошенного.
- US8775924B1
- 2012-03-09
Как Google использует анализ совместных поисковых сессий для выявления запросов о неприемлемом или запрещенном контенте
Google анализирует поисковые сессии пользователей для обучения классификатора, выявляющего запросы о неприемлемом контенте (например, насилии, CSAM, терроризме). Система отслеживает, какие еще запросы вводил пользователь незадолго до или после ввода уже известного "плохого" запроса. Это позволяет автоматически расширять базу данных для фильтрации и модерации поисковой выдачи.
- US9959354B2
- 2015-06-23
Как Google использует машинное обучение для обнаружения и удаления "revenge porn" и другого неконсенсусного контента из поиска
Google использует систему для борьбы с лично нежелательным контентом (например, «revenge porn»). Система применяет два классификатора: один определяет, является ли контент нежелательным (например, порнографическим), а второй — является ли он любительским. Если контент одновременно нежелательный и любительский, он удаляется из выдачи. Система также проактивно анализирует запросы с низкой популярностью для выявления нового такого контента.
- US10795926B1
- 2016-04-22
Как Google использует классификаторы запросов и контента для фильтрации и понижения оскорбительных результатов, связанных с защищенными группами
Google применяет систему двойной классификации для защиты пользователей от неуместного или оскорбительного контента. Система оценивает, относится ли запрос к «защищенной группе людей» и содержит ли он деликатные термины. Параллельно анализируется, содержат ли результаты поиска оскорбительный контент. На основе комбинации этих классификаций и анализа сессии пользователя результаты могут быть отфильтрованы или понижены в ранжировании.
- US10083237B2
- 2015-08-31
Как Google автоматизирует удаление персональных данных (PII) из поиска и расширяет блокировку на связанные запросы и дубликаты контента
Google использует гибридную систему, сочетающую правила и модели машинного обучения, для автоматизации обработки запросов на удаление контента (например, PII). Система оценивает легитимность запроса, анализируя тип сайта, данные аккаунта пользователя и сам контент. При одобрении запроса Google не только удаляет результат для исходного запроса, но и автоматически расширяет блокировку на семантически близкие запросы и идентифицирует похожие или дублирующиеся веб-документы для их превентивного удаления из выдачи.
- US12045302B2
- 2023-02-07
Как Google идентифицирует, классифицирует и помечает сайты с вредоносным ПО (Scumware) в поиске и браузерах
Google сканирует веб на наличие «Scumware» (вредоносное и нежелательное ПО). Патент описывает, как система различает сайты, которые содержат вредоносный код, и сайты, которые на него ссылаются. Обнаружение угрозы может привести к исключению сайта из поиска, понижению в ранжировании или добавлению различных визуальных предупреждений в SERP и браузерных тулбарах.
- US8126866B1
- 2005-09-30
Как Google фильтрует поисковые подсказки (Autocomplete) на основе оценок безопасности контента в результатах поиска
Google анализирует рейтинги безопасности (например, возрастные ограничения) контента в результатах поиска для популярных запросов. Если выдача по запросу содержит недостаточное количество "безопасного" контента (ниже установленного порога), этот запрос добавляется в список запрещенных и не показывается в качестве поисковой подсказки (Autocomplete) пользователям с включенными фильтрами безопасности.
- US10169488B2
- 2015-02-20
Как Google рассчитывает «Рейтинг безопасности» запроса для фильтрации или блокировки выдачи (SafeSearch)
Google анализирует рейтинги контента (например, «для всех возрастов» или «для взрослых») топовых результатов по запросу, чтобы вычислить его «Safety Score». Если выдача содержит слишком много неприемлемого контента, система может полностью заблокировать запрос или агрессивно отфильтровать результаты, показывая только гарантированно безопасный и релевантный контент.
- US11829373B2
- 2015-02-20
Как Google адаптирует формат выдачи (аудио или визуальный) в зависимости от контекста использования устройства
Google использует состояние устройства (например, телефон в автомобильном держателе или подключен к гарнитуре), чтобы определить формат ответа на запрос. Если система сформировала прямой ответ (Summarized Query Response) и устройство находится в «режиме прослушивания» (Audible State), ответ будет автоматически зачитан вслух. Этот механизм подчеркивает критическую важность оптимизации под Featured Snippets для голосового поиска.
- US10496714B2
- 2010-08-06
Как Google реализует SafeSearch и верификацию возраста путем фильтрации чувствительных запросов и результатов
Google использует систему для обнаружения «фильтрующих терминов» в запросах или результатах поиска. При обнаружении Google немедленно показывает только «отфильтрованные» (безопасные) результаты и предлагает доступ к службе верификации (например, подтверждение возраста). Если пользователь верифицирован, отображаются «нефильтрованные» (потенциально чувствительные) результаты. Это предотвращает полную блокировку выдачи при использовании чувствительных терминов.
- US8032527B2
- 2007-08-29
Как Google стандартизирует и применяет международные возрастные рейтинги для фильтрации контента в поиске
Google использует систему для унификации различных национальных систем возрастных рейтингов (например, PG-13 в США, 12А в Великобритании, 16+ в России) в единый глобальный стандарт. Это позволяет применять пользовательские настройки фильтрации (например, родительский контроль или SafeSearch) единообразно к контенту из любой страны, блокируя или модифицируя результаты поиска, если они не соответствуют установленному уровню ограничений.
- US9703846B1
- 2015-02-03