Как Google исправляет грамматически некорректные запросы пользователей, изучающих язык, предлагая альтернативы

Термины и определения

Automated Assistant (Автоматизированный ассистент)

Программное обеспечение (например, голосовой помощник), которое принимает запросы пользователя (часто голосовые) и выполняет задачи или предоставляет информацию.

Embedding (Векторное представление)

Низкоразмерное представление текста (слова или фразы) в векторном пространстве. Используется для определения семантической близости: похожие фразы располагаются рядом в этом пространстве.

Language Proficiency Measure (Мера языковой компетентности)

Оценка, отражающая уровень владения пользователем определенным языком. Используется для принятия решения о необходимости предложить альтернативную фразу.

Not Well-Formed Phrase (Плохо сформированная фраза)

Фраза или запрос, который содержит грамматические ошибки, неправильное использование терминов или не соответствует принятым нормам языка.

Perplexity Score (Оценка перплексивности)

Метрика в NLP. Высокая перплексивность указывает на то, что последовательность слов неестественна или маловероятна для данного языка (т.е. фраза плохо сформирована).

Primary Language (Основной язык)

Язык, указанный пользователем как предпочтительный или определенный системой как родной/основной язык пользователя.

Query Database (База данных запросов)

Хранилище, которое может содержать плохо сформированные фразы, сопоставленные с их хорошо сформированными альтернативами.

Well-Formed Phrase (Хорошо сформированная фраза)

Фраза, которая является грамматически корректной и соответствует нормам языка.

Ключевые утверждения (Анализ Claims)

Патент содержит ключевые независимые пункты (1, 11, 14), которые описывают офлайн и онлайн процессы.

Claim 1 (Независимый пункт): Описывает полный цикл работы системы, включающий предварительную подготовку (офлайн) и реакцию на запрос пользователя (онлайн).

Часть А: Офлайн-процесс (выполняется ДО получения запроса пользователя):

1. Определяется, что конкретная фраза является not well-formed.
2. Фраза обрабатывается для поиска альтернативных, well-formed фраз.
3. Ключевой механизм идентификации альтернатив: Исходная фраза обрабатывается моделью машинного обучения для генерации embedding. Этот embedding сравнивается в векторном пространстве с ранее сгенерированными embeddings других фраз. Альтернативы идентифицируются на основе этого сравнения (близости).
4. Для каждой альтернативы генерируется оценка (score), и выбирается лучшая.

Часть Б: Онлайн-процесс (выполняется ПОСЛЕ выбора альтернативы):

1. Система получает аудиоданные голосового запроса через интерфейс ассистента, содержащие исходную (плохую) фразу.
2. Определяется, что язык фразы НЕ является основным (primary language) для пользователя.
3. В ответ на (1) и (2):
   • Система воздерживается (refraining) от визуального отображения ответа на исходную фразу.
   • Система отображает выбранную альтернативную (хорошую) фразу в качестве предложения.
4. В ответ на выбор пользователем предложения:
   • Отображается ответ на языке запроса (particular language response).
   • Отображается ответ на основном языке пользователя (primary language response).

Система использует предварительно вычисленные данные (определение плохих фраз и их альтернатив через embeddings) для быстрой реакции в реальном времени. Механизм активируется только для пользователей, использующих неродной язык, и модифицирует интерфейс, скрывая результат исходного запроса и предлагая замену с последующим двуязычным ответом.

Claim 11 (Независимый пункт): Описывает альтернативный вариант, где весь процесс (включая поиск альтернатив) происходит в реальном времени в ответ на запрос пользователя.

1. Получение голосового запроса на не основном языке (non-primary language).
2. В ответ на получение:
   • Определяется language proficiency measure пользователя для этого языка.
   • Определяется, что фраза not well-formed.
   • Определяется, что language proficiency measure не достигает порога.
3. Если все условия выполнены:
   • Фраза обрабатывается для поиска альтернатив (используя embeddings, как описано в Claim 1).
   • Выбирается конкретная альтернатива.
   • Система воздерживается от отображения ответа на исходную фразу и отображает альтернативу как предложение.
   • При выборе альтернативы пользователем отображается ответ на нее.

В отличие от Claim 1, здесь идентификация альтернатив происходит после получения запроса, а триггером служит конкретная мера компетентности пользователя ниже порога.

Где и как применяется

Изобретение в первую очередь относится к системам обработки запросов в автоматизированных ассистентах (голосовой поиск), а не к традиционному веб-поиску.

INDEXING / Офлайн-обработка данных
Значительная часть работы может происходить офлайн (как описано в Claim 1 и 14). Система анализирует большие объемы данных.

• Оценка фраз: Система определяет, какие фразы являются well-formed, а какие нет. Это включает анализ исторических логов запросов носителей языка, анализ авторитетных текстовых корпусов (например, новостных сайтов) и вычисление Perplexity Scores.
• Генерация Embeddings: Система использует модели машинного обучения для генерации векторных представлений фраз.
• Поиск альтернатив: Для not well-formed фраз ищутся well-formed альтернативы путем сравнения их embeddings.

QUNDERSTANDING – Понимание Запросов
Основной этап применения патента в реальном времени.

• ASR и Токенизация: Голосовой запрос преобразуется в текст.
• Оценка компетентности: Система определяет Primary Language пользователя или вычисляет Language Proficiency Measure (на основе прошлых взаимодействий, настроек аккаунта, запросов на перевод и т.д.).
• Проверка фразы: Система проверяет, является ли запрос not well-formed (путем поиска в базе данных или анализа в реальном времени).
• Триггер: Если фраза плохая И пользователь не компетентен в языке, активируется логика подстановки.

RERANKING / Уровень UI
Патент влияет на этот этап тем, что модифицирует пользовательский интерфейс: он может заблокировать отображение ответа на исходный запрос (refraining) и отобразить предложение альтернативного запроса.

Входные данные:

• Аудиоданные голосового запроса.
• Данные о пользователе (настройки аккаунта, история взаимодействий).
• База данных сопоставлений плохих и хороших фраз.
• Векторные представления (Embeddings) фраз.

Выходные данные:

• Предложение альтернативной, хорошо сформированной фразы в UI.
• (После подтверждения) Ответ на альтернативную фразу (возможно, на двух языках).

На что влияет

• Специфические запросы: Влияет на запросы, сформулированные с грамматическими или синтаксическими ошибками.
• Пользовательские факторы: Механизм специфичен для пользователей, взаимодействующих с системой на неродном или изучаемом языке.
• Типы контента: В первую очередь влияет на ответы автоматизированных ассистентов (прямые ответы, выполнение команд). Не влияет на ранжирование веб-документов.

Когда применяется

• Триггеры активации: Комбинация двух условий:
  1. Запрос идентифицирован как not well-formed.
  2. Язык запроса не является Primary Language пользователя ИЛИ Language Proficiency Measure пользователя для этого языка ниже определенного порога.
• Исключения: Механизм не активируется, если запрос хорошо сформирован, или если пользователь является носителем языка (или высококомпетентным), даже если запрос плохо сформирован (предполагается, что это может быть намеренное сокращение или сленг).

Пошаговый алгоритм

Процесс А: Офлайн-генерация базы данных (Claim 1, 14)

1. Сбор данных: Сбор фраз из различных источников (логи запросов, документы).
2. Оценка сформированности: Анализ каждой фразы для определения, является ли она well-formed. Методы включают: проверку частоты использования носителями языка, анализ в авторитетных (trusted) источниках, расчет Perplexity Score, синтаксический анализ.
3. Генерация Embeddings: Обработка фраз моделями машинного обучения для создания векторных представлений.
4. Идентификация альтернатив: Для not well-formed фраз поиск кандидатов путем поиска фраз, чьи embeddings находятся на расстоянии, не превышающем пороговое значение, от embedding исходной фразы.
5. Скоринг альтернатив: Оценка кандидатов на основе схожести терминов, частоты использования и языковой компетентности источников, где они были найдены.
6. Сохранение: Сохранение пары (плохая фраза -> лучшая альтернатива).

Процесс Б: Обработка запроса в реальном времени (Claim 1)

1. Получение запроса: Получение и транскрипция аудиоданных от пользователя.
2. Проверка сформированности: Определение, является ли фраза not well-formed (например, путем поиска в базе данных).
3. Проверка языка пользователя: Определение, является ли язык запроса основным для пользователя.
4. Принятие решения:
   • Если фраза well-formed ИЛИ язык основной: обработать запрос стандартно.
   • Если фраза not well-formed И язык не основной: перейти к шагу 5.
5. Подстановка и отображение:
   • Воздержаться от отображения ответа на исходный запрос.
   • Получить заранее выбранную альтернативу.
   • Отобразить альтернативу пользователю как предложение.
6. Обработка выбора пользователя: Если пользователь выбирает альтернативу:
   • Обработать альтернативный запрос.
   • Отобразить ответ на языке запроса и на основном языке пользователя.

Какие данные и как использует

Данные на входе

Система использует разнообразные данные для офлайн-анализа и онлайн-обработки.

• Контентные/Лингвистические данные:
  • Авторитетные документы (trusted documents) на разных языках (например, новостные сайты). Используются как эталон для определения того, насколько естественно звучит фраза.
• Поведенческие факторы (Логи):
  • Исторические записи взаимодействий (historical interaction records) пользователей. Особое внимание уделяется логам носителей языка для определения стандартов well-formed фраз.
  • Данные о прошлых взаимодействиях конкретного пользователя для определения его языковой компетентности (выбор слов, ошибки произношения, грамматические ошибки в прошлом).
• Пользовательские факторы:
  • Настройки аккаунта (указанный Primary Language).
  • Взаимодействие с приложениями для изучения языков.
  • Запросы на перевод или поиск информации об изучении языка.

Какие метрики используются и как они считаются

• Well-Formed Score (Оценка сформированности, подразумеваемая): Агрегированная метрика, определяющая корректность фразы. Основывается на:
  • Частоте встречаемости в логах носителей языка и авторитетных документах.
  • Perplexity Score: рассчитывается языковой моделью. Если оценка превышает порог, фраза считается плохо сформированной.
  • Наличии синтаксических ошибок.
• Language Proficiency Measure (Мера языковой компетентности): Оценка уровня владения языком пользователем или источником текста. Рассчитывается на основе анализа прошлых взаимодействий пользователя, его запросов и настроек.
• Distance Metric (Метрика расстояния): Используется в векторном пространстве для измерения расстояния между embeddings фраз. Если расстояние меньше порога, фразы считаются семантически близкими.
• Alternate Phrase Score (Оценка альтернативной фразы): Метрика для выбора лучшей замены. Учитывает Well-Formed Score альтернативы, ее семантическую близость к оригиналу (Distance Metric) и схожесть используемых терминов.

1. Фокус на Автоматизированных Ассистентах и AEO: Патент описывает механизм улучшения пользовательского опыта при взаимодействии с голосовыми ассистентами, особенно для пользователей, изучающих язык. Он не имеет прямого отношения к ранжированию в веб-поиске.
2. Разделение на Офлайн и Онлайн: Система может полагаться на предварительные вычисления (определение плохих фраз, генерация embeddings, поиск альтернатив) для обеспечения быстрой работы в реальном времени, но также способна выполнять анализ на лету.
3. Embeddings как основа семантической близости: Ключевым механизмом для поиска альтернативных фраз с тем же намерением является сравнение векторных представлений (embeddings) в общем пространстве. Это подтверждает центральную роль векторных технологий в задачах NLP Google.
4. Персонализация на основе языковой компетентности: Система адаптирует свое поведение в зависимости от того, насколько хорошо пользователь владеет языком запроса (Language Proficiency Measure). Исправление ошибок активируется только для не носителей языка или пользователей с низким уровнем владения.
5. Критерии «Хорошей сформированности»: Google использует комплексный подход для определения естественности и корректности языка, включая анализ поведения носителей языка, авторитетные источники и метрики языковых моделей (Perplexity Score).
6. Модификация интерфейса: Патент описывает конкретную логику интерфейса: скрытие ответа на исходный (плохой) запрос и предложение альтернативы, что указывает на стремление обучить пользователя, а не просто выполнить команду.

Стратегическое значение

Патент имеет низкое практическое значение для стандартных задач SEO, таких как оптимизация контента для веб-поиска или линкбилдинг. Он описывает внутренние процессы обработки запросов в интерфейсе автоматизированного ассистента.

Однако он предоставляет важный контекст о том, как Google оценивает естественность языка и использует векторные технологии.

Best practices (это мы делаем)

• Использование естественного и грамматически корректного языка: Хотя патент фокусируется на запросах пользователей, он демонстрирует наличие у Google сложных систем (анализ Perplexity Score, сравнение с авторитетными источниками) для определения not well-formed контента. Контент на сайте должен быть написан естественно и корректно, чтобы соответствовать ожиданиям этих систем.
• Понимание семантики через Embeddings: Патент подчеркивает, что семантическая близость определяется через embeddings. SEO-стратегия должна фокусироваться на создании контента, который семантически богат и покрывает намерения пользователей, обеспечивая близость в векторном пространстве к целевым запросам.
• Оптимизация под голосовой поиск (VSO/AEO) и Ассистентов: Для проектов, ориентированных на трафик из голосовых ассистентов, важно использовать четкие, хорошо сформированные фразы (well-formed), которые система легко распознает как стандартные команды или вопросы.

Worst practices (это делать не надо)

• Использование неестественных конструкций (Keyword Stuffing): Использование переоптимизированного текста с неестественной последовательностью слов может привести к высокому Perplexity Score. Системы Google, способные определить not well-formed запросы, вероятно, также способны определить и not well-formed контент на страницах.
• Игнорирование грамматики и качества языка при локализации: При переводе контента на другие языки критически важно привлекать носителей языка. Низкокачественный или машинный перевод может быть классифицирован как not well-formed, что потенциально может повлиять на восприятие качества контента системами Google.

Практические примеры

Практических примеров для применения в SEO нет, так как патент описывает функционал интерфейса голосового ассистента.

Пример работы механизма (в контексте Ассистента):

1. Пользователь: Основной язык — Испанский. Изучает Английский.
2. Офлайн-подготовка: Система заранее определила, что фраза "time it is" (на английском) является not well-formed, а "What time is it?" — корректная альтернатива (их embeddings близки).
3. Запрос: Пользователь говорит ассистенту (на английском): "time it is".
4. Анализ: Система определяет, что фраза not well-formed и что английский не является основным языком пользователя.
5. Реакция: Вместо того чтобы попытаться ответить на "time it is", ассистент отображает предложение: "Suggestion: What time is it?".
6. Выбор пользователя: Пользователь нажимает на предложение.
7. Ответ (согласно Claim 1): Ассистент отвечает: "It is two thirty" (на английском) и "Son las dos y media" (на испанском).