Как Google оптимизирует поиск документов в закрытых системах для юридических задач (E-Discovery)

Термины и определения

Classifier (Классификатор)

Модель машинного обучения (упоминается linear support vector machine (SVM)), обученная на размеченных данных для предсказания релевантности неразмеченных документов и определения весов (discriminatory power) ключевых слов.

Co-occurrence context (Контекст совместной встречаемости)

Определение пространственной близости (spatial proximity) двух ключевых слов. Примеры: window context (в пределах N слов), paragraph context (в одном абзаце), document context (в одном документе).

Consistency measure (Мера консистентности)

Метрика, определяющая, насколько чаще два ключевых слова встречаются вместе, чем случайно. Используется для анализа совместной встречаемости. Примеры: point-wise mutual information (PMI), Jaccard coefficient, cosine similarity.

Discriminatory Power (Дискриминационная сила)

Метрика, показывающая эффективность ключевого слова в разделении релевантных и нерелевантных документов. Может вычисляться через взаимную информацию (mutual information) или веса классификатора.

E-Discovery (Электронное обнаружение)

Юридический процесс получения и обмена электронными документами в ходе судебного разбирательства.

Neighboring Queries (Соседние запросы)

Запросы, сгенерированные путем модификации базового запроса — «роста» (growing) или «сжатия» (shrinking) его терминов или добавления/удаления булевых операторов.

Query Quality / Goodness (Качество запроса)

Количественная оценка того, насколько хорошо запрос возвращает релевантные документы и минимизирует нерелевантные. Измеряется метриками Precision (Точность), Recall (Полнота) или $F_{1}$ measure.

Relevance Indicator (Индикатор релевантности)

Метка, присвоенная документу (обычно вручную экспертом), указывающая, является ли он релевантным для дела.

Training Set (Обучающий набор)

Подмножество документов из корпуса, которые были размечены Relevance Indicators. Используется для обучения системы и оценки качества запросов.

Ключевые утверждения (Анализ Claims)

Патент фокусируется на автоматизированном и итеративном процессе улучшения поисковых запросов на основе контролируемого обучения.

Claim 1, 13, 18 (Независимые пункты): Описывают основной итеративный процесс генерации оптимального запроса (алгоритм типа hill climbing).

1. Система получает training set документов с relevance indicators и исходный запрос (initial query).
2. Определяется пространственная близость (spatial proximity) между ключевыми словами исходного запроса и другими ключевыми словами в обучающем наборе.
3. Система генерирует набор neighboring queries на основе этой пространственной близости.
4. Оценивается качество (quality score) каждого соседнего запроса, и определяется запрос с наивысшим рейтингом (highest ranked neighboring query).
5. Процесс повторяется итеративно: запрос с наивысшим рейтингом становится новым исходным запросом.
6. Условие остановки: Итерации продолжаются до тех пор, пока quality score лучшего соседнего запроса не станет ниже, чем quality score текущего исходного запроса (т.е. улучшение прекратилось).
7. Предыдущий запрос с наивысшим рейтингом (результирующий запрос) предлагается пользователю.

Claim 9 (Зависимый): Уточняет метод генерации соседних запросов.

Генерация включает определение discriminatory power для набора ключевых слов и выбор дополнительных ключевых слов с более высокой discriminatory power для использования в соседних запросах.

Claim 14 и 19 (Зависимые): Уточняют метрики оценки качества.

Neighboring queries оцениваются на основе одной или нескольких метрик: Precision, Recall или $F_{1}$ score.

Где и как применяется

Этот патент не описывает архитектуру публичного веб-поиска Google. Он описывает специализированный инструмент (например, Google Vault или аналогичные платформы E-Discovery), используемый в закрытой среде для анализа определенного корпуса документов (например, корпоративных данных).

INDEXING – Индексирование
Корпус документов должен быть предварительно проиндексирован, чтобы инструмент мог выполнять поиск и анализировать содержимое и признаки (ключевые слова, метаданные).

Процессы внутри инструмента (Мета-уровень)
Основное применение патента. Система не ранжирует веб-страницы для пользователей интернета. Вместо этого она выполняет мета-процесс: итеративно генерирует и тестирует различные формулировки запросов (Query Generation) на основе обучающей выборки, чтобы найти оптимальный запрос для аналитика. Это процесс оптимизации запроса, а не процесс ранжирования.

Входные данные:

• Обучающая выборка документов (Training set) с ручной разметкой (Relevance indicators).
• Начальный набор ключевых слов (Seed keywords) или начальный запрос (Initial query).
• Общий корпус документов, подлежащих анализу.

Выходные данные:

• Оптимизированный поисковый запрос (состоящий из ключевых слов и булевых операторов).
• Предложенные дополнительные ключевые слова с высокой Discriminatory power.

На что влияет

Патент влияет исключительно на процесс поиска в закрытых корпусах данных в контексте E-Discovery.

• Конкретные типы контента: Электронная почта, текстовые файлы, электронные таблицы и другие электронные документы внутри организации.
• Специфические запросы: Запросы, используемые юридическими командами для поиска доказательств.
• Конкретные ниши или тематики: Исключительно ниша юридических технологий (Legal Tech) и внутреннего корпоративного аудита. В патенте нет упоминаний о влиянии на веб-тематики (YMYL, e-commerce и т.д.).

Когда применяется

• Условия применения: Применяется в системах E-Discovery во время судебного разбирательства или внутреннего расследования.
• Триггеры активации: Активируется, когда юридической команде необходимо эффективно отфильтровать большой объем документов. Требует наличия начальных данных и готовности команды размечать обучающую выборку (training set).

Пошаговый алгоритм

Процесс А: Генерация ключевых слов (Keyword Generation)

1. Получение исходных данных: Система получает исходный набор ключевых слов (seed set) и идентифицирует соответствующие документы.
2. Получение меток релевантности: Документы ассоциируются с indication of relevance (вручную или предсказанные классификатором), формируя training set.
3. Анализ дискриминационной силы: Вычисляется discriminatory power ключевых слов (например, с помощью mutual information или SVM classifier).
4. Анализ отношений: Анализируются отношения между ключевыми словами (совместная встречаемость, синонимия). Может использоваться алгоритм random walk.
5. Генерация предложений: Генерируется и предлагается пользователю набор новых ключевых слов.

Процесс Б: Итеративная генерация запросов (Iterative Query Generation)

1. Инициализация: Создается исходный запрос (initial query).
2. Генерация соседей: Исходный запрос модифицируется (расширяется/сужается) для создания neighboring queries. Например, добавление нового слова через OR или AND, или удаление слова.
3. Оценка качества: Оценивается качество созданных соседних запросов на training set (например, с помощью $F_{1}$ score).
4. Выбор лучшего: Лучший соседний запрос выбирается в качестве нового базового запроса (base query).
5. Проверка улучшения: Сравнивается качество лучшего нового соседнего запроса с качеством базового запроса.
   • Если лучше: Процесс повторяется с шага 2.
   • Если не лучше (Локальный оптимум достигнут): Процесс останавливается.
6. Вывод: Текущий базовый запрос предоставляется клиенту.

Какие данные и как использует

Данные на входе

Патент фокусируется на использовании контролируемых данных в закрытом корпусе.

• Контентные факторы: Полный текст документов. Анализируется присутствие ключевых слов, фраз и их пространственная близость (spatial proximity / co-occurrence context).
• Пользовательские факторы (Метки): Критически важные данные — Relevance Indicators. Это метки (релевантно/нерелевантно), предоставленные экспертами для training set.
• Технические/Метаданные факторы: В описании упоминается возможность использования метаданных как критериев поиска: временные периоды и владельцы/хранители документов (custodians).

Какие метрики используются и как они считаются

• Discriminatory Power (Дискриминационная сила): Вычисляется для определения важности ключевого слова. Методы расчета:
  • Прямой: Взаимная информация (Mutual Information).
  • Косвенный: Веса, полученные при обучении классификатора (например, SVM).
• Co-occurrence Consistency (Согласованность совместной встречаемости): Метрика, показывающая, насколько чаще два ключевых слова встречаются вместе, чем случайно. Рассчитывается как частота совместной встречаемости, нормализованная с помощью техник вроде PMI, Jaccard coefficient или cosine similarity.
• Quality/Goodness of a query (Качество запроса): Оценка эффективности запроса на training set. Используются стандартные метрики IR:
  • Precision (Точность).
  • Recall (Полнота).
  • $F_{1}$ measure.

1. Узкая специализация на E-Discovery: Патент описывает конкретное решение для узкой задачи — оптимизации поиска внутренних документов во время юридических разбирательств. Он не описывает работу публичного веб-поиска Google.
2. Зависимость от контролируемого обучения (Supervised Learning): Эффективность системы полностью зависит от наличия training set — данных, вручную размеченных экспертами. Этот подход принципиально отличается от веб-поиска, который в основном использует неконтролируемые или слабо контролируемые методы и неявные сигналы.
3. Итеративная оптимизация булевых запросов: Ядром изобретения является автоматизированный процесс уточнения булевых запросов с использованием алгоритма типа hill climbing, где запросы модифицируются (neighboring queries) и оцениваются по метрикам качества.
4. Использование стандартных IR-метрик: Система использует стандартные концепции информационного поиска, такие как Discriminatory Power и Co-occurrence Consistency, для определения важности ключевых слов и их взаимосвязей.
5. Отсутствие связи с SEO: Патент не дает практических выводов для SEO-специалистов, работающих с веб-поиском. Он не раскрывает алгоритмы ранжирования сайтов, факторы E-E-A-T или методы обработки спама в интернете.

ВАЖНО: Этот патент описывает инфраструктуру для специализированного юридического поиска (E-Discovery) и не дает практических рекомендаций для веб-SEO.

Best practices (это мы делаем)

Патент не предоставляет применимых инсайтов или рекомендаций для оптимизации веб-сайтов под поисковую систему Google.

Worst practices (это делать не надо)

Патент не дает информации о неэффективных или опасных SEO-тактиках в контексте публичного веб-поиска.

Стратегическое значение

Стратегическое значение для веб-SEO отсутствует. Патент подтверждает, что Google применяет классические методы информационного поиска (Information Retrieval) в своих корпоративных продуктах. Он демонстрирует техническую реализацию автоматизации сложных поисковых задач в закрытых средах, но не дает понимания приоритетов Google в отношении ранжирования веб-сайтов.

Практические примеры

Практических примеров применения данного патента в SEO нет, так как он относится к другой области (юридическое электронное обнаружение). Ниже приведен пример, иллюстрирующий работу патента в его целевой области — E-Discovery.

Сценарий: Поиск документов по внутреннему расследованию

1. Задача: Юридический отдел ищет письма, связанные с проектом "Альфа".
2. Инициализация: Вводят начальный запрос (Initial Query): проект AND альфа.
3. Разметка (Training Set): Они просматривают первые 100 результатов. 60 писем релевантны, 40 нерелевантны (например, упоминание фильма "Альфа").
4. Анализ: Система анализирует разметку. Она замечает, что в релевантных письмах часто встречаются слова "бюджет" и "сроки" (высокая Discriminatory Power), а в нерелевантных — "кино".
5. Генерация соседних запросов (Neighboring Queries):
   • Q1: (проект AND альфа) AND бюджет
   • Q2: (проект AND альфа) AND (бюджет OR сроки)
   • Q3: (проект AND альфа) AND NOT кино
6. Оценка: Система тестирует запросы на обучающей выборке. Q2 показывает лучший $F_{1}$ score.
7. Итерация: Q2 становится базовым запросом, и процесс повторяется для дальнейшего уточнения.