Как Яндекс обеспечивает согласованность данных при обновлении моделей в рекомендательных системах (например, Дзен)

Описание

Какую задачу решает

Патент решает инфраструктурную проблему обеспечения согласованности (консистентности) версий данных в рекомендательных системах при обновлении моделей машинного обучения. Для расчета релевантности система использует User Embedding (вектор пользователя) и Item Embedding (вектор контента). Критически важно, чтобы оба вектора были сгенерированы одной и той же версией модели. Поскольку обновление данных в распределенных системах занимает время, возникает риск использования несогласованных версий (например, старого вектора пользователя с новым вектором контента), что приводит к некорректным рекомендациям. Патент предлагает механизм синхронизации для решения этой проблемы.

Что запатентовано

Запатентован метод и система хранения и обновления эмбеддингов, использующая гибридную архитектуру. Суть изобретения заключается в стратегии раздельного хранения: User Embeddings хранятся в нераспределенном хранилище (non-distributed storage), а Item Embeddings — в распределенном (distributed storage). Во время обновления модели система временно хранит несколько версий пользовательских эмбеддингов, чтобы гарантировать наличие согласованной пары для любой версии эмбеддинга контента.

Как это работает

Когда модель переобучается, генерируются новые эмбеддинги (Версия 2). Новые User Embeddings (U2) записываются в нераспределенное хранилище рядом со старыми (U1). Новые Item Embeddings (I2) начинают замещать старые (I1) в распределенном хранилище, что требует времени для синхронизации всех узлов. В этот переходный период система, получая запрос на рекомендацию, сначала извлекает Item Embedding. Получив его (это может быть I1 или I2) вместе с меткой версии, система использует эту метку, чтобы запросить соответствующий User Embedding (U1 или U2) из нераспределенного хранилища. Это гарантирует согласованность версий. После полной синхронизации I2 на всех узлах, старые U1 удаляются.

Актуальность для SEO

Высокая (для инфраструктуры рекомендательных систем). Патент опубликован в конце 2023 года. Описанная архитектура решает фундаментальную проблему распределенных систем машинного обучения, актуальную для крупных сервисов, использующих коллаборативную фильтрацию, таких как Яндекс Дзен (который упоминается в патенте).

Важность для SEO

Влияние на SEO (Web Search) минимальное (1/10). Патент описывает исключительно внутреннюю инфраструктуру и процессы рекомендательной системы (например, Дзен), основанной на коллаборативной фильтрации и матричных разложениях. Он не имеет отношения к алгоритмам ранжирования веб-поиска, краулингу, индексации или факторам ранжирования сайтов в органической выдаче.

Детальный разбор

Термины и определения

Distributed Storage (Распределенное хранилище)

Система хранения данных, где информация распределена по нескольким узлам (nodes) или серверам. Используется в патенте для хранения Item Embeddings. Обновление данных в нем требует времени для синхронизации всех узлов.

Embeddings (Эмбеддинги / Векторные представления)

Низкоразмерные векторные представления пользователей (User Embeddings) и цифрового контента (Item Embeddings). Генерируются моделью матричного разложения на основе истории взаимодействий.

Item Embedding (Эмбеддинг элемента/контента)

Векторное представление единицы контента, основанное на том, какие пользователи с ним взаимодействовали. Хранится в Distributed Storage.

Matrix Factorization Model (MFM) (Модель матричного разложения)

Алгоритм машинного обучения (например, SVD), который раскладывает матрицу взаимодействий «пользователь-контент» на две более низкоразмерные матрицы: матрицу пользователей (User Embeddings) и матрицу контента (Item Embeddings).

Non-distributed Storage (Нераспределенное хранилище)

Хранилище данных, реализованное, например, как единое физическое устройство или K-V (Key-Value) хранилище. Используется в патенте для хранения User Embeddings и поддерживает одновременное хранение нескольких версий эмбеддингов для одного пользователя.

Relevance Estimation Model (Модель оценки релевантности)

Основная модель ранжирования (в патенте упоминается CatBoost как пример), которая использует различные признаки, включая комбинацию эмбеддингов, для ранжирования контента.

User-Item Interaction Data (Данные о взаимодействии пользователя и контента)

Исторические данные о том, как пользователи взаимодействовали с контентом (клики, лайки, время просмотра). Являются входными данными для обучения MFM.

Version Value (Значение версии)

Идентификатор (метка), связывающий эмбеддинг с конкретной итерацией обучения модели MFM. Используется для обеспечения согласованности версий при расчете релевантности.

Ключевые утверждения (Анализ Claims)

Claim 1 (Независимый пункт): Описывает полный цикл хранения и обновления данных.

1. Обучение модели матричного разложения (MFM) на данных, собранных к моменту T1.
2. Генерация первых эмбеддингов пользователей (U1) и контента (I1), связанных меткой версии V1.
3. Хранение U1 в нераспределенном хранилище, I1 — в распределенном.
4. Переобучение MFM на обновленных данных, собранных к моменту T2.
5. Генерация вторых эмбеддингов (U2, I2), связанных меткой версии V2.
6. Ключевой механизм хранения:
   • Хранение U2 в нераспределенном хранилище в дополнение (in addition) к U1.
   • Хранение I2 в распределенном хранилище путем замены (replacing) I1.
7. В момент T3, когда I2 сохранены на каждом узле распределенного хранилища, удаление U1 из нераспределенного хранилища.

Claim 10 (Зависимый от Claim 1): Описывает процесс обработки запроса на рекомендацию в переходный период (между T2 и T3).

1. Получение запроса на рекомендацию.
2. Извлечение целевого Item Embedding (I_target) из распределенного хранилища. I_target может быть либо I1, либо I2, и он имеет метку версии (V_target).
3. Выбор целевого User Embedding (U_target) из нераспределенного хранилища путем сопоставления метки V_target с метками хранящихся эмбеддингов пользователя (V1 и V2).
4. Генерация признака ранжирования (Ranking Feature) как комбинации (например, скалярного произведения) U_target и I_target.

Где и как применяется

Патент описывает инфраструктуру, обеспечивающую работу рекомендательной системы (Яндекс Дзен). Он не применяется в архитектуре основного веб-поиска Яндекса.

Применение в архитектуре рекомендательной системы:

Офлайн-процессы (Обучение):

• Сбор данных: Сбор User-Item Interaction Data из логов взаимодействий.
• Обучение модели: Периодическое обучение Matrix Factorization Model (например, SVD) для генерации эмбеддингов.
• Обновление хранилищ: Процесс записи новых версий эмбеддингов в Distributed и Non-distributed Storage по описанному алгоритму.

Онлайн-процессы (Генерация рекомендаций):

• RANKING (Ранжирование): На этапе расчета релевантности контента для пользователя. Система извлекает эмбеддинги пользователя и контента, гарантируя их версионную согласованность, и вычисляет Ranking Feature. Этот признак используется основной моделью ранжирования (в патенте упоминается CatBoost как пример реализации Relevance Estimation Model).

Входные данные: История взаимодействий пользователей с контентом (для обучения); ID пользователя и ID контента (для извлечения эмбеддингов во время ранжирования).
Выходные данные: Эмбеддинги пользователей и контента (после обучения); Ranking Feature (во время ранжирования).

На что влияет

• Типы контента: Влияет на любой контент внутри рекомендательной системы (статьи, видео, посты в Дзене).
• Специфические запросы: Не применимо, так как это система рекомендаций без явного запроса (content discovery).
• Ниши и тематики: Влияет на все тематики равномерно, так как описывает инфраструктуру расчета релевантности.
• Качество рекомендаций: Влияет на стабильность и точность рекомендаций, предотвращая ошибки из-за рассинхронизации данных во время обновлений моделей.

Когда применяется

Алгоритм применяется постоянно:

• Триггеры активации обучения: Периодически или по мере накопления достаточного объема новых данных о взаимодействиях.
• Триггеры активации механизма согласования: Каждый раз, когда система генерирует рекомендации для пользователя и рассчитывает релевантность контента, особенно в периоды обновления моделей.

Пошаговый алгоритм

Фаза 1: Первичное обучение и сохранение (Версия 1)

1. Обучение: Matrix Factorization Model (MFM) обучается на текущих данных о взаимодействиях.
2. Генерация V1: Создаются первые эмбеддинги пользователей (U1) и контента (I1). Им присваивается метка версии V1.
3. Сохранение U1: U1 записываются в Non-distributed Storage.
4. Сохранение I1: I1 записываются в Distributed Storage.

Фаза 2: Переобучение и обновление (Версия 2)

5. Переобучение: MFM переобучается на обновленных данных.
6. Генерация V2: Создаются вторые эмбеддинги (U2, I2). Им присваивается метка V2.
7. Сохранение U2 (Дополнение): U2 записываются в Non-distributed Storage в дополнение к U1.
8. Сохранение I2 (Замена): I2 начинают записываться в Distributed Storage, замещая I1. Этот процесс асинхронен и занимает время для распространения по всем узлам.

Фаза 3: Обработка запросов в переходный период

9. Запрос рекомендации: Поступает запрос на генерацию ленты для пользователя.
10. Извлечение I_target: Система запрашивает эмбеддинг для единицы контента из Distributed Storage. Из-за асинхронного обновления может вернуться I1 (с меткой V1) или I2 (с меткой V2).
11. Согласование версии: Система определяет полученную версию (V_target).
12. Извлечение U_target: Система запрашивает эмбеддинг пользователя из Non-distributed Storage, используя V_target как ключ для выбора нужной версии (U1 или U2).
13. Расчет релевантности: Вычисляется Ranking Feature (например, скалярное произведение I_target и U_target).

Фаза 4: Завершение обновления

14. Подтверждение: Система получает подтверждение, что I2 полностью записаны на все узлы Distributed Storage.
15. Очистка: Старые эмбеддинги U1 удаляются из Non-distributed Storage.

Какие данные и как использует

Данные на входе

Патент фокусируется на инфраструктуре и использует следующие данные:

• Поведенческие факторы (User-Item Interaction Data): Являются основным входом для обучения Matrix Factorization Model. Включают явные (лайки, дизлайки) и неявные (клики, время просмотра, прокрутки) сигналы взаимодействия пользователей с контентом.
• Системные идентификаторы: ID пользователей и ID единиц контента, используемые как ключи для хранения и извлечения эмбеддингов. Метки версий (Version Values).

Другие типы факторов (контентные, ссылочные, технические и т.д.) в этом конкретном патенте не упоминаются.

Какие метрики используются и как они считаются

• User Embeddings и Item Embeddings: Генерируются с помощью Matrix Factorization Model. В патенте упоминается Singular Value Decomposition (SVD) based model как возможная реализация.
• Ranking Feature (Признак ранжирования): Вычисляется как комбинация User Embedding и Item Embedding. В тексте патента упоминается scalar product (скалярное произведение) векторов как пример такого признака.
• Relevance Estimation Model: Модель оценки релевантности, которая использует Ranking Feature для финального ранжирования контента. В патенте упоминается CatBoost как пример такой модели.

Выводы

Патент носит сугубо инфраструктурный характер и описывает внутренние процессы Яндекса по обеспечению стабильности работы рекомендательных систем. Он не дает прямых рекомендаций для SEO в веб-поиске.

Основные выводы для понимания работы рекомендательных систем Яндекса (например, Дзен):

1. Приоритет точности и согласованности данных: Яндекс использует сложную инфраструктуру для гарантии того, что при расчете релевантности используются эмбеддинги, сгенерированные одной и той же версией модели. Это критично для точности рекомендаций.
2. Подтверждение использования коллаборативной фильтрации: Архитектура основана на эмбеддингах, полученных методом матричного разложения (Matrix Factorization) из данных о взаимодействиях. Это подтверждает, что коллаборативная фильтрация является ключевым компонентом системы рекомендаций.
3. Динамичность моделей: Система спроектирована с учетом частого переобучения моделей (re-training) на свежих данных. Это означает, что предпочтения пользователей и «вес» контента постоянно пересчитываются.
4. Гибридный подход к хранению: Используется оптимизированный подход к хранению (распределенное и нераспределенное хранилища) для управления разным объемом и скоростью обновления данных о пользователях и контенте.
5. Поведенческие факторы как основа: Эмбеддинги, о которых идет речь в патенте, полностью основаны на User-Item Interaction Data. Качество контента здесь определяется через призму того, как пользователи с ним взаимодействуют.

Практика

Патент является инфраструктурным и не дает практических выводов для SEO (продвижения сайтов в веб-поиске). Он описывает внутренние процессы Яндекс без прямых рекомендаций для SEO.

Однако, если интерпретировать задачу как оптимизацию под рекомендательные системы Яндекса (например, Дзен), можно сделать следующие выводы, основанные на том, что система использует коллаборативную фильтрацию:

Best practices (это мы делаем)

• Максимизация позитивных взаимодействий: Поскольку эмбеддинги генерируются из матрицы взаимодействий, ключевая стратегия — стимулировать пользователей к позитивным взаимодействиям (лайки, длительное время просмотра, шеры). Это напрямую влияет на формирование Item Embedding.
• Фокус на вовлеченность (Engagement): Создавать контент, который удерживает внимание пользователя и способствует глубокому погружению в материал, чтобы улучшить поведенческие сигналы, используемые для обучения MFM.
• Сегментация аудитории: Создавать контент, который четко нацелен на определенные сегменты пользователей. Четкие паттерны взаимодействий в рамках сегмента помогают модели коллаборативной фильтрации лучше определить эмбеддинг контента и находить похожих пользователей.

Worst practices (это делать не надо)

• Кликбейт без вовлечения: Генерация кликов, за которыми не следует длительного взаимодействия (короткие клики, высокий Bounce Rate), формирует негативные сигналы в матрице взаимодействий, что ухудшает эмбеддинг контента.
• Накрутка поведенческих факторов: Искусственное завышение взаимодействий может привести к формированию «шумных» эмбеддингов, которые не будут соответствовать реальным предпочтениям пользователей, и может привести к пессимизации.

Стратегическое значение

Патент подтверждает, что рекомендательные системы Яндекса работают на основе сложных моделей коллаборативной фильтрации, требующих больших объемов данных о поведении пользователей. Стратегическое значение для создателей контента заключается в понимании того, что успех в рекомендательных системах определяется не текстовой оптимизацией или ссылками, а исключительно тем, насколько хорошо контент удовлетворяет интересы пользователей и стимулирует их к взаимодействию.

Практические примеры

Практических примеров для SEO нет, так как патент инфраструктурный и относится к рекомендательным системам, а не к поиску.

Вопросы и ответы