Тренировки по ML 2.0 Лекция 7: Рекомендательные системы

• Приветствие и представление Савы Степурина, старшего разработчика в Яндекс Музыке.  

• Образование: бакалавриат и магистратура МФТИ, школа анализа данных.  

• Опыт работы: 4 года в Яндексе, начинал в Дзене и Яндекс Банке, сейчас в Яндекс Музыке.  

• Лекция будет разбита на смысловые блоки с вопросами в конце каждого блока.  

• Вопросы можно задавать в чат трансляции, указывая номер слайда.  

• В конце будет время для дополнительных вопросов.  

• Использование машинного обучения в Яндекс Музыке.  

• Рекомендации треков в Яндекс Музыке.  

• Модель ранжирования и трансформеры.  

• Кнопка "Моя волна" как главная точка входа в рекомендации.  

• Настройка "Незнакомое" для персонализированных рекомендаций.  

• Различные типы рекомендаций: по треку, альбому, плейлисту, исполнителю, жанру.  

• Умные плейлисты перестраиваются раз в сутки.  

• Данные для рекомендаций: история пользователя, аудиодорожка трека, метаданные трека.  

• Контекст: приложение, регион, уровень подписки, детский аккаунт.  

• Улучшение прослушиваний и лайков пользователей.  

• Поддержка разнообразия треков, артистов и жанров.  

• Метрика возвращаемости: доля пользователей, возвращающихся к рекомендациям.  

• Модель пересчитывает релевантные треки каждый раз при включении "Моей волны".  

• Данные с клиента передаются в бэк-энд музыки для обработки.  

• Бэк-энд хранит данные о подписке, аутентификации и текущей сессии пользователя.  

• Офлайн данные включают имбединги треков и статистику.  

• Текущая сессия пользователя дополняется данными из офлайна.  

• На онлайн-стадии нужно ответить за полсекунды, отбирая релевантные треки.  

• Из сотен миллионов треков отбирается небольшое подмножество.  

• Легкое ранжирование использует небольшую модель для выбора топ-3000 треков.  

• Тяжелое ранжирование использует все признаки и модели машинного обучения.  

• Финальная пачка из пяти треков формируется с учетом бизнес-правил.  

• Нежелательны два трека подряд одного артиста или два лайка подряд.  

• При активном действии пользователя, например, скипе, рекомендации перестраиваются.  

• Вопрос о качестве исполнения классической музыки будет рассмотрен позже.  

• Микрожанры — это поджанры, такие как глэм-рок или норвежский поп-фолк.  

• Поиск схожей музыки сравнивается по косинусной близости и скалярному произведению.  

• На этапе отбора кандидатов определяются треки, которые могут понравиться пользователю.  

• Используются различные способы отбора, которые считаются параллельно.  

• В итоге получается 10 тысяч кандидатов, объединенных из всех способов отбора.  

• Популярные треки в Яндекс Музыке могут быть хорошими кандидатами.  

• История пользователя и его лайки также важны для отбора.  

• Имбединговые похожести используют машинное обучение для нахождения похожих треков.  

• Матричное разложение использует взаимодействие пользователя и трека.  

• Аудио имбединги оценивают схожесть треков по звучанию.  

• Ворд-век модели помогают быстро перестраивать рекомендации.  

• Имбединги пользователя и треков используются для нахождения ближайших соседей.  

• Аудио имбединги могут быть применены к последнему прослушиванию пользователя.  

• Ускорение поиска ближайших соседей с помощью алгоритмов.  

• Предварительное вычисление списков ближайших соседей в офлайне.  

• Имбединги пользователей быстро меняются, поэтому онлайн-перестройка необходима.  

• Алгоритмы, такие как косинус и дабл ю, используются для онлайн-перестройки.  

• Обсуждение двух алгоритмов: Камин и H2W.  

• Камин: деление треков на кластеры по близости имбедингов.  

• H2W: представление треков в виде графа, где ребра указывают на близость треков.  

• Камин: пересчёт имбедингов пользователя и вычисление косинусного расстояния до центров кластеров.  

• H2W: построение графа с слоями, где на каждом слое остаются только ближайшие треки.  

• В онлайне: поиск ближайших треков пользователя на каждом слое графа.  

• Камин быстрее, но менее точный.  

• H2W медленнее, но более точный.  

• Выбор алгоритма зависит от количества треков и требуемой точности.  

• Количество кластеров подбирается эмпирически.  

• Важно найти баланс между точностью и скоростью работы.  

• В данном случае используется около 30 тысяч кластеров.  

• Переход к модели ранжирования после отбора кандидатов.  

• Сбор обучающего пула на основе истории пользователя.  

• Назначение весов событиям для улучшения качества модели.  

• Обучающие пары формируются из последовательно идущих событий с разными весами.  

• Модель учится угадывать, какой трек пользователю понравился больше.  

• Вес пары равен модулю разности весов событий.  

• Используется взвешенный логарифмический сигмоид для функции потерь.  

• Метрика качества - доля угаданных пар.  

• Модель должна угадывать, какой трек положительный, а какой отрицательный.  

• CatBoost - градиентный бустинг над решающими деревьями.  

• Используется в задачах рекомендаций и является опенсорс-библиотекой Яндекса.  

• Легкое ранжирование обучается на предсказаниях тяжелой модели.  

• Признаки делятся на статистические, контекстные и модельные.  

• Статистические признаки включают популярность трека, пользовательские статистики и попарные статистики.  

• Контекстные признаки включают тип рекомендаций, устройство пользователя, регион и права на треки.  

• Используются имбединги, матричные разложения и аудио имбединги.  

• Признаки включают скалярное произведение между пользователем и треком, косинусное расстояние и последние дизлайки и скипы.  

• Модель ранжирования обучается с нуля каждую неделю.  

• Модель обучается с нуля каждую неделю, что позволяет экспериментировать с новыми признаками.  

• Легкая модель обучается на той же тяжелой модели, что и тяжелая модель.  

• Процесс обучения тяжелой и легкой моделей синхронизирован.  

• Квантизация не заменяет тяжелую модель, а только ускоряет расчет признаков.  

• В легкой модели используются подмножества признаков, которые можно быстро посчитать.  

• Легкая модель используется для быстрого расчета признаков и прогонки модели.  

• Двубашенные модели работают по принципу позднего связывания.  

• Пользователи и треки обрабатываются независимо в двух башнях.  

• В конце вычисляется косинус на расстояние между выходными бединами и считается функция потерь.  

• Независимая обработка треков и пользователей позволяет параллелить обучение.  

• В продакшене трековые беинги можно пересчитывать редко, что ускоряет процесс.  

• В онлайне используется только половина модели, что ускоряет работу.  

• Позднее связывание позволяет избежать многократного запуска модели для каждого пользователя.  

• В позднем связывании используется только один раз для каждого пользователя, что делает его более эффективным.  

• Однако, позднее связывание не всегда учитывает все зависимости между пользователем и треком.  

• Трансформеры, особенно с большим количеством слоев, хорошо запоминают зависимости даже в позднем связывании.  

• Это позволяет использовать их в продакшне, несмотря на небольшие потери в качестве.  

• В Яндекс.Музыке трансформеры работают как двунаправленные модели.  

• Модель состоит из двух башен: пользователей и треков.  

• Башня пользователя представляет собой последовательность треков и реакций на них.  

• Башня трека описывает сам трек и его метаданные.  

• Кодирование позиции в истории пользователя и самого трека.  

• Использование BPE-токенизации для кодирования названий треков.  

• Кодирование артистов, альбомов и других метаданных.  

• Кодирование типов событий: лайк, дизлайк, skip, play.  

• Добавление контекстных инкодингов: регион пользователя, клиент и т.д.  

• Суммирование всех инкодингов для получения итогового инкодинга трека или события.  

• Трансформер включает слой self-attention, который помогает понимать, на какие слова или треки нужно смотреть.  

• Использование матричных перемножений для понимания релевантности слов или треков.  

• Применение softmax для нормировки вероятностей и получения выходного вектора.  

• В рекомендациях вместо слов используются треки и реакции пользователей.  

• Понимание, на какие треки нужно смотреть для понимания предпочтений пользователя.  

• Использование слоев feed-forward и skip-connections для передачи информации между слоями.  

• Повторение слоев feed-forward шесть раз для башни пользователя.  

• В башне трека используются только линейные слои и layer normalization.  

• На выходе модели получается столько же имбедингов, сколько было передано в начале.  

• Кстоки используется для отбора кандидатов в рекомендательных системах.  

• Он добавляется как еще один входной имбединг, проходящий через стадии обучения.  

• Кстоки всегда находится на нулевой позиции и не требует позиционного имбединга.  

• Модель обучается на лайках пользователя в стадии прит.  

• Используется функция потерь анти-эксцент лос, которая пытается угадать лайки пользователя среди других лайков.  

• Модель обучается на больших данных за всю историю пользователя.  

• В стадии фантюн учитываются не только лайки, но и другие события пользователя.  

• Используются три кстоки и три лоса для обучения модели.  

• Модель обучается угадывать, какой трек пользователь лайкнул или дослушал.  

• Модель до-обучается каждый день на событиях.  

• Имбединги треков пересчитываются в офлайне, а пользователей - в реальном времени.  

• В отборе кандидатов используется имбединг пользователя, обученный на анти-эксцент лос.  

• Используется трюк с локку-коррекцией для балансировки предсказаний модели.  

• Признаки включают все имбединги пользователя и скалярные косинусные расстояния с имбедингами треков.  

• Трансформер показал значительный прирост в рекомендательных системах.  

• Применение современных технологий для улучшения рекомендаций.  

• Вопрос о рекомендациях классической музыки: проблема с разными исполнителями одного и того же произведения.  

• Решение: реакция пользователя на треки, использование статистики по исполнителям.  

• Вопрос о выборе оптимального размера имбединга для улучшения качества.  

• Замеры качества при разных размерах имбединга: 128, 256, 512, 1024, 2048.  

• Баланс между качеством и скоростью: выбор размера 512 для оптимального качества и производительности.  

• Проблема оверфита в трансформерах: модель редко переобучается, чаще недообучается.  

• Возможность задавать вопросы по теме и не по теме лекции.  

• Завершение лекции и благодарность за внимание.