Лу Лю, Юйцзюнь Чжан - Рекомендательные системы на основе больших языковых моделей (2026)

GuDron

dumpz.ws
Admin
Регистрация
28 Янв 2020
Сообщения
10,827
Реакции
1,644
Credits
41,256
Рекомендательные системы на основе больших языковых моделей
фронт.jpg
Год издания: 2026
Автор: Лу Лю, Юйцзюнь Чжан
Переводчик: Люско И. Л.
Язык: Русский
Формат: PDF
Издательский макет
Количество страниц: 322
Описание: В книге представлено глубокое исследование ключевых технологий, практических методов и передовых тенденций рекомендательных систем в эпоху больших моделей. Начиная с основ рекомендательных систем и принципов работы больших моделей, в ней систематически разбираются основные способы интеграции больших моделей с рекомендательными системами. Материал подкрепляется множеством реальных практических кейсов, охватывающих сложные и критически важные сценарии.
Издание предназначено для алгоритмических инженеров, системных архитекторов, исследователей и разработчиков, желающих овладеть технологиями рекомендательных систем следующего поколения.
Скрытое содержимое могут видеть только пользователи групп(ы): Premium, Местный, Свои
dumpz.ws
 

GuDron

dumpz.ws
Admin
Регистрация
28 Янв 2020
Сообщения
10,827
Реакции
1,644
Credits
41,256
Предисловие от издательства...........................................................................10
Предисловие......................................................................................................11
Глава 1. Введение.............................................................................. 13
1.1. Рекомендательные системы вокруг нас...................................................13
1.2. Эволюция технологий рекомендательных систем..................................15
1.3. Обзор больших моделей.............................................................................17
1.4. Интеграция больших моделей и рекомендательных систем..................17
Список литературы............................................................................................19
Глава 2. Основы рекомендательных систем................................. 21
2.1. Обзор базовых рекомендательных алгоритмов.......................................21
2.2. Методы на основе коллаборативной фильтрации...................................23
2.2.1. Коллаборативная фильтрация............................................................23
2.2.2. Матричная факторизация...................................................................25
2.2.3. Ограниченные машины Больцмана...................................................27
2.2.4. Коллаборативная фильтрация с глубоким обучением.....................29
2.3. Методы рекомендаций на основе признаков...........................................32
2.3.1. Методы на основе машинного обучения...........................................32
2.3.2. Методы рекомендаций на основе глубокого обучения.....................38
2.4. Методы рекомендаций на основе последовательностей........................43
2.4.1. GRU4Rec................................................................................................44
2.4.2. SASRec...................................................................................................45
2.4.3. DIN........................................................................................................46
2.5. Проектирование и построение рекомендательных систем....................48
2.5.1. Рабочий процесс рекомендательной системы..................................48
2.5.2. Универсальная архитектура рекомендательных систем..................53
2.5.3. Холодный старт в рекомендательных системах...............................57
2.5.4. Конструирование признаков..............................................................57
2.6. Заключение.................................................................................................64
Список литературы............................................................................................64
Глава 3. Основы больших моделей................................................ 67
3.1. Обработка естественного языка и языковые модели..............................67
3.1.1. Обзор обработки естественного языка..............................................67
3.1.2. Языковые модели................................................................................69
3.1.3. Корпусы текстов..................................................................................72
3.2. Трансформер...............................................................................................73
3.2.1. Механизм внимания............................................................................74
3.2.2. Архитектура трансформера................................................................77
3.2.3. Предобученные модели на базе трансформера................................81
3.3. Построение и применение больших моделей..........................................85
3.3.1. Построение больших моделей............................................................85
3.3.2. Промпт-инженерия для больших моделей........................................91
3.4. Заключение.................................................................................................95
Список литературы............................................................................................96
Глава 4. Применение больших моделей
в рекомендательных системах....................................................... 98
4.1. Интеграция больших моделей с рекомендательными системами.........98
4.2. Парадигмы применения больших моделей
в рекомендательных системах.......................................................................100
4.2.1. Большая модель как вспомогательный модуль..............................101
4.2.2. Большая модель непосредственно как модель рекомендаций......104
4.2.3. Большая модель как интеллектуальный агент................................106
4.3. Предобучение больших рекомендательных моделей...........................108
4.3.1. Многозадачное предобучение больших моделей...........................108
4.3.2. Другие базовые большие модели.....................................................114
4.4. Тонкая настройка больших рекомендательных моделей.....................115
4.4.1. Полная тонкая настройка модели....................................................116
4.4.2. Параметрически эффективная тонкая настройка..........................117
4.4.3. Настройка промптов.........................................................................117
4.4.4. Настройка инструкций......................................................................119
4.4.5. Значение инструкций и промптов...................................................121
4.5. Часто используемые рекомендательные датасеты................................122
4.6. Заключение...............................................................................................123
Список литературы..........................................................................................123
Глава 5. Большие языковые модели
как рекомендательные модели....................................................126
5.1. Отбор кандидатов на основе больших моделей.....................................127
5.1.1. Отбор кандидатов на основе текста.................................................128
5.1.2. Отбор кандидатов на основе
эмбеддинг-векторов...................................................................................130
5.1.3. Отбор кандидатов с учетом коллаборативной информации.........131
5.2. Рекомендательные системы с учетом последовательностей
на основе больших моделей...........................................................................133
5.2.1. Тонкая настройка и выравнивание..................................................135
 

GuDron

dumpz.ws
Admin
Регистрация
28 Янв 2020
Сообщения
10,827
Реакции
1,644
Credits
41,256
5.2.2. Оптимизация с учетом временного фактора..................................137
5.2.3. Оптимизация с учетом контекста....................................................138
5.3. Ранжирование рекомендаций на основе больших моделей.................140
5.3.1. Оптимизация разнообразия ранжирования....................................142
5.3.2. Оптимизация инвариантности ранжирования...............................144
5.3.3. Ранжирование элементов в нескольких предметных областях.....146
5.4. Слияние коллаборативной информации и семантических знаний.....148
5.4.1. Предобучение и тонкая настройка на основе
коллаборативной информации..................................................................151
5.4.2. Интеграция моделей рекомендаций на основе ID
с большими моделями................................................................................153
5.5. Рекомендательные системы на основе больших моделей
усиленные извлечением из внешних источников знаний...........................154
5.5.1. Парадигмы усиления извлечением..................................................155
5.5.2. Усиление извлечением на основе
коллаборативной фильтрации...................................................................157
5.5.3. Усиление извлечением на основе гибридных методов..................160
5.5.4. Методы усиления извлечением на основе графов..........................162
5.6. Краткие итоги...........................................................................................165
Список литературы..........................................................................................166
Глава 6. Усиление рекомендательных систем
большими моделями.......................................................................168
6.1. Конструирование признаков с использованием больших моделей.....168
6.1.1. Построение портретов пользователей.............................................169
6.1.2. Извлечение признаков элементов...................................................175
6.1.3. Комбинация признаков пользователя и элемента.........................179
6.2. Построение графов с помощью больших моделей................................181
6.2.1. Построение графа логического вывода с помощью
больших моделей........................................................................................186
6.2.2. Извлечение отношений комплементарности
с помощью больших моделей.....................................................................189
6.2.3. Построение гиперграфа с помощью большой языковой модели.........191
6.3. Усиление рекомендательных систем при холодном старте
с помощью больших языковых моделей.......................................................194
6.3.1. Большая языковая модель как модель холодного старта................195
6.3.2. Преодоление проблемы холодного старта с помощью
эмбеддингов большой языковой модели..................................................196
6.3.3. Совместное обеспечение холодного и горячего старта..................198
6.3.4. Генерация данных взаимодействий пользователь–элемент.........200
6.4. Рекомендательные системы на основе дистилляции больших
языковых моделей...........................................................................................204
6.4.1. Дистилляция больших языковых моделей......................................205
6.4.2. Дистилляция больших языковых моделей
для улучшения рекомендательных систем...............................................207
6.4.3. Дистилляция промптов в многозадачных
рекомендательных системах......................................................................209
6.4.4. Интеграция знаний большой языковой модели
и коллаборативной информации...............................................................211
6.5. Заключение...............................................................................................213
Список литературы..........................................................................................214
Глава 7. Надежные рекомендательные системы
на основе больших моделей......................................................... 217
7.1. Интерпретируемость рекомендательных систем...................................218
7.1.1. Обзор интерпретируемости..............................................................218
7.1.2. Тонкая настройка больших моделей
для интерпретируемых рекомендательных систем.................................219
7.2. Справедливость рекомендательных систем...........................................223
7.2.1. Обзор справедливости.......................................................................223
7.2.2. Справедливость элементов...............................................................224
7.2.3. Справедливость пользователей........................................................226
7.3. Приватность рекомендательных систем.................................................229
7.3.1. Обзор приватности и федеративного обучения..............................229
7.3.2. Методы федеративного обучения больших моделей......................230
7.3.3. Достижение баланса в федеративных
рекомендательных системах......................................................................233
7.4. Актуальность рекомендательных систем...............................................236
7.4.1. Обновление модели
и катастрофическое забывание..................................................................236
7.4.2. Непрерывное обучение больших моделей......................................237
7.4.3. Инкрементальное обучение рекомендательных систем
на основе больших моделей.......................................................................239
7.5. Забывание в рекомендательных системах..............................................240
7.5.1. Обзор забывания................................................................................240
7.5.2. Приближенное забывание.................................................................241
7.5.3. Точное забывание..............................................................................243
7.6. Заключение...............................................................................................244
Список литературы..........................................................................................245
Глава 8. Рекомендательные системы
на основе интеллектуальных агентов
с большими моделями ..................................................................249
8.1. Интеллектуальные агенты на основе больших моделей.......................249
8.1.1. Одноагентный интеллектуальный агент.........................................251
8.1.2. Многоагентные интеллектуальные системы...................................251
8.2. Применение интеллектуальных агентов на основе
больших моделей в рекомендательных системах........................................255
8.3. Рекомендательные системы на основе интеллектуальных
агентов с большими моделями......................................................................261
8.3.1. Интеллектуальные агенты, ориентированные на пользователя......261
8.3.2. Интеллектуальные агенты, ориентированные
на взаимодействие пользователь–элемент..............................................264
8.3.3. Рекомендательные системы на основе сотрудничества
многоагентных интеллектуальных систем...............................................266
8.4. Заключение...............................................................................................269
Список литературы..........................................................................................270
Глава 9. Оценка и развертывание рекомендательных
систем на основе больших моделей............................................272
9.1. Методы оценки больших моделей..........................................................272
9.1.1. Общие методы оценки......................................................................272
9.1.2. Методы оценки для конкретных задач............................................274
9.2. Методы оценки рекомендательных систем...........................................276
9.2.1. Офлайн-метрики рекомендательных систем..................................276
9.2.2. Онлайн-метрики рекомендательных систем..................................283
Другие метрики оценки рекомендаций....................................................286
9.3. Развертывание больших моделей............................................................286
9.3.1. Фреймворки высокопроизводительного и пакетного
развертывания.............................................................................................287
9.3.2. Фреймворки гибкого и кросс-платформенного развертывания.......290
9.4. Сжатие больших моделей........................................................................293
9.4.1. Квантование больших моделей........................................................293
9.4.2. Обрезка больших моделей................................................................295
9.5. Создание рекомендательной системы на основе больших
моделей с помощью фреймворка LangChain................................................297
9.5.1. Построение этапа отбора кандидатов.............................................298
9.5.2. Создание интеллектуального агента для рекомендаций...............301
9.6. Заключение...............................................................................................303
Список литературы..........................................................................................303
Глава 10. Итоги и перспективы.....................................................305
10.1. Является ли большая модель «серебряной пулей»?.............................306
10.2. Открытые вопросы.................................................................................307
10.3. 60 вопросов о больших моделях и рекомендациях..............................307
Предметный указатель....................................................................................311