Инжиниринг искусственного интеллекта
Год издания: 2026
Автор: Дегтев Сергей
Издательство: Автор
Язык: Русский
Формат: PDF/EPUB
Качество: Издательский макет или текст (eBook)
Интерактивное оглавление: Да
Количество страниц: 470
Описание: Представьте, что LLM - это чёрный ящик. Вы знаете, что внутри что-то есть но каждый раз, открывая его, надеетесь на чудо. Эта книга закроет ящик навсегда.Не учебник. Не научпоп. Инженерный путеводитель. Две книги под одной обложкой. Первая - от токена до трансформера: как работает внимание, почему память убивает процессор, сколько стоит владение моделью и что такое HBM. Вторая - от агента до лицензии на ИИ: как строить тестировать, внедрять, считать ROI и не провалиться в цифровую ловушку самообмана.Здесь нет магии. Есть инженерия компромиссов: скорость против памяти, качество против денег, контроль против автономии.Автор не гуру. Автор - энтузиаст, который прошёл путь от «что такое токен» до внедрения агентов в продакшен. И честно рассказывает, где заканчивается наше понимание.Если вы готовы заменить веру в чудо на систему координат - откройте эту книгу.
Примеры страниц (скриншоты)
Оглавление
СТАРТОВАЯ КАРТА 9
ВАЖНОЕ ПРЕДУПРЕЖДЕНИЕ ДЛЯ ЧИТАТЕЛЯ 10
КНИГА 1. Инженерия LLM: от токена до двойника 12
ВВЕДЕНИЕ 14
ГЛАВА 1. КАК РАБОТАЕТ ГЕНЕРАТИВНАЯ ЯЗЫКОВАЯ
МОДЕЛЬ: ОТ ЗАПРОСА К ОТВЕТУ 16
1.1 Токен 17
1.2 Эмбеддинги 25
1.3 Позиционное кодирование (Positional Encoding) 28
1.4 Механизм самовнимания (Self‑Attention) 31
1.5 Трансформерные блоки (Transformer Blocks) 34
1.6 Выходной слой и генерация 39
1.7 Галлюцинации: когда модель уверенно врёт 41
1.8 RAG: как модель не выдумывает факты 44
РЕЗЮМЕ ГЛАВЫ 1 49
Вопросы для самопроверки 51
ГЛАВА 2. ТИПЫ АРХИТЕКТУР НЕЙРОСЕТЕЙ 52
2.1 CNN Convolutional Neural Network / Свёрточная нейросеть 53
2.2 RNN (Recurrent Neural Network / Рекуррентная нейросеть) 55
2.3 LSTM (Long Short‑Term Memory / Долгая краткосрочная память) 58
2.4 GRU (Gated Recurrent Unit / Рекуррентный блок с вентилями) 61
2.5 Трансформер (Transformer) 62
2.6 MoE (Mixture of Experts / Смесь экспертов) 71
2.7 Diffusion Models (Диффузионные модели) 73
2.8 За рамками текста: как трансформеры научились видеть 76
РЕЗЮМЕ ГЛАВЫ 2 78
Вопросы для самопроверки 80
ГЛАВА 3. ОБУЧЕНИЕ МОДЕЛЕЙ 81
3.1 Pre‑training (Предварительное обучение) 82
3.2 SFT - Supervised Fine‑Tuning (Дообучение с учителем) 86
3.3 RLHF - Reinforcement Learning from Human Feedback (Обучение с
подкреплением на основе обратной связи от человека) 88
3.4 Этика и «красные линии»: чью мораль вшивают в модель? 95
РЕЗЮМЕ ГЛАВЫ 3 98
Вопросы для самопроверки 99
ГЛАВА 4. КЛЮЧЕВЫЕ ОПТИМИЗАЦИИ СОВРЕМЕННЫХ МОДЕЛЕЙ 100
4.1 KV‑Cache (Кэш ключей и значений) 101
4.2 GQA - Grouped Query Attention (Групповое внимание по запросам) 103
4.3 MLA - Multi‑head Latent Attention (Латентное многоголовое внимание) 106
4.4 MTP - Multi‑Token Prediction (Предсказание нескольких токенов) 109
4.5 Sliding Window Attention (Внимание со скользящим окном) 111
4.6 Sparse Attention (Разреженное внимание) 113
4.7 Квантизация: как сжать модель без убийства качества 116
4.8 FlashAttention: как ускорить внимание без потери качества 118
РЕЗЮМЕ К ГЛАВЕ 4 119
Вопросы для самопроверки 120
ГЛАВА 5. КАК ВЫБИРАТЬ МОДЕЛИ И ПОДРУЖИТЬ ИХ С ВАШИМИ ДАННЫМИ 121
5.1 СРАВНЕНИЕ СОВРЕМЕННЫХ (2024-2025) МОДЕЛЕЙ. 123
5.2 Выводы: как выбирать модель 126
5.3 TCO: сколько на самом деле стоит владение моделью? 127
5.4 Вычислительная инфраструктура: почему LLM «едят» память, а не процессор 132
5.5 MLOps: как превратить модель в работающий сервис 142
5.6 Безопасность LLM: как не выпустить джинна из бутылки 146
РЕЗЮМЕ К ГЛАВЕ 5 153
Вопросы для самопроверки 156
ГЛАВА 6. ПЕРСПЕКТИВНЫЕ АРХИТЕКТУРЫ: ОТ МОНОЛИТА К ОРКЕСТРУ 158
6.1 Проблема одной модели 159
6.2 Роутинг моделей (Model Routing) 160
6.3 Аналогия с микросервисной архитектурой 163
6.4 Единая шина для обмена контекстом 165
6.5 RLM - Recursive Language Models (Рекурсивные языковые модели) 167
6.6 Агентные системы 171
6.7 Переключение по длине контекста 173
6.8 DWH (Data Warehouse) и ИИ: как подружить бухгалтера и художника 175
РЕЗЮМЕ К ГЛАВЕ 6 181
Вопросы для самопроверки 183
ГЛАВА 7. ЦИФРОВОЙ ДВОЙНИК ЧЕЛОВЕКА: ЕДИНОЕ ОКНО В ЦИФРОВОЙ МИР 184
7.1 Проблема: человек как узкое горлышко 185
7.2 Идея: цифровой двойник как единое окно 186
7.3 Архитектура двойника (три уровня) 187
7.4 Сценарий: утро с двойником 193
7.5 Техническая архитектура 194
7.6 Проблемы и прогноз 196
РЕЗЮМЕ К ГЛАВЕ 7 199
Вопросы для самопроверки 200
ЧТО ДЕЛАТЬ ДАЛЬШЕ? 201
ПРИЛОЖЕНИЯ 202
1. КАК ТРАНСФОРМЕР ПОНИМАЕТ 203
2. КЛЮЧЕВЫЕ МЫСЛИ КНИГИ 1 208
3. ИСТОРИЯ РАЗВИТИЯ НЕЙРОСЕТЕЙ: ОТ МЕЧТЫ К ПОВСЕДНЕВНОСТИ 213
4. МНОГОЯЗЫЧНЫЕ МОДЕЛИ: КАК ОДИН ТРАНСФОРМЕР МОЖЕТ ГОВОРИТЬ НА ВСЕХ ЯЗЫКАХ 217
5. ПРАКТИЧЕСКИЕ ПРИМЕРЫ: (псевдо-)КОД И ИНСТРУКЦИИ 221
5.1 KV Cache на псевдокоде (как это работает внутри) 222
5.2 Расчет TCO на Python 223
5.3 Простой роутер на fastText 224
5.4 Минимальный прототип цифрового двойника (FastAPI) 225
6. ГЛУБИННЫЕ ВОПРОСЫ: то, что осталось за кадром 227
ГЛОССАРИЙ 234
ЗАКЛЮЧЕНИЕ 240
КНИГА 2. От инструмента к двойнику: экономика, тестирование и границы ИИ 242
ВВЕДЕНИЕ 243
ГЛАВА А. AI-АГЕНТЫ: ОТ ПРОТОТИПА К PRODUCTION 245
А.1 Определение и эволюция: LLM vs AI, Agent vs Workflow 246
А.2 Архитектурные паттерны агентов 252
А.3 Инструментарий разработчика 264
А.4 Управление состоянием и памятью 269
А.5 Надежность, безопасность и будущее агентов (сводная глава) 273
РЕЗЮМЕ К ГЛАВЕ А 278
Вопросы для самопроверки 279
ГЛАВА Б. ИНЖЕНЕРНЫЙ АРСЕНАЛ LLM: ОТ КВАНТИЗАЦИИ ДО ДАТАСЕТОВ 280
Б.1 Квантизация и сжатие моделей 281
Б.2 Распределённый тренинг 283
Б.3 Системы RAG (Retrieval-Augmented Generation) 285
Б.4 Промпт-инжиниринг и структурированные выходы 287
Б.5 Оценка и бенчмаркинг LLM 294
Б.6 Fine - tuning на практике 296
Б.7 Инференс и сервинг 298
Б.8 Модальности: мультимодальные модели 300
Б.9 Безопасность и выравнивание (Alignment) 302
Б.10 Инжиниринг данных для LLM 304
Б.11 No - code / low - code платформы для оркестрации ИИ 306
РЕЗЮМЕ К ГЛАВЕ Б 308
Вопросы для самопроверки 309
ГЛАВА В. КАРТА КОМПЕТЕНЦИЙ AI-ПРОДАКТА 310
B.1 Природа ИИ (Ментальная модель) 311
B.2 Технический цикл жизни модели (MLLC): Почему код - это не главное 312
B.3 Техническая грамотность (без углубления в код) 316
B.4 Безопасность, право и этика 317
B.5 Бизнес и управление изменениями 318
B.6 Управление ИИ-продуктом (AI PDLC): Как организовать команду и процесс 332
РЕЗЮМЕ К ГЛАВЕ B (для продакта и тимлида) 338
Вопросы для самопроверки 339
ГЛАВА Г. МУЛЬТИМОДАЛЬНЫЕ МОДЕЛИ: КОГДА LLM ВИДИТ И СЛЫШИТ 340
Г.1 Проблема: текст - это только вершина айсберга 341
Г.2 От текста к картинкам: Vision Transformer (ViT) 342
Г.3 CLIP: как научить модель понимать, что на картинке 343
Г.4 Как устроены мультимодальные LLM (LLaVA, GPT-4V, Gemini) 345
Г.5 Глубже: как модели понимают видео и аудио 347
Г.6 Практические возможности и ограничения 348
Г.7 Риски и безопасность мультимодальных моделей 349
Г.8 Архитектурные паттерны для мультимодальных приложений 351
Г.9 Будущее мультимодальных моделей 352
РЕЗЮМЕ К ГЛАВЕ Г (для инженера) 353
Вопросы для самопроверки 354
ГЛАВА Д. ГОЛОСОВЫЕ АССИСТЕНТЫ: ASR, TTS И КОНВЕЙЕРЫ 355
Д.1 Чем голосовой ассистент отличается от чат-бота 356
Д.2 ASR: как компьютер слышит 357
Д.3 От ASR к пониманию: NLU для голоса 359
Д.4 TTS: как компьютер говорит 360
Д.5 Единые мультимодальные модели: конвейер уходит в прошлое? 362
Д.6 Латентность и интерактивность: почему 5 секунд - это много 363
Д.7 Практические рекомендации для инженера 364
Д.8 Будущее голосовых ассистентов 365
РЕЗЮМЕ К ГЛАВЕ Д 366
Вопросы для самопроверки 367
ГЛАВА Е. КАК ТЕСТИРОВАТЬ ТО, ЧТО НЕЛЬЗЯ ЗААССЕРТИТЬ 368
Е.1 Проблема: нейросеть не возвращает 2+2 370
Е.2 Три слоя тестирования (Пирамида для LLM) 376
Е.3 LLM-as-a-Judge: когда модель проверяет модель 378
Е.4 Метрики надежности: как измерить «качество агента» 379
Е.5 Регрессионное тестирование: библиотека nightmare 381
РЕЗЮМЕ К ГЛАВЕ Е 383
Вопросы для самопроверки 384
ГЛАВА Ж. ЦИФРОВАЯ ЛОВУШКА: КАК ИИ УГЛУБЛЯЕТ САМООБМАН 385
Ж.1 Проблема: зеркало, которое льстит 386
Ж.2 Механизм самообмана: пошаговая анатомия 387
Ж.3 Подмена реальности: как ИИ становится соучастником 388
Ж.4 «А если я пошутил?» Почему модель не отличает комплимент от насмешки 389
Ж.5 Почему это особенно опасно с ИИ 390
Ж.6 Что делают ответственные модели, чтобы этого избежать? 391
Ж.7 Практический кейс: как выглядит честный диалог 393
Ж.8 Что это значит для инженера (строящего такие системы) 395
Ж.9 Что это значит для пользователя (читающего книгу) 396
Ж.10 Границы и ограничения: что эта глава НЕ утверждает 397
РЕЗЮМЕ К ГЛАВЕ Ж 398
Вопросы для самопроверки 399
РЕЗЮМЕ КНИГИ 2. 20 ГЛАВНЫХ ИДЕЙ 400
ПРИЛОЖЕНИЯ 404
1. ЕСЛИ ЕСТЬ ТОЛЬКО 10-20 МИНУТ, ТО… 405
2. КАК ОТЛИЧИТЬ ТЕКСТ, СГЕНЕРИРОВАННЫЙ LLM, ОТ ЧЕЛОВЕЧЕСКОГО 410
3. ГЛУБИННЫЕ ВОПРОСЫ ЮРИСТА: КТО ОТВЕЧАЕТ, КОГДА ИИ ОШИБАЕТСЯ 415
4. КАК ВНЕДРИТЬ LLM В БИЗНЕСЕ: ЧЕК-ЛИСТ ДЛЯ ДИРЕКТОРА ПРОЕКТА 420
4.1 Аудит бизнес-процессов: как найти зоны с максимальным ROI за 2 недели 421
4.2 Выбор: готовая платформа vs кастомная разработка 423
4.3 Как защитить проект перед собственником (шаблон презентации) 425
4.4 Управление изменениями: как работать с сопротивлением 428
4.5 Безопасность: чек-лист для директора проекта 433
4.6 TCO-калькулятор: три варианта + платформа 435
4.7 Итог: чек-лист готовности Директора проекта 438
5. ENTERPRISE-ПЛАТФОРМЫ ДЛЯ ИИ: ГОТОВЫЙ «МОЗГ ПОД КЛЮЧ» 439
6. EDGE LLM: КОГДА ИИ ЖИВЁТ У ВАС В КАРМАНЕ 448
ГЛОССАРИЙ 457
ЗАКЛЮЧЕНИЕ 461
ПОСЛЕСЛОВИЕ. ЛИЦЕНЗИЯ НА ИИ: ОТ УТОПИИ К НЕИЗБЕЖНОСТИ 463
