LLM-инженер
Создавай, обучай и внедряй LLM‑проекты под руководством экспертов и практиков
Программа:
Раздел 1. Своя LLM
- Лекция: Современные LLM, close vs open models, оценка качества, бенчмарки, что выбрать для своих задач, прайсинг.
- Лекция: Оптимизации инференса в LLM - KV-caching, speculative decoding, MoE.
- Лекция: Проблематика обучения LLM, обзор методов PeFT, нюансы применения.
- Семинар: Сравнение методов файнтюнинга - полный, LP, LP+FT, PEFT.
- Лекция: Что такое RLHF & Alignment, базовая терминология RL и обзор методов: RLHF, PPO, DPO.
- Семинар: TRL, RLHF для чат-модели - PPO или DPO.
- Лекция: Обзор методов уменьшения размеров модели - дистилляция, квантование, прунинг.
- Семинар: Сравнение инструментов и влияние «битности» на качество, Quantization + LoRA и прочие миксы
Раздел 2. Prerequisites для RAG
- Лекция: Работа с текстами - парсинг, обработка текстов (применение ML + LLM в обработке).
- Семинар: Различные виды чанкинга.
- Лекция: Векторная БД, энкодеры, MTEB.
- Семинар: Развёртывание векторной БД, проверка качества различных энкодеров.
- Лекция: Информационный поиск - полнотекстовый, гибридный поиск, BM25, симметричный и ассиметричный поиск.
- Семинар: Сравнение симметричного поиска и ассиметричного на конкретном примере.
- Лекция: Ранжирование - инструменты, метрики для оценки качества, переранжирование.
- Семинар: Построение собственное системы ранжирования, использование кросс-энкодера для переранжирования.
Раздел 3. RAG
- Лекция: Основы RAG систем: фреймворки (LangChain + LangGraph), разбор разных ретриверов; как оценивать работу RAG системы и основные сложности.
- Семинар: Простая RAG система как бенчмарк, демонстрация; наглядная демонстрация нерепрезентативности основных метрик и сложностей, практика DeepEval.
- Лекция: Усложнение RAG-системы: ансамблевые ретриверы, Query Expansion, обработка запросов пользователя (+перефразы, отлов галлюцинаций).
- Семинар: Разработка всего, что было на лекции, на практике.
Раздел 4. Агенты
- Лекция: Введение - что такое агенты, как это работает и сфера применимости.
- Семинар: Построение собственной системы простейших агентов (поиск авиабилетов), сравнение работы обычной модели vs агент.
- Лекция: Мультиагентные системы, контекстная адаптация, точки отказа системы, галлюцинации агентов, следование промпту, уязвимости.
- Семинар: Реализация агента с поддержкой многошагового планирования, использование LLM для генерации и корректировки пошаговых инструкций.
Раздел 5. Инфраструктура
- Лекция: Хостинг LLM, эмбеддингов - обзор инструментов (ollama, tgi, tei, vllm, llama.cpp).
- Семинар: Поднятие модели vllm и работа с ней.
- Лекция: Разворачивание чатбота - обзор UI для чатботов (Streamlit, Gradio).
- Семинар: Деплой чатбота в веб/тг.
- Лекция: Observing - отслеживание работы модели и запросов, версионирование (langfuse, MLflow, arize, fiddler).
- Семинар: Интеграция с чатботом из предыдущего пункта.
Навыки, которые даст курс:
- Разбираться в архитектурах современных LLM
- Запускать и адаптировать open-source модели под свои задачи
- Настраивать модели с помощью fine-tuning и PEFT
- Использовать методы RLHF (включая DPO, PPO)
- Снижать ресурсоёмкость моделей через квантизацию и дистилляцию
- Обрабатывать тексты: парсинг, чанкинг, препроцессинг
- Работать с энкодерами и векторными базами
- Настраивать и оптимизировать системы информационного поиска
- Строить эффективные RAG-системы на LangChain и LangGraph
- Оценивать качество LLM и RAG (DeepEval, ROUGE, BERTScore)
- Разрабатывать интеллектуальных агентов и мультиагентные системы
- Использовать reasoning-подходы: ReAct, Tree of Thoughts
- Разворачивать LLM и чат-ботов с помощью современных инструментов
- Отслеживать и версионировать поведение моделей и запросов
- Устранять галлюцинации и защищать LLM-системы от уязвимостей
