Теоретический туториал: Как учить большие языковые модели
Обзор основных идей создания LLM. Поговорили про данные, особенности архитектур, этапы обучения и методы его масштабирования. Туториал будет интересен специалистам в ML и DL, которые не занимаются обучением LLM или только погружаются в эту тему.
Спикер: Мурат Апишев, техлид поиска в , ex-SberDevices, ex-Just AI, ex-Yandex
Модератор: Петр Гусев ML Lead в Deliveroo, экс-Яндекс: MLE в команде рекомендаций Яндекс.Медиасервисов
00:00 Знакомство
01:45 Сейчас “LLM“ ≈ “AI“
03:25 Языковое моделирование
05:05 Промптинг LLM
09:55 Архитектура
26:00 Токенизация
31:35 Позиционное кодирование
34:47 Этапы обучения и Данные для обучения
51:15 Баланс между параметрами и данными
54:30 Масштабирование обучения
01:02:40 Эффективность обучения
01:15:10 Алгоритмы оптимизации
01:17:35 Эффективность дообучения
01:20:50 Качество генерации
01:23:30 Архитектура
01:27:40 Масштабирование обучения
01:27:50 Обработка длинного контекста
01:30:45 Мультимодальность
01:30:55 Оценка качества LLM
__________
Подписывайся на наши соц. сети:
LinkedIn UnionVK:
Instagram UnionVK:
LinkedIn YNDX Family:
Instagram YNDX Family:
#vk #яндекс #llm #ai #языковыемодели
1 view
44
17
3 weeks ago 01:42:12 1
Теоретический туториал: Как учить большие языковые модели
3 months ago 00:05:56 1
Серебряный век русской культуры
4 months ago 00:30:12 1
Shadcn UI - создавать приложения на React еще не было так просто! Гайд за 30 минут
4 months ago 00:22:32 1
Как нарисовать ДЕРЕВО за 20 минут! Очень простая и необычная техника.
4 months ago 00:16:56 1
Пейзаж акварелью для начинающих. Объясняю без ускорения!
5 months ago 00:06:58 1
Теоретические методы исследования
6 months ago 00:08:58 1
Как нарисовать бабочку в 3d. Иллюзия объема БЕЗ КАМЕРЫ и под любыми углами!!!
7 months ago 00:27:26 1
Как нарисовать море гуашью? Поэтапный мастер класс.
9 months ago 00:08:50 9
UE5 short tutorials: Делаем рулетку из видео на блюпринте + секвенсер
10 months ago 00:03:09 1
Национальные виды спорта народов Российской Федерации. Подведение итогов
10 months ago 00:13:35 1
Tutorial: Мягкий и пушистый. Как нарисовать шерсть в 2D в Photoshop
11 months ago 01:14:37 1
Урок по текстурам в Blender 3.5: От теории к практике!
12 months ago 00:07:09 1
С# КЛАССЫ с ПРИМЕРАМИ в Unity! Уроки по C# - простым языком о сложных вещах (ч.1)
12 months ago 00:22:54 1
Картина гуашью за 20 минут! Как нарисовать? Техника для начинающих.
1 year ago 00:19:00 1
Как нарисовать море акварелью. Объясняю без ускорения (почти).
1 year ago 00:15:20 1
Урок 1. Эффекты Parallax. Что такое параллакс эффект. Parallax animation. Paralax
1 year ago 02:14:00 63
Создаем нейронную сеть на Keras с нуля ➤ Искусственный интеллект на Python.
1 year ago 00:10:35 1
Акварель. Картина за 10 минут для начинающих!
1 year ago 00:02:09 60
Как сделать красную строку в Figma и Tilda | Text Indent | Стили в Tilda