Скачать презентацию:
Докладчик: Павел Филонов, независимый консультант в области ML, преподаватель MLOps в OTUS и ex-DS Lead в Kaspersky.
Давайте представим, что вы уже прошли часть пути по успешной реализации ML проекта. Договорились по поводу бизнес-метрик, получили доступ к данным, организовали разметку, обучили несколько моделей и выбрали лучшую с помощью валидации. Теперь пришло время запускать ее на инференс на реальных данных, но какой из различных вариантов таких запусков выбрать и какие инструменты для этого использовать?
В докладе обсудим 3 паттерна инференса моделей:
- пакетная обработка;
- потоковый инференс;
- REST интерфейс для модели.
Рассмотрим в каком случае лучше подходит тот или иной паттерн. Как они повлияют на пропускную способность и задержку. И какие подходящие инструменты для их реализации можно использовать.
Telegram Reliable ML:
Data Fest 2023:
Трек “Reliable ML “:
Наши соц.сети:
Telegram:
Вконтакте:
25 views
142
37
4 weeks ago 01:45:05 35
Пена дней (ещё одна запись)
4 weeks ago 01:51:51 21
Klinika ()
4 weeks ago 01:22:55 38
Аркадия (1 действие) ()
4 weeks ago 01:45:13 23
Klinika (2014)
4 weeks ago 01:26:45 47
Пена дней
1 month ago 00:55:57 1
Зачем нам subinterpreters? / Павел Филонов
1 month ago 00:49:51 2
101 способ приготовления RabbitMQ и о pipeline-архитектуре / Павел Филонов (Positive Technologies)
1 month ago 00:50:55 1
Управление индивидуальным развитием участников команды / Павел Филонов (Kaspersky)
1 month ago 00:58:01 1
Нейронные сети на страже индустриальной кибербезопасности / Павел Филонов (Лаборатория Касперского)
1 month ago 00:55:59 2
Выбираем СУБД для хранения временных рядов / Павел Филонов (Лаборатория Касперского)
1 month ago 00:44:57 1
Обнаружение аномалий во временных рядах / Павел Филонов (Лаборатория Касперского)
2 months ago 00:00:59 1
👨🏼🎨ЛЮБОВЬ НЕПРИЗНАННОГО ГЕНИЯ | 1 часть #shorts
2 months ago 00:28:21 1
Первый визит Святейшего Патриарха Московского и всея Руси Кирилла в Сочинскую епархию
2 months ago 01:19:45 11
Deploy моделей в облаках (MLOps в облаках) // Демо-занятие курса «MLOps»
2 months ago 01:10:52 21
Лучше практики MLOps в бизнесе. Опыт FinTech и Security индустрий // Открытый вебинар OTUS
2 months ago 01:40:55 18
Создаем окружение для разработки и хранения моделей (MLOps в облаках) // Демо-занятие курса «MLOps»
2 months ago 01:31:16 7
DataFrame API: от Dask к PySpark // Демо-занятие курса «MLOps»
2 months ago 01:45:02 8
Презентация проектных работ студентов курса MLOps // Демо-занятие курса «MLOps»
2 months ago 01:25:56 9
Управление данными и моделями с помощью DVC // Демо-занятие курса «MLOps»
2 months ago 01:49:22 36
ML System Design интервью // Демо-занятие курса «MLOps»
2 months ago 00:01:14 2
Русское искусство: Павел Филонов. Алексей Шадрин
2 months ago 00:20:08 1
Русское искусство: Павел Филонов. Эпизод занятия. Алексей Шадрин