Highload MLOPs: ускорение и автоматизация

BigData и машинное обучение

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Доклад будет интересен широкой публике ML-разработчиков. Из доклада вы узнаете, как в условиях ограниченных вычислительных ресурсов может выживать большая DS-команда. Также вы узнаете, как на небольших серверах оптимально крутить не менее 300 моделей.

Целевая аудитория

Team Lead MLOPs / DS. MLOPs / DS team. ML PO / бизнес-заказчики моделей.

Тезисы

Моя команда разрабатывает централизованную промышленную инфраструктуру MLOps в Альфа-банке, а также управляет процессами внедрения и поддержки моделей.
> 300 моделей в бою, > 150 DS постоянно пользуются платформой.
Реализовали среду разработки моделей с гибким распределением гарантированных вычислительных ресурсов пользователям.
Более чем в 2 раза ускорили внедрение моделей за счет оптимизации пайплайнов и процесса внедрения.
Поддерживаем модели на уровне Mission Critical.
Автоматизировали переобучение моделей и внедряем AutoML.

Павел Николаев

Альфа-банк

15 лет работает в банках: в рисках и Data Science. Работал в Райффайзен Банке, Юникредите, в Альфе 2 раза, Уралсибе и Открытии. На предпоследнем месте работы в Банке Открытие курировал моделирование и интегрированные риски, руководил 200+ сотрудников. На текущем месте работы в Альфа-банке отвечает за централизованную инфраструктуру моделирования и процессы внедрения и сопровождения моделей

Альфа-банк

Альфа-Банк, финансы, IT.

Видео