LLM-агент — это микросервис!

AI для гоферов

Фреймворки
GO
ML
Микросервисы

Доклад принят в программу конференции

Целевая аудитория

Go-разработчики. Менеджеры проектов.

Тезисы

Перед нами стояла задача разработать экосистему для AI-агентов: от ассистента в выборе ресторана до помощника по найму курьеров.

В докладе я разберу ключевые компоненты архитектуры и расскажу о внутренних библиотеках, которые мы создали для решения этой задачи. Мы обсудим требования, которые мы предъявляем к LLM-агенту, возникшие трудности и способы их преодоления.

И главное — все это реализовано на Go.

В разработке уже почти 30 лет. Последние 7 лет развивает е-ком в Яндексе. Сейчас руководит службой партнерского продукта в ретейле Яндекс Еды. Делают продукт для магазинов, которые продают свои товары в Яндекс Еде.

Видео