LLM-агент — это микросервис!
Доклад принят в программу конференции
Целевая аудитория
Тезисы
Перед нами стояла задача разработать экосистему для AI-агентов: от ассистента в выборе ресторана до помощника по найму курьеров.
В докладе я разберу ключевые компоненты архитектуры и расскажу о внутренних библиотеках, которые мы создали для решения этой задачи. Мы обсудим требования, которые мы предъявляем к LLM-агенту, возникшие трудности и способы их преодоления.
И главное — все это реализовано на Go.
В разработке уже почти 30 лет. Последние 7 лет развивает е-ком в Яндексе. Сейчас руководит службой партнерского продукта в ретейле Яндекс Еды. Делают продукт для магазинов, которые продают свои товары в Яндекс Еде.