Мнение Программного комитета о докладе
В результе воркшопа каждый участник поймет, как строить системы RAG (Retrieval Augmented Generation), узнает их особенности и получит собственную работоспособную систему.
Мастер-класс «Создание модульной (и желательно эффективной) RAG-системы»
Доклад принят в программу конференции
Целевая аудитория
Мужчины и женщины, интересующиеся созданием чат-ботов, копилотов, агентских систем и основанных на ИИ баз знаний. Необходимо иметь хотя бы базовое понимание основных принципов работы ИИ и больших языковых моделей. Необходимо уметь нажимать кнопочки на Python.
Тезисы
Создаваемые в 2022 и 2023 году системы RAG (retrieval augmented generation) постепенно усложняются, превращаясь в монстров обработки данных — от простой схемы «ретривер-генератор» решения переходят к модульным системам со множеством асинхронных источников данных, несколькими моделями, сложными сценариями, поддержкой самостоятельного принятия решений.
В рамках данного воркшопа мы:
* быстренько слепим не очень простую RAG-систему на Python, langchain и llamaindex, на облачных отечественных моделях;
* освоим модные техники и исследования в области создания модульных и гибридных RAG — актуализированные на момент проведения конференции, так как новые публикации и библиотеки появляются практически каждый день;
* применим методы автоматической оценки эффективности (точности и полноты) систем с RAG.
От участников потребуется:
* ноутбук с любой ОС,
* среда разработки для Python (VS Code, PyCharm, etc.),
* установленный Python 3.12, git, Docker,
* WSL, если у вас Windows,
* хорошее настроение.
15 лет опыта программирования на всяком, был CTO в двух швейцарских стартапах по информационной безопасности, техническим архитектором в проекте Korus Consulting, сейчас работает в Raft AI Labs — делают классные штуки с использованием ИИ.
Raft AI Labs
Raft AI Labs — это подразделение компании Raft, специализирующееся на разработке и интеграции решений с использованием новейших AI-технологий. С помощью передовых технологий и инновационных подходов они преобразуют и оптимизируют бизнес-процессы, повышая их производительность и эффективность.
Видео
Подготовительное задание
1. нужен ноутбук с любой ОС
2. установить среду разработки для Python (VS Code, PyCharm, etc)
3. установленные программы - Python 3.12, git, Docker
4. если у вас Windows, убедитесь, что установлен WSL, с ним будет меньше проблем
5. освежите знания по Python, будем смотреть код, обсуждать его и много смеяться
6. склонируйте (или обновите) репозиторий https://github.com/anton-belousov/shl24 - он будет содержать каркас проекта и нужные функции
2. установить среду разработки для Python (VS Code, PyCharm, etc)
3. установленные программы - Python 3.12, git, Docker
4. если у вас Windows, убедитесь, что установлен WSL, с ним будет меньше проблем
5. освежите знания по Python, будем смотреть код, обсуждать его и много смеяться
6. склонируйте (или обновите) репозиторий https://github.com/anton-belousov/shl24 - он будет содержать каркас проекта и нужные функции
