Искусственный интеллект
Что такое RAG
Retrieval-Augmented Generation — дополнение LLM внешними данными
RAG (Retrieval-Augmented Generation) — архитектура, которая дополняет ответы LLM релевантной информацией из внешней базы знаний.
Как работает RAG
- Запрос — пользователь задаёт вопрос
- Поиск — система находит релевантные документы в базе знаний
- Контекст — найденные документы добавляются в промпт
- Генерация — LLM генерирует ответ с учётом контекста
Компоненты RAG-системы
- Эмбеддинг-модель — преобразует текст в векторы
- Векторная БД — хранит и ищет эмбеддинги
- Чанкинг — разбиение документов на фрагменты
- Ранжирование — сортировка результатов по релевантности
- LLM — генерирует финальный ответ
Продвинутые техники
- Hybrid search — комбинация векторного и keyword-поиска
- Re-ranking — переранжирование результатов
- Query expansion — расширение запроса синонимами
- Multi-hop RAG — цепочка поисков для сложных вопросов
Применение в бизнесе
- Корпоративные ассистенты — ответы по внутренней документации
- Техподдержка — база знаний для саппорт-ботов
- Юридические системы — поиск по законам и прецедентам
- Медицина — информация по симптомам и протоколам