Перше покоління RAG (Retrieval-Augmented Generation) базувалося на простому принципі: розбити документ на шматки (chunks), згенерувати ембеддінги, знайти схожі косинусною відстанню та віддати в LLM. У реальних корпоративних задачах з тисячами складних PDF, таблиць та специфічної термінології такий підхід дає галюцинації.
RAG 2.0 перетворює пошук на багатоетапний інженерний пайплайн. Основою є Hybrid Search (гібридний пошук) — поєднання щільних векторних ембеддінгів (для смислового пошуку) з розрідженим пошуком за ключовими словами на кшталт BM25 чи pgvector (для витягування точних артикулів, імен та кодів).
Додавання Re-ranker (наприклад, Cohere Rerank або BGE-Reranker) на другому етапі підвищує точність: модель-переранжувальник відсіює 90% нерелевантного шуму перед тим, як сформувати промпт для LLM.
GraphRAG піднімає пошук на новий рівень через побудову графів знань (сутності та зв'язки між ними). Коли користувач ставить високорівневе запитання («Які спільні ризики є в усіх контрактах за 2025 рік?»), GraphRAG аналізує зв'язки у графі, а не шукає окремі розрізнені фрази.
Для роботи з деталізованою документацією: мультимодальні моделі парсять графіки, фінансові звіти та схеми в Markdown-таблиці перед векторизацією, що гарантує точність у підрахунках.
Дайте наступному продукту того, хто лишається.
Готовий стартувати зараз і лишитись. Довготермінові ретейнери, не злив за два тижні. Напишіть - обговоримо проєкт, вимоги і як рухатись далі.