První generace RAG (Retrieval-Augmented Generation) vycházela z jednoduchého předpokladu: rozdělit dokumenty na části, vytvořit embeddingy, hledat pomocí kosinové podobnosti a předat nejlepších K částí LLM. V podnikových prostředích s tisíci složitých PDF, tabulek a odborných výrazů naivní RAG často selhává.
RAG 2.0 mění vyhledávání v několikastupňový inženýrský pipeline. Začíná Hybrid Search, který kombinuje husté vektorové embeddingy zachycující sémantický význam s řídkým vyhledáváním klíčových slov, například BM25 nebo PostgreSQL pgvector, jež najde přesná ID produktů, názvy a kódy.
Druhé kolo s rerankerem, jako je Cohere Rerank nebo BGE-Reranker, výrazně zvyšuje přesnost. Porovnává úplný kontext dotazu s kandidátními částmi a odstraní 90 % irelevantního šumu dříve, než se dostane do kontextového okna LLM.
GraphRAG posouvá vyhledávání dál tím, že z nestrukturovaných firemních dokumentů vytváří znalostní grafy (entity a vztahy). Na obecnou otázku typu „Jaká společná rizika jsou ve všech smlouvách s dodavateli z roku 2025?“ prochází uzly grafu místo načítání izolovaných úryvků dokumentů.
Při zpracování složitých dokumentů převádějí multimodální modely, například Claude 3.5 Sonnet Vision nebo Unstructured.io, grafy z PDF, finanční tabulky a schémata na tabulky Markdown ještě před vytvořením embeddingů, aby následné odpovědi zachovaly matematickou přesnost.
Dejte příštímu produktu někoho, kdo zůstane.
Chcete začít? Napište mi – mohu začít hned a zůstat. Dlouhodobé retainery, ne dvoutýdenní předání. Proberme váš projekt, požadavky a nejlepší cestu vpřed.