Die erste Generation von RAG (Retrieval-Augmented Generation) beruhte auf einem einfachen Ablauf: Dokumente in Chunks zerlegen, Embeddings erzeugen, per Kosinusähnlichkeit suchen und die Top-K-Chunks an das LLM übergeben. Bei Tausenden komplexen PDFs, Tabellen und Fachbegriffen in Unternehmen versagt dieses naive RAG häufig.
RAG 2.0 macht aus dem Retrieval eine mehrstufige Engineering-Pipeline. Sie beginnt mit Hybrid Search: Dichte Vektor-Embeddings für semantische Bedeutung werden mit spärlicher Stichwortsuche wie BM25 oder PostgreSQL pgvector kombiniert, die exakte Produkt-IDs, Namen und Codes findet.
Ein zweiter Durchlauf mit einem Re-Ranker wie Cohere Rerank oder BGE-Reranker steigert die Präzision deutlich. Er bewertet den vollständigen Abfragekontext gegenüber den Kandidaten-Chunks und filtert 90 % irrelevanter Informationen heraus, bevor diese in das Kontextfenster des LLM gelangen.
GraphRAG erweitert das Retrieval durch Knowledge Graphs aus Entitäten und Beziehungen in unstrukturierten Unternehmensdokumenten. Bei übergreifenden Fragen wie „Welche gemeinsamen Risiken gibt es in allen Lieferantenverträgen von 2025?“ durchläuft GraphRAG Graphknoten, statt isolierte Dokumentausschnitte abzurufen.
Bei komplexer Dokumentaufnahme wandeln multimodale Modelle wie Claude 3.5 Sonnet Vision oder Unstructured.io PDF-Diagramme, Finanztabellen und Grafiken vor dem Embedding in Markdown-Tabellen um. So bleibt die mathematische Genauigkeit in den späteren Antworten erhalten.
Geben Sie dem nächsten Produkt jemanden, der bleibt.
Bereit für den Start? Schreiben Sie mir – ich kann sofort beginnen und bleiben. Langfristige Mandate statt Übergabe nach zwei Wochen. Lassen Sie uns über Ihr Projekt, die Anforderungen und den besten Weg nach vorn sprechen.