RAG (Retrieval-Augmented Generation)
RAG ist die Technik, bei der ein KI-Modell zuerst die relevanten Stellen in Ihren eigenen Dokumenten sucht und damit antwortet, sodass die Antwort auf Ihren Informationen beruht und eine Quelle hat.
Ein Sprachmodell kennt von sich aus weder Ihre Preisliste noch Ihre Handbücher oder Lieferbedingungen. Mit RAG werden diese Dokumente vorab in Abschnitte zerlegt und durchsuchbar gemacht. Bei einer Frage holt das System die passenden Abschnitte und gibt sie dem Modell mit, das dann genau auf Basis dieses Textes antwortet.
Das Ergebnis: Antworten, die zu Ihren Quellen passen, mit Verweis auf das Dokument. Das ist die Grundlage jeder verlässlichen Wissensbasis oder jedes Kundenservice-Agenten und das wichtigste Mittel gegen Halluzinationen.
Weitere Begriffe
Vektordatenbank
Eine Vektordatenbank speichert Text als Zahlenreihen, die die Bedeutung abbilden, sodass man nach "was ähnelt dem" suchen kann statt nur nach exakten Wörtern.
MCP (Model Context Protocol)
MCP ist ein offener Standard, über den KI-Modelle und Agenten Tools und Datenquellen einheitlich ansprechen, sodass eine Anbindung einmal gebaut und von jedem Agenten genutzt werden kann.
Halluzination
Eine Halluzination ist eine Antwort eines KI-Modells, die überzeugend klingt, aber nicht stimmt: ein erfundener Preis, ein nicht existierender Artikel, ein Datum ohne Grundlage.
Möchten Sie wissen, was das für Ihr Unternehmen bedeutet?
Sagen Sie uns, wo Sie Zeit oder Marge verlieren. Wir zeigen, wo sich KI am schnellsten auszahlt, in klarer Sprache.