So funktioniert RAG an einem Beispiel
Ein Fachhändler für Landmaschinen hat Bedienungsanleitungen, Servicezeiten und Ersatzteilinfos auf der Website und in PDFs. Fragt ein Kunde im Chat „Wie oft muss beim Rasentraktor das Öl gewechselt werden?“, sucht das System zuerst die passende Stelle in der Anleitung. Erst dann formuliert das Sprachmodell eine Antwort auf Basis dieses Textes und kann auf die Quelle verweisen.
Ändert sich etwas, aktualisiert der Händler nur seine Unterlagen. Ein neues Training des Modells ist nicht nötig.
Warum RAG für KMU wichtig ist
Allgemeine KI-Modelle kennen Ihre Preise, Termine und Besonderheiten nicht. Mit RAG wird ein Chatbot zum Auskunftsgeber für genau Ihren Betrieb und erfindet seltener etwas (Halluzination). Voraussetzung sind aktuelle, gut gegliederte Inhalte.
Auf demselben Grundgedanken beruhen Lösungen wie Pipebot, der nur mit den Inhalten des Kunden antwortet. Welche Inhalte ein Bot braucht, erklärt der Ratgeber Chatbot-Inhalte; individuelle Anbindungen beschreibt KI-Automatisierung.
Sehen Sie, wie ein KI-Chatbot mit den Inhalten Ihrer Website antwortet. Danach 30 Tage gratis.
Häufige Fragen
Ist RAG dasselbe wie das Trainieren einer eigenen KI?
Nein. Beim Training werden die Gewichte eines Modells verändert, was aufwendig und teuer ist. Bei RAG bleibt das Modell unverändert; es bekommt bei jeder Frage passende Ausschnitte aus Ihren Unterlagen mitgeliefert. Das ist für kleine Betriebe meist die bessere Wahl, weil Inhalte schnell aktualisiert werden können und keine großen Datenmengen nötig sind.
Welche Unterlagen eignen sich für RAG?
Gut geeignet sind Texte mit klaren Fakten: Website-Inhalte, Preislisten, häufige Fragen, Produktbeschreibungen, Anleitungen oder interne Arbeitsanweisungen. Wichtig ist, dass die Inhalte aktuell und widerspruchsfrei sind. Veraltete Dokumente führen zu veralteten Antworten. Vertrauliche Unterlagen sollten nur in Systeme fließen, deren Datenverarbeitung Sie geprüft haben.