Wie Halluzinationen im Alltag auffallen
Ein Immobilienmakler lässt eine KI einen Text über Nebenkosten beim Wohnungskauf schreiben. Das Ergebnis liest sich flüssig, nennt aber einen Prozentsatz und eine Rechtsgrundlage, die so nicht stimmen. Erst beim Gegenlesen fällt das auf. Ähnlich kann ein Chatbot ohne klare Grenzen Öffnungszeiten erfinden, die nie auf der Website standen.
Das Modell lügt dabei nicht absichtlich. Es setzt Texte nach Wahrscheinlichkeit zusammen und kann zwischen „klingt richtig“ und „ist richtig“ nicht zuverlässig unterscheiden.
Warum KMU Halluzinationen ernst nehmen sollten
Falsche Auskünfte an Kunden können Ärger, Kosten oder Haftungsfragen auslösen. Wer KI nutzt, sollte deshalb festlegen, welche Texte vor Versand geprüft werden, und Chatbots auf eigene Inhalte beschränken, etwa per RAG. Ein guter Chatbot gibt lieber zu, dass er etwas nicht weiß, und verbindet mit dem Team.
Mehr zu den Grenzen der Technik erklärt der Ratgeber Grenzen von KI, typische Stolpersteine bei Bots zeigt Chatbot-Fehler.
Sehen Sie, wie ein KI-Chatbot mit den Inhalten Ihrer Website antwortet. Danach 30 Tage gratis.
Häufige Fragen
Kann man Halluzinationen ganz verhindern?
Vollständig nicht, aber man kann sie stark reduzieren. Hilfreich sind klare Anweisungen, die KI nur auf geprüfte Unterlagen zugreifen zu lassen und sie zu verpflichten, bei fehlenden Informationen nachzufragen oder an Menschen zu übergeben. Für wichtige Texte wie Angebote, Verträge oder rechtliche Hinweise bleibt die Kontrolle durch eine Person unverzichtbar.
Woran erkenne ich eine Halluzination?
Achten Sie besonders auf konkrete Zahlen, Paragraphen, Studien, Namen und Quellenangaben. Wirkt eine Angabe sehr genau, ohne dass Sie sie kennen, prüfen Sie sie an einer verlässlichen Stelle. Fragen Sie die KI nach der Quelle und kontrollieren Sie, ob diese existiert. Misstrauisch sollten Sie auch werden, wenn die Antwort zu perfekt zur Frage passt.