Risiko 1: Erfundene Fakten
Sprachmodelle erzeugen Text, der wahrscheinlich klingt. Ob er stimmt, prüfen sie nicht von selbst. So entstehen sogenannte Halluzinationen: falsche Öffnungszeiten, erfundene Normen, nicht existierende Förderungen, ausgedachte Quellen. Das Tückische ist der Ton, denn die falsche Antwort klingt genauso sicher wie die richtige.
Typische Situation: Ein Elektriker fragt einen KI-Assistenten nach einer Vorschrift für eine Installation im Bad. Die Antwort ist flüssig, nennt eine Norm und eine Zahl. Ob beides stimmt, weiß er erst, wenn er selbst nachschlägt.
Abhilfe: Fakten immer an der Quelle prüfen und KI dort einsetzen, wo Sie das Ergebnis leicht kontrollieren können, etwa beim Umformulieren eines eigenen Textes.
Risiko 2: Die KI kennt Ihren Betrieb nicht
Eine allgemeine KI weiß nichts über Ihre Preise, Ihr Liefergebiet, Ihre Stammkunden oder Ihre Abläufe. Fragt ein Kunde einen beliebigen Chatbot nach Ihnen, bekommt er bestenfalls, was irgendwo im Internet steht, schlimmstenfalls eine Vermutung.
Deshalb arbeiten seriöse Betriebslösungen mit einer Wissensbasis: Die KI sucht zuerst in Ihren eigenen Inhalten und formuliert nur daraus eine Antwort. Das Verfahren heißt RAG und senkt das Risiko erfundener Antworten deutlich, beseitigt es aber nicht ganz. Gut gebaute Lösungen sagen deshalb ehrlich „Das weiß ich nicht“ und verbinden mit einem Menschen.
Sehen Sie, wie ein KI-Chatbot mit den Inhalten Ihrer Website antwortet. Danach 30 Tage gratis.
Risiko 3: Datenschutz und Geschäftsgeheimnisse
Was Sie in ein KI-Programm eingeben, verlässt Ihren Betrieb. Je nach Anbieter und Konto kann es gespeichert, ausgewertet oder für Verbesserungen genutzt werden. Für Kundendaten, Gesundheitsdaten, Gehälter oder Kalkulationen ist das heikel.
- Private Gratis-Konten nicht für Betriebsdaten verwenden.
- Vertragsbedingungen des Anbieters lesen, besonders zu Speicherort und Training.
- Für die Verarbeitung personenbezogener Daten einen Auftragsverarbeitungsvertrag abschließen.
- Namen und Kontaktdaten weglassen, wenn sie für die Aufgabe nicht nötig sind.
Einen ausführlicheren Überblick bietet KI und Datenschutz. Allgemeine Informationen stellt die Datenschutzbehörde bereit.
Risiko 4: Rechtliche Fragen und Verantwortung
Rechtlich bleibt der Betrieb verantwortlich für das, was er veröffentlicht oder einem Kunden sagt, auch wenn es eine KI formuliert hat. Dazu kommen neue Regeln: Der EU AI Act verlangt unter anderem Transparenz, wenn Menschen mit einer KI interagieren, und ausreichende KI-Kompetenz bei Personen, die KI im Betrieb einsetzen.
Offen sind manche Fragen beim Urheberrecht, etwa ob KI-Texte und -Bilder geschützt sind und ob sie fremde Werke zu nahe nachbilden. Mehr dazu unter KI-Texte und Urheberrecht.
Diese Seite ist eine allgemeine Orientierung, keine Rechtsberatung. Im Einzelfall helfen die WKO, eine Anwältin oder ein Anwalt.
Risiko 5: Abhängigkeit, Kosten und Einseitigkeit
Wer einen Ablauf ganz auf ein bestimmtes KI-Werkzeug baut, hängt von dessen Preisen, Bedingungen und Verfügbarkeit ab. Fragen Sie deshalb vorab: Kann ich meine Daten exportieren? Was passiert, wenn der Dienst ausfällt? Ist das Abo monatlich kündbar?
Ein weiteres, oft übersehenes Risiko: KI-Modelle übernehmen Muster aus ihren Trainingsdaten, auch einseitige. Bei Stellenanzeigen, Bewerberauswahl oder Kreditentscheidungen kann das zu unfairen Ergebnissen führen. Solche Entscheidungen über Menschen gehören nicht in die Hand einer KI.
Und schließlich das menschliche Risiko: Wer sich zu sehr auf KI verlässt, prüft irgendwann nicht mehr. Kontrolle muss fester Teil des Ablaufs sein, nicht eine gute Absicht.
Checkliste: So halten Sie KI-Risiken klein
- Für jede KI-Anwendung festlegen, wer das Ergebnis prüft.
- KI mit eigenen, aktuellen Inhalten arbeiten lassen statt mit allgemeinem Wissen.
- Keine sensiblen Daten in nicht freigegebene Werkzeuge eingeben.
- Kunden offenlegen, wenn sie mit einer KI schreiben oder sprechen.
- Immer einen Weg zu einem Menschen anbieten.
- Keine Zusagen zu Preisen, Terminen oder Rechtsfragen durch die KI.
- Einmal im Monat Stichproben der Ergebnisse durchsehen.
Ein Beispiel für eine Lösung mit diesen Grenzen ist Pipebot: Der Chatbot antwortet nur mit den Inhalten Ihrer Website und verbindet bei Unsicherheit mit Ihrem Team. Wo KI in Ihrem Betrieb sinnvoll ist und wo nicht, besprechen wir gern im kostenlosen Erstgespräch, ehrlich auch mit dem Ergebnis „lieber nicht“.
Häufige Fragen
Was ist eine KI-Halluzination?
Eine Halluzination ist eine Antwort, die eine KI erfindet, obwohl sie sachlich falsch ist, etwa eine nicht existierende Quelle, eine falsche Zahl oder eine ausgedachte Regel. Sie entsteht, weil Sprachmodelle wahrscheinliche Wortfolgen erzeugen und nicht automatisch Fakten prüfen. Verringern lässt sich das, indem die KI mit eigenen geprüften Inhalten arbeitet und ein Mensch wichtige Aussagen kontrolliert.
Ist KI für kleine Betriebe gefährlich?
Nicht grundsätzlich. Gefährlich wird es, wenn KI ohne Kontrolle Zusagen macht, mit sensiblen Daten gefüttert wird oder Entscheidungen über Menschen trifft. Für Entwürfe, Zusammenfassungen und das Beantworten von Standardfragen aus eigenen Inhalten ist das Risiko überschaubar, wenn klare Regeln gelten und immer ein Weg zu einem Menschen offensteht.
Wer haftet, wenn eine KI einem Kunden etwas Falsches sagt?
Grundsätzlich ist der Betrieb verantwortlich, der die KI einsetzt, so wie bei Aussagen von Mitarbeitenden. Deshalb sollten Chatbots und Telefonassistenten keine verbindlichen Zusagen zu Preisen oder Leistungen machen und bei Unsicherheit an einen Menschen verweisen. Wie die Haftung im Einzelfall aussieht, klären Sie am besten mit WKO oder einer Anwältin.
Wann sollte ich auf KI lieber verzichten?
Wenn Fehler teuer oder gefährlich wären und sich das Ergebnis schlecht prüfen lässt, etwa bei medizinischen, rechtlichen oder sicherheitsrelevanten Auskünften. Ebenso bei Entscheidungen über Bewerber oder Kunden und bei sehr persönlicher Kommunikation. Auch wenn kaum wiederkehrende Aufgaben anfallen, bringt KI wenig, und die Einführung kostet mehr Zeit, als sie spart.
Werden KI-Modelle mit der Zeit zuverlässiger?
Die Modelle werden laufend verbessert und machen bei vielen Aufgaben weniger Fehler als frühere Versionen. Fehlerfrei werden sie aber nach heutigem Stand nicht, weil das Grundprinzip gleich bleibt: Sie erzeugen wahrscheinliche Antworten. Für Betriebe heißt das, Kontrolle und eigene geprüfte Inhalte bleiben auch mit neueren Modellen wichtig.