Was ist KI-Halluzination?
Warum erfindet KI manchmal Dinge – und was heißt das für Unternehmen?
Sprachmodelle erzeugen Antworten auf Basis von Wahrscheinlichkeiten, nicht auf Basis einer geprüften Faktendatenbank. Dadurch kann es passieren, dass eine KI überzeugend formulierte, aber sachlich falsche Angaben macht – etwa erfundene Zahlen, nicht existierende Quellen oder falsche Namen. Dieses Phänomen nennt man Halluzination.
Für Unternehmen ist das der zentrale Grund, KI-Ergebnisse nie ungeprüft zu veröffentlichen oder an Kunden weiterzugeben. Eine KI kann Entwürfe liefern und Zeit sparen, aber die inhaltliche Verantwortung bleibt beim Menschen.
Das Risiko lässt sich verringern: durch konkrete Prompts, durch das Mitgeben echter Informationen statt offener Fragen und durch Verfahren, bei denen die KI nur auf geprüfte eigene Inhalte zugreift (siehe RAG). Ganz ausschließen lässt es sich derzeit nicht.
Pivot AI setzt KI dort ein, wo eine spätere Prüfung eingebaut ist – etwa beim Vorsortieren von Anfragen, wo ein Mensch die Einordnung bestätigt, statt die KI unkontrolliert nach außen kommunizieren zu lassen.
Pivot AI Leistung
KI verantwortungsvoll nutzen
Wir setzen das für Sie um – von der Analyse bis zur fertigen Lösung. Kostenlose Erstberatung, keine Vertragsbindung.
Verwandte Begriffe
Sprachmodell (LLM)
Ein Sprachmodell (englisch Large Language Model, kurz LLM) ist ein KI-System, das auf sehr großen Textmengen trainiert wurde und daraus Sprache verstehen und erzeugen kann. ChatGPT basiert zum Beispiel auf einem solchen Modell.
Prompt
Ein Prompt ist die Eingabe oder Anweisung, die man einem KI-Sprachmodell gibt. Je klarer und konkreter der Prompt, desto brauchbarer ist in der Regel das Ergebnis.
RAG (Retrieval-Augmented Generation)
RAG steht für Retrieval-Augmented Generation. Dabei greift ein Sprachmodell gezielt auf hinterlegte, geprüfte Dokumente zu, statt nur aus seinem Training zu antworten – so werden Antworten deutlich zuverlässiger.
ChatGPT
ChatGPT ist ein KI-Textassistent von OpenAI. Er kann Texte formulieren, zusammenfassen und strukturieren. Im Unternehmensalltag hilft er bei E-Mails, Website-Texten und internen Dokumenten.