Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine glaubwürdig klingende Antwort mit falschen, erfundenen oder unbelegten Aussagen. Beispiele sind nicht existierende Quellenangaben, falsche Preise, erfundene Bestellstatus oder selbstsichere Erklärungen ohne Grundlage in der Quelle. Die flüssige Sprache des Modells ist kein Beweis für Richtigkeit.
Warum Halluzinationen entstehen
Sprachmodelle erzeugen wahrscheinliche Fortsetzungen anhand des Kontexts und erlernter Muster. Fehlende, veraltete oder mehrdeutige Daten lassen mehr Raum für Vermutungen. Weitere Ursachen sind schlecht ausgewählte Quellen, unpräzise Anweisungen, ein zu langer Gesprächsverlauf oder falsche Ergebnisse externer Werkzeuge.
Risiken für Marke und Kunden
Im E-Commerce kann ein System nicht existierende Varianten, falsche Zusammensetzungen, Liefertermine oder Rückgabebedingungen nennen. In Kliniken oder Zahnarztpraxen können Fehler Gesundheit, Einwilligung oder die Entscheidung für einen Besuch beeinflussen. Je schwerwiegender die Folgen einer Aussage, desto weniger Spielraum hat der Agent für frei formulierte Antworten.
Risiken begrenzen
Grounding bindet geprüfte, aktuelle Quellen ein. Werkzeuge rufen den Zustand aus maßgeblichen Systemen ab, und Guardrails begrenzen unzulässige Bereiche. Kritische Werte werden mit Regeln außerhalb des Modells validiert. Fehlen Belege oder widersprechen sich Quellen, sind Rückfragen, offen benannte Unsicherheit oder die Übergabe an einen Menschen angemessene Ergebnisse.
Halluzinationen testen
Tests enthalten normale Anfragen, unvollständige Fragen, bewusst falsche Annahmen, widersprüchliche Daten und Fälle außerhalb der Wissensbasis. Bewertet werden jede wesentliche Aussage, die Schwere von Fehlern, die Fähigkeit, auf eine unbegründete Antwort zu verzichten, und die Qualität der Eskalation. Ergebnisse werden getrennt nach Sprache, Thema und Werkzeug verfolgt.
Der Ansatz von PAR HOUSE Agency
Wir entwickeln KI-Assistenten als kontrollierten Teil einer Dienstleistung. Für Kliniken, Gesundheit, Parfums, Schmuck und E-Commerce verbinden wir Antworten mit aktuellen Daten und klaren Verantwortlichkeiten. Wir messen regelmäßig die Qualität und erweitern den Umfang erst, wenn das System auch mit fehlenden Informationen sicher umgehen kann.
