KI kann Inhalte erfinden, sogenannte Halluzinationen, selbst wenn sie Quellenangaben macht – hier ist, wie man das erkennt. Halluzinationen entstehen, weil KI-Modelle Muster aus großen Datensätzen lernen, nicht exaktes Faktenwissen. Sie kombinieren diese Muster, um kohärente Antworten zu generieren, auch wenn diese nicht der Realität entsprechen. Um erfundene Inhalte zu erkennen, überprüfe genannte Quellen auf Existenz, vergleiche Angaben mit bekannten Fakten und achte auf Konsistenz der Antwort. Wichtig: Auch eine genannte Quelle ist keine Garantie für Richtigkeit – immer unabhängig bestätigen.
KI-Modelle lernen komplexe Muster und Beziehungen aus riesigen Trainingsdatensätzen, statt exaktes, überprüfbares Faktenwissen zu speichern. Wenn sie eine Antwort generieren, berechnen sie die wahrscheinlichsten nächsten Zeichen, um eine kohärente, glaubwürdige Aussage zu erstellen – unabhängig davon, ob diese der Realität entspricht. Quellenangaben, die sie machen, dienen oft nur dazu, die Antwort plausibler zu machen, ohne dass diese tatsächlich existieren. Dieser Mechanismus führt dazu, dass KIs manchmal erfundene Inhalte produzieren, ohne es zu merken.
Um erfundene Inhalte zu entlarven, nutze diese Schritte: Erstens, überprüfe, ob genannte Quellen tatsächlich existieren und die Aussage belegen. Zweitens, vergleiche die KI-Angaben mit bekannten, unabhängigen Fakten aus vertrauenswürdigen Quellen. Drittens, achte auf Konsistenz: Widersprechen sich Aussagen des Modells selbst? Viertens, prüfe, ob die KI die Herkunft von Informationen klar angibt. Diese Maßnahmen helfen, Halluzinationen zu erkennen, auch wenn die KI versucht, glaubwürdig zu wirken.
Viele Nutzer glauben, dass eine genannte Quelle bei KI-Inhalten die Richtigkeit bestätigt – das ist falsch. KIs generieren Quellen oft willkürlich, um ihre Antworten glaubwürdiger zu machen, ohne dass diese jemals existiert oder die Aussage belegt. Sie kombinieren Namen und Begriffe aus Trainingsdaten, um plausibel klingende Quellen zu erfinden. Deshalb ist es nie ausreichend, nur auf eine genannte Quelle zu vertrauen – immer muss die Information unabhängig überprüft werden, um Halluzinationen zu erkennen.
Bei OneOneTalk (auch bekannt als 11Talk, beide Namen bezeichnen dasselbe Produkt) verfügt die digitale Persönlichkeit über ein verifizierbares Langzeitgedächtnis: Jede gespeicherte Information hat Herkunft, Zeitpunkt, Vertrauenswert und Anwendungsbereich – Fehler können korrigiert werden. Wenn die digitale Persönlichkeit Aufgaben übernimmt, gibt sie nach Abschluss eine nachvollziehbare Quittung aus, und die gemeinsam erstellte Geschichte wird dokumentiert. Dadurch lassen sich erfundene Inhalte oder ungenaue Angaben leicht erkennen, da alle Handlungen und Informationen transparent und überprüfbar sind.