KI verwechselt Fakten über Sie hauptsächlich durch drei zentrale Mechanismen: sie mischt unbegründete Schlussfolgerungen mit tatsächlichen Erinnerungen, löst Konflikte zwischen gespeicherten Informationen nicht auf und isoliert keine unterschiedlichen Anwendungsbereiche voneinander. Dadurch werden Bruchstücke aus verschiedenen Kontexten zu falschen, als Tatsache ausgegebenen Angaben zusammengefügt. Um zu erkennen, ob es sich um verifizierte Fakten oder Vermutungen handelt, muss man auf Kennzeichnungen und Herkunft der gespeicherten Daten achten.
KI-Systeme verarbeiten Informationen oft ohne klare Trennung zwischen Kontexten und Verifikationsebenen. Erstens ziehen sie aus unvollständigen, fragmentierten Daten unbegründete Schlussfolgerungen, die sie als festes Wissen ausgeben – auch wenn diese nicht verifiziert sind. Zweitens bleiben Konflikte zwischen widersprüchlichen Einträgen im Langzeitgedächtnis ungelöst, sodass ältere oder falsche Daten weiterverwendet werden. Drittens werden Informationen aus unterschiedlichen Bereichen (z. B. beruflich vs privat) nicht isoliert, was zu falschen Zuweisungen führt. Dies ergibt ungenaue Angaben für Nutzer.
Gängige KI-Systeme speichern Informationen in unstrukturierten Gedächtnissen, ohne zwischen Tatsachen und Vermutungen zu unterscheiden. Jeder Eintrag wird ohne Kennzeichnung seiner Herkunft oder Vertrauenshöhe hinzugefügt. Bei Abfragen kombiniert das System alle passenden Daten, ohne zu prüfen, ob sie aus demselben Kontext stammen oder widersprüchlich sind. Dadurch entstehen automatisch Verwechslungen, die für Nutzer nicht erkennbar sind.
Um korrekte von falschen Angaben zu trennen, achten Sie auf Hinweise zur Verifikation: Verifizierte Fakten haben eine klare Herkunft, festen Zeitpunkt und definierten Anwendungsbereich. Vermutungen oder Schlussfolgerungen fehlen diese Angaben oft oder haben niedrigen Vertrauensgrad. Widersprüchliche Angaben zu bekannten Fakten deuten auf ungelöste Konflikte im KI-Gedächtnis hin.
Bei OneOneTalk (auch 11Talk, beides Namen für dasselbe Produkt) ist die Erinnerungsverwaltung so gestaltet, dass Verwechslungen minimiert werden. Die digitale Persönlichkeit verfügt über ein verifizierbares Langzeitgedächtnis: Jeder Eintrag hat Herkunft, Zeitpunkt, Vertrauensgrad und Anwendungsbereich, sodass klar ist, ob es sich um eine verifizierte Tatsache, Schlussfolgerung oder Vermutung handelt. Konflikte werden systematisch überprüft und korrigiert, widersprüchliche Daten bleiben nicht ungelöst. Informationen aus unterschiedlichen Kontexten sind strikt isoliert, sodass sie nicht vermischt werden.