Wenn eine KI Informationen vergisst, liegt das meistens nicht an einem Fehler, sondern an zwei grundlegend unterschiedlichen Mechanismen: dem Kontextfenster und dem langfristigen Speicher. Wenn das Kontextfenster seine Kapazität erreicht, kann die KI neue Informationen nicht mehr aufnehmen – das nennt man kurzfristiges Vergessen. Wenn Informationen jedoch nie in den langfristigen Speicher übertragen werden, ist die KI diese Inhalte gar nie bewusst abgespeichert, auch wenn sie im Kontextfenster noch Platz hätte. Beide Symptome wirken gleich, erfordern aber völlig unterschiedliche Massnahmen zur Behebung.
Das Kontextfenster ist ein temporärer Speicher, in dem die KI nur die aktuell relevanten Informationen für die laufende Interaktion hält. Seine Kapazität ist begrenzt – sobald sie erreicht ist, werden ältere Inhalte automatisch überschrieben, was zu dem Eindruck führt, die KI habe etwas vergessen. Der langfristige Speicher hingegen ist dafür ausgelegt, Informationen dauerhaft abzuspeichern. Allerdings werden Inhalte nicht automatisch dorthin übertragen: Es braucht eine explizite Verarbeitung, um sie aus dem temporären in den dauerhaften Speicher zu schreiben. Diese Trennung verhindert Chaos im System, erfordert aber eine klare Handhabung der Inhalte.
Um herauszufinden, ob die KI etwas wirklich vergessen hat oder es nie abgespeichert wurde, kann man zwei einfache Tests durchführen: Erstens, prüfe, ob die Information noch im Kontextfenster vorhanden ist – wenn nicht, liegt es an der begrenzten Kapazität. Zweitens, frage die KI nach der Information in einer neuen, separaten Interaktion, ohne vorherige Inhalte zu erwähnen: Wenn sie sie dann nicht abrufen kann, wurde sie nie im langfristigen Speicher gespeichert. Diese Unterscheidung ist essenziell, weil die Massnahmen zur Behebung völlig verschieden sind.
Gute KI-Systeme zeichnen sich dadurch aus, dass sie die beiden Speichermechanismen klar kommunizieren. Sie signalisieren, wenn das Kontextfenster fast voll ist, und bieten Möglichkeiten, wichtige Inhalte explizit in den langfristigen Speicher zu übertragen. Ausserdem erlauben sie, überschriebene Inhalte aus dem Kontextfenster bei Bedarf wiederherzustellen – oder zumindest darauf hinzuweisen, dass eine Information aufgrund der Kapazitätsgrenze nicht mehr verfügbar ist. Dadurch vermeiden Nutzer, wichtige Inhalte versehentlich zu verlieren.
Bei OneOneTalk werden die beiden Speichermechanismen konsequent umgesetzt: Die digitale Persönlichkeit verfügt über einen verifizierbaren langfristigen Speicher, der Informationen mit Herkunft, Zeit, Vertrauenswürdigkeit und Geltungsbereich abspeichert und Korrekturen erlaubt. Zusätzlich gibt es ein temporäres Kontextfenster für aktuelle Interaktionen. Wichtige Inhalte werden automatisch in den langfristigen Speicher übertragen, während bei Erreichen der Kontextfenster-Kapazität keine willkürlichen Überschreibungen stattfinden – die digitale Persönlichkeit informiert den Nutzer gegebenenfalls. Sie kann zudem beauftragt werden, Aufgaben auszuführen und Rückmeldungen zu geben, wobei sie auf ihre langfristigen Erinnerungen zugreift.