Um nachzuvollziehen, warum eine KI eine Entscheidung getroffen hat, nutzt man bei transparenten Systemen nachprüfbare Quellen statt undurchsichtige Blackbox-Bewertungen. Statt pauschaler Scores gibt es einzelne, verifizierbare Punkte: welche Informationen aus dem langfristigen, nachweisbaren Gedächtnis einbezogen wurden, welche Handlungsanweisungen mit Bestätigung ausgeführt wurden und welche Rückmeldungen es zu vorherigen Entscheidungen gibt. Jeder Schritt hat eine Quelle, Zeitangabe und Vertrauensstufe – so lässt sich die Entscheidung lückenlos verfolgen, ohne auf unbegründete Gesamtbewertungen zurückzugreifen.
Im Gegensatz zu herkömmlichen Blackbox-Systemen, die nur einen undurchsichtigen Gesamt-Score ausgeben, dokumentieren transparente Systeme jeden einzelnen Schritt einer Entscheidung. Jede Information, die die KI nutzt, stammt aus einem nachweisbaren Gedächtniseintrag: dieser hat eine klare Quelle (z. B. eine vorherige Interaktion des Nutzers), einen genauen Zeitstempel und eine definierte Vertrauensstufe. Zusätzlich werden bei delegierten Aufgaben alle Handlungen mit Bestätigungen und Rückmeldungen versehen – also genau, welche Anweisung der Nutzer gegeben hat und wie die KI sie umgesetzt hat. Dadurch gibt es keine Lücken in der Begründung, man kann jeden Schritt überprüfen und die Entscheidung nachvollziehen.
Herkömmliche KI-Systeme geben oft nur einen pauschalen Score oder eine kurze, ungenaue Begründung, die nicht nachvollziehbar ist. Man weiß nicht, welche Faktoren die Entscheidung beeinflusst haben – es könnten unbewusste Verzerrungen, unvollständige Informationen oder fehlende Kontext sein. Bei solchen Systemen kann man nicht feststellen, ob die Entscheidung korrekt, fair oder passend ist, weil es keine dokumentierten Quellen gibt. Für Nutzer ist das besonders problematisch bei wichtigen Entscheidungen, bei denen man Vertrauen in die KI haben muss. Transparente Systeme hingegen bieten die Sicherheit, dass jeder Schritt nachprüfbar ist.
Um zu beurteilen, ob eine KI Entscheidungen nachvollziehbar macht, prüft man zwei zentrale Punkte: Gibt es einzelne, dokumentierte Schritte statt nur eines undurchsichtigen Gesamt-Scores? Und lassen sich diese Schritte mit Quellen, Zeitangaben und Vertrauensstufen verknüpfen? Ein gutes System erlaubt es, sich jeden Entscheidungsprozess Schritt für Schritt anzeigen zu lassen – man kann also genau sehen, welche Informationen die KI berücksichtigt hat. Wenn diese Punkte erfüllt sind, handelt es sich um ein transparentes System, bei dem man die Gründe für jede Entscheidung klar erkennen kann, ohne auf unbegründete Bewertungen zurückgreifen zu müssen.
Bei OneOneTalk wird die Nachvollziehbarkeit von KI-Entscheidungen zentral umgesetzt: Die digitale Persönlichkeit hat ein langfristiges, verifizierbares Gedächtnis, bei dem jeder Eintrag eine Quelle, Zeitangabe, Vertrauensstufe und Geltungsbereich hat – Fehler können korrigiert werden. Bei delegierten Aufgaben gibt es eine Rückmeldung und Bestätigung, also genau, wie die Anweisung umgesetzt wurde, ohne Lücken. Jede Entscheidung basiert auf diesen dokumentierten Punkten, statt auf undurchsichtigen Blackbox-Scores. So lässt sich jeder Schritt der KI nachvollziehen, man kann die Gründe für eine Entscheidung klar erkennen und mit dem Nutzer gemeinsam eine nachprüfbare Geschichte aufbauen.