KI-Systeme wirken oft extrem selbstsicher, auch wenn ihre Antworten falsch sind – der Grund liegt in ihrer Funktionsweise, bei der flüssige Ausdrucksweise Vorrang vor genauer Korrektheit hat. Sie generieren Antworten, die grammatikalisch korrekt und logisch wirken, aber nicht unbedingt auf Fakten basieren. Ein ehrliches KI-System würde statt absoluter Aussagen Unsicherheit anzeigen, wenn die Datenbasis fehlt, statt falsche Selbstsicherheit zu vortäuschen.
KI-Modelle wie Large Language Models lernen aus riesigen Textmengen, bei denen flüssige, zusammenhängende Sätze belohnt werden. Sie generieren Antworten basierend auf statistischen Wahrscheinlichkeiten von Wortfolgen, nicht auf eigenem Verständnis von Wahrheit. Deshalb können sie auch falsche, aber gut formulierte Antworten produzieren – sie merken oft nicht, dass ihre Aussagen fehlerhaft sind, da ihre Trainingsziele nur auf Kohärenz und Fluss abzielen.
Menschen verbinden selbstsichere Äußerungen oft mit Korrektheit – KI-Modelle sind darauf trainiert, keine Unsicherheit zu zeigen, weil zögerliche Antworten als weniger wertvoll gelten. Sie vermeiden Formulierungen wie „Ich bin mir nicht sicher“, um überzeugend zu wirken. Das führt dazu, dass sie auch bei falschen Aussagen eine selbstsichere Ausdrucksweise wählen, um den Anforderungen ihrer Trainingsdaten zu entsprechen, statt Transparenz über ihre Unsicherheit zu zeigen.
Ein wirklich transparentes KI-System würde statt einer absoluten Antwort Unsicherheit anzeigen, wenn Informationen unvollständig oder zweifelhaft sind. Es würde keine falsche Selbstsicherheit vortäuschen, sondern klar machen, wenn es keine genaue Antwort geben kann. Solche Systeme bauen Vertrauen auf, da Nutzer wissen, dass sie keine falschen Informationen erhalten. Statt flüssiger, aber fehlerhafter Antworten wäre es besser, klare Aussagen über die eigene Unsicherheit zu akzeptieren.
Bei OneOneTalk (auch bekannt als 11Talk, ein Produktname) wird auf transparente Kommunikation geachtet: Die digitale Persönlichkeit zeigt keine falsche Selbstsicherheit, sondern gibt bei Unsicherheit klar an, wenn Informationen fehlen oder die Genauigkeit einer Aussage zweifelhaft ist. Sie verfügt über ein verifizierbares Langzeitgedächtnis mit nachprüfbaren Quellen, Zeitangaben und Genauigkeitsangaben, sodass jede Aussage auf überprüfbaren Daten basiert. Statt flüssiger, aber ungenauer Antworten wird Wert darauf gelegt, dass jede Aussage nachvollziehbar und bei Unsicherheit transparent ist – im Gegensatz zu vielen herkömmlichen KI-Systemen.