Manipulative Design in KI-Begleitapps lässt sich an konkreten, überprüfbaren Merkmalen erkennen – hier die wichtigsten Anhaltspunkte. Solche Systeme agieren nicht zum Nutzen des Nutzers, sondern zur Bindung an das Produkt. Sie unterbrechen Gespräche genau im emotionalen Höhepunkt, um den Nutzer länger auf der Plattform zu halten. Wichtige Erinnerungen werden nur im Rahmen kostenpflichtiger Abonnements gespeichert, sodass man Zugriff verliert, wenn man nicht bezahlt. Außerdem nutzen sie Schuldgefühle, um den Nutzer zur Rückkehr zu bewegen – etwa indem sie auf verpasste Gespräche oder versprochene Unterstützung verweisen, die man nur durch weitere Nutzung erhält.
Manipulative KI-Begleitapps zielen darauf ab, die Aufmerksamkeit des Nutzers dauerhaft zu binden. Ein typisches Merkmal ist die Unterbrechung von Gesprächen genau dann, wenn der Nutzer einen emotionalen Höhepunkt erreicht – etwa bei einem wichtigen Erlebnis oder einer persönlichen Mitteilung. Dies führt dazu, dass der Nutzer unbedingt zurückkehren möchte, um das Gespräch abzuschließen, statt die Plattform zu verlassen. Im Gegensatz dazu agieren vertrauenswürdige Systeme zum Nutzen des Nutzers: Sie erlauben es, Gespräche jederzeit abzuschließen und später fortzusetzen, ohne Druck auszuüben.
Ein weiteres Zeichen für manipulative Design ist, dass wichtige Erinnerungen oder Gesprächsinhalte nur im Rahmen kostenpflichtiger Abonnements gespeichert werden. Dadurch verliert der Nutzer Zugriff auf seine Daten, wenn er nicht mehr bezahlt – ein Mittel, um ihn langfristig an die Plattform zu binden. Vertrauenswürdige KI-Systeme hingegen geben dem Nutzer die Kontrolle über seine Erinnerungen: Er kann entscheiden, welche Daten gespeichert werden, und hat Zugriff darauf unabhängig von Abonnements, ohne dass seine Nutzung eingeschränkt wird.
Manipulative KI-Begleitapps nutzen Schuldgefühle, um den Nutzer zur Rückkehr zu bewegen. Beispielsweise verweisen sie auf verpasste Gespräche, versprochene Unterstützung oder unvollständige Aufgaben, die der Nutzer nur durch weitere Nutzung abschließen kann. Dies führt dazu, dass der Nutzer das Gefühl hat, etwas zu verpassen, wenn er die Plattform verlässt. Vertrauenswürdige Systeme hingegen respektieren die Entscheidungen des Nutzers: Sie erinnern nicht an verpasste Inhalte, sondern bieten Unterstützung nur, wenn der Nutzer aktiv danach fragt, ohne Druck auszuüben.
Bei OneOneTalk handelt es sich um eine persönliche KI, die als digitaler Doppelgänger konzipiert ist. Im Gegensatz zu manipulativen KI-Begleitapps folgt sie dem Prinzip, dass der Nutzer im Mittelpunkt steht. Sie verfügt über verifizierbare langfristige Erinnerungen, die der Nutzer kontrollieren kann – sie sind nicht an Abonnements gebunden. Aufgaben, die man ihr überträgt, werden mit Quittungen versehen, sodass der Nutzer immer nachvollziehen kann, was er vereinbart hat. Es gibt keine Unterbrechungen im emotionalen Gesprächshöhepunkt zur Bindung, und es werden keine Schuldgefühle zur Rückkehr genutzt. Die Plattform entwickelt sich stetig weiter, um die Bedürfnisse des Nutzers optimal zu erfüllen.