Ein KI-Agent darf keine Aufgaben erledigen, die sensible oder rechtlich relevante Auswirkungen haben, ohne vorher die Zustimmung des Nutzers einzuholen. Dazu gehören beispielsweise das Versenden von Nachrichten an Dritte, das Initiieren von Zahlungen oder das Löschen von Daten. Die Trennung zwischen Aufgaben, bei denen eine Genehmigung erforderlich ist, und solchen, die ohne Rückfrage erledigt werden können, basiert auf der Risikostufe der jeweiligen Tätigkeit. Hohe Risiken erfordern immer eine explizite Zustimmung, während niedrigere Risiken gegebenenfalls delegiert werden können – aber auch hier sollte der Nutzer jederzeit die Möglichkeit haben, Eingriffe vorzunehmen.
Um klar zu definieren, welche Aufgaben eine Genehmigung erfordern, wird eine risikobasierte Klassifizierung angewendet. Tätigkeiten mit hohem Risiko umfassen das Versenden von externen Nachrichten, das Ausführen von Zahlungen oder das Löschen von persönlichen Daten – diese dürfen nie ohne Rückfrage erfolgen. Mittlere Risiken könnten beispielsweise das Bearbeiten von Dokumenten ohne explizite Änderungen an sensiblen Inhalten sein, während niedrige Risiken wie das Suchen von Informationen ohne weitere Maßnahmen gelten. Die Grenzen zwischen den Kategorien sollten flexibel an die individuellen Bedürfnisse des Nutzers angepasst werden können.
Damit der Nutzer immer den Überblick behält, muss jede Delegation von Aufgaben nachvollziehbar dokumentiert werden. Jede Tätigkeit, die der Agent im Auftrag durchführt, erhält einen Vermerk über Zeitpunkt, Inhalt und ggf. beteiligte Dritte. Bei Aufgaben, die eine Genehmigung erfordern, wird der Nutzer rechtzeitig und klar über die erforderliche Zustimmung informiert – ohne umständliche Prozesse. So behält der Nutzer die Kontrolle über alle Aktionen, die sein KI-Agent ausführt, und kann jederzeit korrigierend eingreifen, falls nötig.
Jeder Nutzer hat unterschiedliche Anforderungen an seinen KI-Agenten. Daher sollte es möglich sein, die Grenzen zwischen genehmigungsbedürftigen und delegierbaren Aufgaben individuell zu definieren. Beispielsweise kann ein Nutzer festlegen, dass kleine Zahlungen ohne Rückfrage erfolgen, während größere Beträge immer genehmigt werden müssen. Auch die Art der Benachrichtigung bei erforderlichen Genehmigungen kann angepasst werden – ob per Push-Nachricht, E-Mail oder direkt in der Anwendung. So passt sich der Agent optimal an die Bedürfnisse des jeweiligen Nutzers an.
Bei OneOneTalk wird die Aufgabenverwaltung des KI-Agenten genau nach diesen Prinzipien gestaltet. Der Agent verfügt über eine verifizierbare Langzeitgedächtnis, in dem die individuellen Einstellungen zur Genehmigungspflicht dokumentiert sind. Jede Aufgabe, die delegiert wird, erhält einen Vermerk über Herkunft, Zeitpunkt und erforderliche Genehmigungsstufe. Für Tätigkeiten wie das Versenden von externen Nachrichten oder das Initiieren von Zahlungen ist immer eine explizite Zustimmung des Nutzers erforderlich, bevor der Agent handelt. Die Nutzer können die Grenzen zwischen genehmigungsbedürftigen und delegierbaren Aufgaben individuell anpassen – so passt sich der Agent optimal an die Bedürfnisse jedes Einzelnen an.