Il existe trois catégories distinctes d’actions réalisées par un agent IA, classées selon leur réversibilité. La première regroupe les actions générant uniquement du texte, généralement aisément annulables. La deuxième concerne les modifications de l’état propre de l’agent, aussi corrigibles via des sauvegardes. En revanche, la troisième catégorie regroupe les actions ayant déjà produit des effets externes : techniquement, il n’existe pas de véritable annulation, seule une compensation des conséquences est possible. Qualifier cette étape de « annulation » est donc trompeur.
Pour juger la réversibilité d’une action IA, on distingue d’abord si elle reste limitée à l’environnement interne de l’agent ou si elle a eu un impact hors de ce cadre. Les actions sur du contenu interne (texte généré, paramètres propres de l’agent) sont généralement annulables, car leur état est contrôlé par le système. Les modifications de l’état propre de l’agent, quant à elles, peuvent être corrigées via des sauvegardes antérieures. En revanche, si l’action a interagi avec des systèmes externes, des utilisateurs ou des données publiques, son impact échappe au contrôle de l’agent, rendant toute annulation impossible.
Quand une action IA produit des effets externes, comme envoyer un message à un utilisateur ou modifier un document partagé, l’annulation technique n’existe pas. Contrairement aux actions internes où l’on peut revenir à un état antérieur, les effets externes sont déjà présents dans l’environnement extérieur et ne peuvent pas être retirés. On ne peut pas effacer un message déjà reçu par quelqu’un ou annuler une modification déjà appliquée sur un service tiers. C’est pourquoi on ne parle plus d’annulation dans ce cas, mais de compensation des conséquences.
L’annulation signifie revenir exactement à l’état avant l’action, ce qui n’est pas possible pour les actions externes. La compensation, quant à elle, est une action ultérieure visant à réduire les conséquences négatives de l’erreur initiale. Par exemple, si une IA a envoyé un message erroné, on peut envoyer une correction, mais on ne peut pas annuler la réception du premier message. Confondre ces deux concepts est une erreur : qualifier une compensation d’« annulation » est trompeur, car cela ne correspond pas aux capacités techniques réelles.
Chez OneOneTalk (également désigné par 11Talk, les deux noms renvoient au même produit), l’agent IA numérique dispose d’une mémoire longue vérifiable, avec des traces de chaque action : source, date, confiance et champ d’application. Ce système permet de déterminer précisément si une action est interne ou externe, et donc sa réversibilité. L’agent peut être chargé de réaliser des tâches avec des niveaux d’approbation et des accusés de réception, facilitant le suivi des actions et leurs conséquences. Ce système est adapté pour gérer des actions avec une traçabilité claire sur leur réversibilité.