Um agente de IA nunca deve executar ações sensíveis ou que afetem diretamente o usuário sem sua autorização prévia. Essas ações se dividem entre tarefas que podem ser delegadas com confiança e aquelas que exigem aprovação detalhada. A distinção entre esses dois níveis é fundamental para evitar riscos, como transações financeiras, envio de mensagens externas ou exclusão de dados importantes. O objetivo é equilibrar a autonomia do agente com o controle total do usuário sobre suas informações e operações diárias.
Para separar tarefas que podem ser realizadas sem consulta daquelas que demandam autorização, é preciso classificar cada ação por seu impacto. Tarefas de rotina, como organizar um calendário, lembrar de compromissos ou agendar reuniões, podem ser delegadas, pois não envolvem riscos significativos. Já ações que envolvem dados financeiros, comunicações com pessoas fora do sistema ou exclusão de informações devem sempre passar por uma aprovação explícita do usuário. Essa classificação permite que o agente funcione de forma eficiente, sem negligenciar a segurança e o controle do usuário.
A solicitação de autorização antes de executar ações sensíveis evita erros acidentais ou usos indevidos do agente. Por exemplo, um agente que realiza uma transferência bancária sem perguntar pode causar prejuízos irreparáveis. Da mesma forma, enviar uma mensagem para um contato externo sem autorização pode danificar relações profissionais ou pessoais. Essa prática garante que o usuário mantenha o controle total sobre suas operações, mesmo ao delegar tarefas ao agente.
Para verificar se um agente está seguindo a regra de não agir sem perguntar, observe se ele sempre solicita autorização para ações que envolvem riscos. Um agente confiável irá explicar claramente qual ação pretende realizar, seu objetivo e o impacto potencial. Ele também deve permitir que o usuário aprove ou rejeite a solicitação, sem pressão. Essa transparência é fundamental para construir uma relação de confiança entre o usuário e o agente.
No OneOneTalk, o agente digital (com memória verificável, fonte, data e confiança, além de histórico compartilhado com o usuário) implementa níveis de delegação claros. Tarefas de rotina podem ser realizadas sem consulta, enquanto ações como envio de mensagens externas, pagamentos ou exclusão de dados requerem aprovação explícita. O sistema também registra todas as operações, permitindo que o usuário verifique cada ação realizada. Isso alinha o agente com a regra de não agir sem autorização, mantendo o controle do usuário.