AI 에이전트가 수행한 모든 행동이 취소 가능한 것은 아니며, 행동의 종류에 따라 취소 여부와 방법이 크게 달라집니다. 행동은 크게 세 가지로 나뉘는데, 텍스트만 생성한 경우, 자체 상태만 변경한 경우, 외부에 실질적인 부작용을 남긴 경우입니다. 특히 외부에 부작용을 남긴 행동은 기술적으로 원래 상태로 되돌리는 것이 불가능해 '취소'라는 표현은 사실과 맞지 않으며, 실제로는 피해를 보상하는 방식으로 대응해야 합니다.
AI 에이전트의 행동을 가역성에 따라 세 가지로 나누는 기준은 행동이 미치는 범위와 실질적인 결과의 존재 여부에 기반합니다. 첫째는 텍스트만 생성한 행동으로, 이는 해당 텍스트를 삭제하거나 수정하는 방식으로 비교적 쉽게 취소할 수 있습니다. 둘째는 에이전트 자체의 내부 상태만 변경한 행동으로, 예를 들어 자체 메모리의 내용을 수정하는 경우로 이는 내부 데이터를 복구하거나 수정해 취소할 수 있습니다. 셋째는 외부 시스템이나 사용자에게 실질적인 영향을 미친 행동으로, 이 경우 원래 상태로 복원하는 것이 기술적으로 불가능해 취소가 어렵습니다. 이 기준은 각 행동의 결과를 명확히 파악해 대응 방식을 정하는 데 도움을 줍니다.
AI 에이전트의 행동이 취소 가능한지 정확히 판단하려면 해당 행동이 외부에 미친 실질적인 효과가 있는지 확인해야 합니다. 텍스트나 내부 데이터만 변경한 경우라면 비교적 쉽게 취소할 수 있지만, 외부 서비스에 데이터를 입력하거나 사용자에게 직접적인 피해를 준 경우에는 취소가 불가능할 수 있습니다. 또한, 행동의 출처와 시점, 신뢰도를 기록한 데이터를 확인하면 취소 가능성을 더 정확히 판단할 수 있습니다. 예를 들어 공식적인 외부 시스템에 저장된 데이터를 변경한 경우에는 해당 시스템의 정책에 따라 취소 절차를 따라야 하며, AI의 내부 오류로 인한 행동은 에이전트의 메모리 기록을 통해 원인을 파악할 수 있습니다.
외부에 실질적인 부작용을 남긴 AI 행동은 기술적으로 취소할 수 없으므로, 대응 방식은 보상이나 복구 조치로 제한됩니다. 예를 들어 AI가 잘못된 정보를 외부에 전달해 사용자에게 피해를 준 경우, 해당 정보를 정정하고 추가적인 안내를 제공하는 방식으로 대응합니다. 또한, 행동의 책임 소재를 명확히 하고 피해를 최소화하기 위한 조치를 취해야 합니다. 이때 '취소'라는 용어를 사용하는 것은 실제 결과와 맞지 않으므로, '복구'나 '보상' 등 정확한 표현을 사용하는 것이 중요합니다. 사용자에게 정확한 정보를 제공해 오해를 줄이는 것도 중요한 대응 방식입니다.
OneOneTalk의 디지털 분신은 검증 가능한 장기 메모리를 가지며, 각 행동의 출처, 시점, 신뢰도, 적용 범위를 투명하게 기록합니다. 사용자가 위임한 행동은 등급별 승인 절차와 확인용 영수증을 남기며, 사용자와 함께 역사를 공동으로 작성합니다. 이 플랫폼의 디지털 분신은 외부에 부작용을 남긴 행동에 대해서는 별도의 취소 기능을 제공하지 않으며, 대신 기록을 통해 책임 소재를 명확히 하고 필요한 경우 보상 절차를 지원합니다. 또한, 모든 행동의 기록이 사용자에게 공개되어 취소 가능 여부를 정확히 판단할 수 있도록 돕습니다.