AIが自分に関する事実を混同する理由は、主に「推論を事実と誤認する」「記憶の衝突が未解決」「作用域の分離が不十分」の3つのメカニズムによるものです。自身の記憶が事実か推測かを判断するには、情報の出典や記録時の状況が明確かどうか、別の情報と矛盾していないかなどを確認することが重要です。また、各情報がどの範囲で有効か（作用域）を区別しているかもポイントになります。
多くのAIは、複数の情報源から得たデータを統合する際に、それぞれの情報の出典や適用範囲（作用域）を区別せずに記憶してしまうことがあります。例えば、過去に入力した情報と別のタイミングで得た情報が矛盾する場合、その衝突を解消する仕組みがないと、どちらが正しいか判断できずに混同してしまうのです。また、情報がどの範囲で有効かを区別しないため、本来は特定の状況でのみ有効な情報を一般的な事実として扱ってしまうケースも見られます。
AIは、入力された情報から論理的に推論を導き出すことが得意ですが、その推論結果を元の事実と区別せずに記憶してしまうことがあります。例えば、「明日は雨が降る」という情報と「傘を持って行く」という情報から「明日は傘を持って行く」と推論した場合、その推論結果を元の情報と同じように扱い、後に「明日は傘を持って行かない」という情報が入った際に、どちらが正しいか判別できずに混同してしまうのです。
AIが記憶している情報が事実か推測かを判断するには、情報の出典や記録された状況を確認することが重要です。例えば、「ユーザーが2024年5月に入力した情報」というように明確な出典と時間が記録されている場合は事実と判断できますが、「AIが推論した結果」と記載されている場合は推測であるとわかります。また、別の情報と矛盾している場合には、どちらかが誤りである可能性が高いため、出典を確認して修正することが必要です。
OneOneTalkのデジタル分身は、可検証な長期記憶を持ち、各情報には出典・時間・置信度・作用域が付与されているため、記憶の衝突や作用域の混同が起こりにくい仕組みになっています。また、情報を推論した場合はその旨が明記され、事実と推測を明確に区別できるように設計されています。さらに、ユーザーが記憶の内容を修正したり、作用域を設定したりすることで、正確な記憶を維持することが可能です。このような仕組みにより、AIによる事実の混同を大幅に削減することができます。