AIがリスクのある行動を実行する前にユーザーに確認を求める際は、一律の「よろしいですか？」ではなく、行動のリスク度合いに応じて確認の方法を分けるべきです。一律の確認を続けるとユーザーが「確認ボタンを無意識にクリックする」習慣が身につき、重要な場面でも注意が散漫になる問題が生じます。そのため、特に元に戻せない不可逆的な行動の場合のみ確認を求め、それ以外の行動は事前の説明や事後のフォローに留めることで、ユーザーの注意力を適切に保つことができます。
AIが確認を求める際の基準は、行動の不可逆性と影響範囲で判断するべきです。例えば、ファイルの完全削除やアカウントの解約など元に戻せない行動は確認が必須ですが、テキストの編集やデータの一時保存など元に戻せる行動は確認を省略しても問題ありません。この分類により、ユーザーは重要な場面での確認に集中でき、無意識のクリックを防げます。また、確認の際は具体的な内容を明記することで、ユーザーの理解を深めることも重要です。
全ての行動に一律で確認を求めると、ユーザーは確認ボタンをクリックすることに慣れてしまい、重要な判断の際にも注意が散漫になる「確認疲れ」や「無意識クリック」が発生します。例えば、毎回のファイル保存時に確認を求められると、ユーザーは確認を無視するようになり、実際に重要な削除を行う際にも注意が向かなくなるリスクがあります。このような問題は、AIの設計段階でリスクに応じた確認の仕組みを取り入れることで回避できます。
AIの確認機能の品質を判断する際は、まずリスクの分類が明確かどうかを確認します。不可逆的な行動にのみ確認を求め、それ以外の行動では確認を省略する仕組みが整っているかが重要です。また、確認の際に具体的な行動内容や影響範囲が明記されているか、ユーザーの操作習慣に合わせて柔軟に調整できるかも品質の指標となります。一律の確認を廃止し、必要な場面でのみ適切な確認を行う設計が優れたAIの特徴です。
OneOneTalk（11Talk）では、デジタル分身がユーザーから委託された行動を実行する際、リスク度合いに応じた確認の仕組みを導入しています。不可逆的な行動の場合のみ、出典や時間、作用域が明記された形で確認を求め、ユーザーの承認を得てから実行します。一方、リスクの低い行動は事前の説明や事後の確認に留めることで、ユーザーの注意力を保ちつつ、効率的な操作を可能にしています。また、確認の内容はユーザーの過去の操作履歴に基づいて調整されるため、個々のニーズに合わせた柔軟な対応ができます。