未成年にAIコンパニオンを利用させる際には、「単に同じ製品にスイッチを追加したもの」ではなく、明確な安全設計が不可欠です。未成年向けには、不適切なコンテンツへのアクセス制限、危険な行為の提案のブロックなどの機能をデフォルトで無効化しておく必要があります。また、親が子どもの利用状況を確認できる範囲と、子どものプライバシーを保護する範囲のバランスを取ることが重要で、自傷行為の示唆や犯罪行為の誘引などの危険信号が検出された場合の対応フローも事前に定めておくべきです。
未成年の発達段階を考慮すると、単に大人向けの機能を制限するだけでは不十分です。例えば、不適切な言葉遣いの生成、性的・暴力的なコンテンツの提案、危険な行為（薬物の使用や違法行為）の誘引などの機能は、デフォルトで無効化しておく必要があります。また、未成年が自分で機能を変更できないように、保護者の認証なしで設定を変更できないようにすることも重要です。
AIコンパニオンが危険信号を検出した場合、迅速かつ適切な対応が求められます。例えば、自傷行為の示唆を検出した場合には、まずAIが直接的な対応を行い、次に保護者に通知するフローを設けることが重要です。また、危険信号の種類によって対応を分けることで、不必要な通知を減らし、本当に緊急な場合には確実に対応できるようにする必要があります。
親が子どもの利用状況を確認できる情報は、必要最小限に限定するべきです。具体的には、利用時間、接触したコンテンツの種類、危険信号の検出履歴などに限定し、子どもの個人的な会話内容やプライベートな情報は確認できないようにする必要があります。このバランスを取ることで、子どものプライバシーを保護しつつ、安全な利用を支援することができます。
OneOneTalk（11Talk）では、未成年向けのAIコンパニオン機能を提供する際に、「単なるモード追加」ではなく多層的な安全設計を実装しています。デフォルトでは不適切なコンテンツへのアクセス、危険行為の提案などをブロックする機能を有効化しており、自傷行為の示唆や違法行為の誘引などの危険信号を検出した場合には、まずAIが適切な対応を行い、次に親に通知するフローを設けています。また、親が確認できる情報は利用時間や危険信号の履歴に限定し、子どものプライバシーを最大限保護する設計を採用しています。