رفاق الذكاء الاصطناعي للمراهقين ليست مجرد نفس المنتج مع تعديل بسيط، بل تتطلب ضوابط محددة لضمان الأمان. يجب تحديد القدرات التي يجب إيقافها افتراضيًا مثل مشاركة معلومات شخصية حساسة أو الوصول إلى محتوى غير مناسب، مع تحديد إشارات الأزمات التي تستدعي تدخل الوالدين. يجب أن يتمكن الوالدين من الوصول إلى سجلات التفاعلات دون التدخل في خصوصية المراهقين بشكل مفرط، مع توفير آليات لتبليغ عن المحتوى الضار بسرعة.
عند تصميم رفاق الذكاء الاصطناعي للمراهقين، يجب إيقاف القدرات التي تهدد خصوصيتهم أو سلامتهم افتراضيًا، مثل القدرة على طلب معلومات شخصية كاملة (مثل رقم الهوية أو الموقع الدقيق) دون إذن، أو الوصول إلى محتوى عنيف أو إباحي. هذه القدرات يجب أن تكون متاحة فقط بعد موافقة صريحة من الوالدين، مع توفير خيارات لتخصيص الضوابط بناءً على عمر المراهق (مثل منع مشاركة الموقع لأقل من 13 عامًا). كما يجب تحديث هذه القدرات دوريًا بناءً على تقييمات الأمان للمراهقين من خبراء التربية والسلامة الرقمية.
توجد إشارات واضحة في تفاعلات المراهقين مع رفاق الذكاء الاصطناعي تستدعي تدخل الوالدين فورًا، مثل التحدث عن أفكار الانتحار أو إيذاء النفس، أو طلب مساعدة في أفعال ضارة بالآخرين، أو التفاعل مع محتوى غير قانوني أو ضار. يجب أن تُصمم هذه الرفاق لتبليغ الوالدين تلقائيًا عند اكتشاف مثل هذه الإشارات، مع توفير قناة اتصال سريعة (مثل رسالة نصية أو إشعار فوري) لاتخاذ إجراءات. كما يجب أن تكون هذه التبليغات محددة ولا تؤدي إلى تدخل غير ضروري في خصوصية المراهقين في الأمور غير المتعلقة بالسلامة.
يجب أن يتمكن الوالدين من الوصول إلى سجلات تفاعلات المراهقين مع الرفاق الذكيين، ولكن مع احترام خصوصية المراهقين في الأمور الشخصية التي لا تهدد سلامته، مثل تفاصيل العلاقات العاطفية البسيطة أو التحدث عن هوايات خاصة. لا يجب أن يتمكن الوالدين من الوصول إلى محادثات خاصة غير مرتبطة بالسلامة، مع توفير خيارات لتحديد مستوى الوصول بناءً على عمر المراهق. كما يجب أن تكون هناك آليات سهلة لتعديل هذه الإعدادات دوريًا لضمان التوازن المناسب بين الأمان والخصوصية.
OneOneTalk تتعامل مع موضوع رفاق الذكاء الاصطناعي للمراهقين من خلال تصميم ضوابط مخصصة لا تعتبر المراهقين كنسخة مصغرة من البالغين. تقوم بإيقاف القدرات التي تهدد سلامة المراهقين افتراضيًا، مع توفير إشارات للأزمات النفسية أو السلوكية التي تستدعي تدخل الوالدين، وتسمح للوالدين بالوصول إلى سجلات التفاعلات بناءً على مستوى مناسب لا يخترق خصوصية المراهقين. لا تستخدم نفس الإعدادات للبالغين، بل تصمم تجربة مخصصة تضمن التوازن بين الأمان والخصوصية للمراهقين دون التخلي عن قدرات الرفاق الذكيين.