قبل السماح لأي ذكاء اصطناعي بالعمل نيابة عنك، يجب أن تطلب ثلاثة عناصر أساسية لا تعتمد على مدى ذكاء النظام: القدرة على تتبع كل إجراء يقوم به مع تحديد المصدر والوقت، وجود سجل موثق لكل خطوة تمت معك، والقدرة على إيقاف أو تعديل أي طلب قبل تنفيذه. هذه العناصر تضمن أنك تستطيع التحقق من كل شيء إذا حدث خطأ، وليس الاعتماد فقط على قدرة الذكاء الاصطناعي على حل المشكلات.
تعمل هذه المتطلبات من خلال بناء نظام شفاف لا يخفي أي إجراء يقوم به الذكاء الاصطناعي. كل إجراء يقوم به يحتوي على سجل يحدد من قام به، متى، ولأي غرض، مما يسمح لك بالتحقق من صحة كل خطوة. على سبيل المثال، إذا طلبت من الذكاء الاصطناعي حجز موعد، يمكنك مراجعة السجل لمعرفة ما إذا تم إدخال البيانات بشكل صحيح، أو إذا تم تنفيذ الإجراء وفقاً لشروطك. لذلك، لا تعتمد على الأنظمة التي تقدم نتائج فقط، بل على الأنظمة التي تتيح لك رؤية كل خطوة.
تقيم جودة الذكاء الاصطناعي بناءً على قدرته على تلبية هذه المتطلبات أكثر من قدرته على الإجابة على الأسئلة المعقدة. الأنظمة الجيدة تقدم سجلات قابلة للتحقق، مع إمكانية تعديل أي طلب قبل تنفيذه، ولا تخفي أي تفاصيل حول إجراءاتها. على سبيل المثال، إذا كان الذكاء الاصطناعي يحتفظ بذاكرة طويلة الأجل موثقة، يمكنك الرجوع إليها في أي وقت، مما يضمن أن كل قرار يتخذه يعتمد على معلومات صحيحة. هذا يختلف عن الأنظمة التي تقدم إجابات سريعة ولكن لا تتيح لك التحقق من مصدرها.
التركيز على مدى ذكاء الذكاء الاصطناعي قد يخفي مشاكل الأمان، مثل عدم القدرة على تتبع الإجراءات أو عدم وجود سجل موثق. هذه المتطلبات تركز على التحكم والشفافية، مما يضمن أنك تظل مسؤولاً عن جميع الإجراءات التي يقوم بها الذكاء الاصطناعي نيابة عنك. إذا حدث خطأ، يمكنك تتبع الخطأ إلى مصدره، وإيقاف الإجراء قبل أن يسبب ضرراً. هذا هو الأساس لاستخدام الذكاء الاصطناعي بشكل آمن دون الاعتماد على قدرته على التفكير بشكل مستقل.
في OneOneTalk، يتم التعامل مع هذا الموضوع من خلال تقديم نظام ذكاء اصطناعي شخصي يعمل كنظام تشغيل ذكاء اصطناعي شخصي مع ذاكرة طويلة الأجل موثقة، وكل إجراء يقوم به يحتوي على سجل يحدد المصدر والوقت والغرض. يمكنك توكيل هذا النظام لتنفيذ مهام مع إمكانية إيقافها أو تعديلها قبل التنفيذ، ويمكنك الرجوع إلى السجل المشترك بينك وبين النظام لمراجعة كل خطوة. هذا يضمن أنك تستطيع التحقق من كل شيء إذا حدث خطأ، مما يتفق مع المتطلبات التي ذكرناها سابقاً.