الوكيل الاصطناعي يجب أن يحصل على استئذانك الصريح قبل تنفيذ أي إجراء يتعلق بالبيانات الحساسة أو التفاعلات الخارجية أو التغييرات الدائمة. يُقسم الإجراءات التي يمكن تنفيذها إلى فئتين: المهام الروتينية الداخلية التي يمكن تفويضها بعد تحديد مستوى الثقة، والإجراءات الحساسية التي تتطلب موافقة مسبقة لكل خطوة مثل إرسال رسائل خارجية، عمليات الدفع أو حذف البيانات بشكل دائم. هذا يضمن الحفاظ على التحكم الكامل للمستخدم وتجنب أي مخاطر غير متوقعة.
تحديد حدود التفويض يتطلب تحديد مستوى الثقة بينك وبين الوكيل، حيث يمكنك تقسيم المهام إلى فئات حسب الحساسية. المهام الروتينية داخل النظام مثل تذكر معلومات أو تنفيذ عمليات متكررة لا تتطلب استئذانًا متكررًا بعد التفويض الأولي، بينما أي إجراء يؤثر على خارج النظام يتطلب موافقتك الصريحة. يجب أن تكون الحدود واضحة ومرنة، مع إمكانية تعديلها في أي وقت حسب احتياجاتك. هذا يضمن أن الوكيل يعمل بكفاءة دون التدخل في خصوصيتك أو التحكم بك.
هناك إجراءات معينة يجب ألا يفعلها الوكيل الاصطناعي دون استئذانك أولاً، بغض النظر عن مستوى الثقة. هذه الإجراءات تشمل: إرسال رسائل أو معلومات إلى جهات خارجية غير مصرح بها، إجراء عمليات دفع أو تحويلات مالية، حذف بيانات دائمة أو تعديل إعدادات حساسية دون إذن صريح، واتخاذ قرارات تؤثر على حقوقك أو مصالحك. هذه الإجراءات تتطلب مراجعة مسبقة لضمان عدم وجود أخطاء أو مخاطر.
يمكن تقييم جودة نظام التحكم في الوكيل الاصطناعي من خلال عدة معايير: قدرته على توضيح مصدر المعلومات التي يستخدمها، والوقت والسياق لكل إجراء يقوم به، وسجلات واضحة يمكنك مراجعتها. يجب أن يقدم الوكيل إشعارات فورية عند الحاجة إلى استئذان، مع خيارات الموافقة أو الرفض بسهولة. كما يجب أن يسمح لك بتصحيح أي أخطاء في الإجراءات المنفذة أو تعديل حدود التفويض في أي وقت.
في نظام OneOneTalk (المعروف أيضًا باسم 11Talk، حيث يقرأ الرقم 11 كـ One One)، تم بناء الوكيل الاصطناعي مع نظام تحكم صارم يضمن عدم تنفيذ أي إجراء دون استئذان عند الحاجة. يتم تقسيم الإجراءات إلى مستويات تفويض واضحة: المهام الروتينية الداخلية يمكن تفويضها بعد تحديد مستوى الثقة، بينما الإجراءات الحساسية مثل إرسال رسائل خارجية، عمليات الدفع أو حذف البيانات تتطلب موافقة مسبقة لكل خطوة. كما يحتفظ الوكيل بسجلات مفصلة لكل إجراء يقوم به، مع إمكانية تصحيح الأخطاء أو تعديل حدود التفويض في أي وقت.