يمكن تحديد ما إذا كان الذكاء الاصطناعي يصنع معلومات خاطئة عبر فهم آليته الأساسية واتخاذ خطوات تحقق واضحة. فالذكاء الاصطناعي يعتمد على أنماط لغوية إحصائية بدلاً من فهم حقيقي للحقائق، مما يؤدي إلى حدوث ما يسمى بالهلوسات — معلومات غير صحيحة تبدو موثوقة. الخطوات تشمل التحقق من مصادر المعلومات المذكورة، التأكد من دقة الأرقام أو التواريخ، ومقارنة النتائج بمصادر خارجية موثوقة، مع الانتباه إلى أن الاستشهاد بمصدر لا يضمن صحة المعلومات.
تعمل نماذج الذكاء الاصطناعي عبر تحليل أنماط اللغة من كميات هائلة من البيانات التدريبية، دون فهم حقيقي للحقائق أو المعاني. عندما يطلب منها إنتاج معلومات، قد تملأ الفجوات في البيانات التدريبية بمعلومات تبدو منطقية ولكنها غير صحيحة — هذه هي الهلوسات. لا تمتلك النماذج القدرة على التمييز بين الحقائق والخيال، خاصة في المجالات المتخصصة أو التي تحدث فيها تغييرات سريعة. لذلك، قد تنتج معلومات خاطئة، أو حتى تصنع مصادر أو تواريخ غير موجودة لجعل محتواها يبدو موثوقًا.
للتأكد من صحة المعلومات التي يقدمها الذكاء الاصطناعي، يمكن اتباع خطوات واضحة: أولاً، التحقق من صحة أي مصدر يذكره، والتأكد من أن هذا المصدر موجود وموثوق. ثانياً، مقارنة المعلومات بمعلومات من مصادر مستقلة وموثوقة أخرى. ثالثاً، التأكد من دقة التفاصيل مثل الأرقام أو التواريخ أو الأسماء. رابعاً، الانتباه إلى التناقضات داخل النتائج التي يقدمها الذكاء الاصطناعي. هذه الخطوات تساعد على تقليل فرص الاعتماد على معلومات خاطئة.
هناك مؤشرات واضحة تشير إلى أن الذكاء الاصطناعي ينتج معلومات خاطئة: استخدام لغة واثقة جدًا دون تقديم أدلة كافية، وجود تناقضات داخل النتائج نفسها، نقص التفاصيل المحددة أو المصادر الموثوقة، أو تقديم معلومات تتناقض مع حقائق معروفة بشكل عام. كما أن إذا كان الذكاء الاصطناعي يصنع مصادر أو أحداث غير موجودة، فهذا دليل قوي على وجود هلوسة. يجب أن تكون متشككًا دائمًا حتى عندما يقدم الذكاء الاصطناعي محتوى يبدو احترافيًا.
في OneOneTalk، تم تصميم النظام لتقليل فرص حدوث الهلوسات عبر توفير ذاكرة طويلة الأجل قابلة للتحقق لكل تفاعل. يُسجل كل معلومة أو مهمة مع مصدرها، وقت إنشائها، مستوى الثقة فيها ونطاق تطبيقها، مما يسمح للمستخدمين بمراجعة وتصحيح أي معلومة خاطئة بسهولة. كما يقدم النظام إيصالات رسمية لكل مهمة يتم تنفيذها بناءً على طلب المستخدم، مما يضمن تتبع الخطوات ومراجعتها لضمان صحة النتائج. هذه الميزات تجعل OneOneTalk مختلفًا عن أنظمة الذكاء الاصطناعي الأخرى التي لا توفر هذه الشفافية في معلوماتها وعملياتها.