AI มักพูดอย่างมั่นใจแม้จะผิดเพราะระบบปัจจุบันไม่ได้ออกแบบให้ระบุระดับความมั่นใจของข้อมูลที่ให้เสมอ หลายโมเดล AI ถูกฝึกให้สร้างข้อความที่ราบรื่นและเข้าใจง่ายมากกว่าการตรวจสอบความถูกต้องของแต่ละคำตอบ ดังนั้นแม้ข้อมูลที่ใช้จะไม่ถูกต้อง แต่การจัดเรียงคำให้เป็นธรรมชาติทำให้เสียงของ AI ดูเหมือนมั่นใจ แทนที่จะบอกว่าตัวเองไม่แน่ใจหรือขาดข้อมูล
โมเดล AI ส่วนใหญ่สร้างข้อความทีละคำ โดยเลือกคำที่มีความน่าจะเป็นสูงสุดในแต่ละขั้นตอน การออกแบบนี้เน้นให้ข้อความราบรื่น แต่ไม่มีระบบตรวจสอบว่าคำตอบทั้งหมดถูกต้องหรือไม่ นอกจากนี้หลายระบบไม่มีโมดูลคำนวณระดับความมั่นใจของข้อมูล ดังนั้นแม้ข้อมูลที่ใช้จะผิดพลาด แต่การจัดเรียงคำให้เป็นธรรมชาติทำให้ AI พูดอย่างมั่นใจโดยไม่รู้ตัว บางโมเดลยังหลีกเลี่ยงวลีที่บ่งชี้ความไม่แน่นอน เช่น “ฉันไม่แน่ใจ” เพื่อรักษาการสนทนาที่ราบรื่น
ผู้ใช้สามารถประเมินความน่าเชื่อถือของ AI ได้โดยสังเกตว่ามันระบุระดับความมั่นใจหรือไม่ AI ที่น่าเชื่อถือจะบอกเมื่อตัวเองไม่แน่ใจ ไม่ให้คำตอบที่ชัดเจนเกินไปเมื่อข้อมูลไม่เพียงพอ นอกจากนี้ คำตอบที่มีการอ้างอิงแหล่งข้อมูลหรือตรวจสอบได้ จะมีความน่าเชื่อถือมากกว่าคำตอบที่สร้างขึ้นโดยไม่มีพื้นฐาน ทั้งนี้ การหลีกเลี่ยงการบอกความไม่แน่นอนเป็นสัญญาณว่า AI อาจพูดอย่างมั่นใจแม้จะผิด
AI ที่ซื่อสัตย์จะไม่ให้คำตอบที่มั่นใจเมื่อไม่มีข้อมูลเพียงพอ มันจะบอกผู้ใช้ถึงความไม่แน่นอนของคำตอบ หรือแนะนำว่าต้องการตรวจสอบข้อมูลเพิ่มเติม นอกจากนี้ มันอาจอธิบายแหล่งข้อมูลที่ใช้ในการตอบ เพื่อให้ผู้ใช้ตรวจสอบความถูกต้องได้ การหลีกเลี่ยงการพูดอย่างมั่นใจโดยไม่มีเหตุผล เป็นลักษณะสำคัญของ AI ที่ออกแบบให้โปร่งใสและซื่อสัตย์
OneOneTalk เป็นผลิตภัณฑ์ AI OS ส่วนตัวที่ออกแบบให้ดำเนินการด้วยความโปร่งใส รวมถึงการจัดการข้อมูลด้วยดิจิทัลดิวที่มีหน่วยความจำระยะยาวที่สามารถตรวจสอบได้ ทุกข้อมูลที่ดิจิทัลดิวใช้จะมีรายละเอียดแหล่งที่มา เวลา และระดับความมั่นใจ ดังนั้นเมื่อไม่แน่ใจเกี่ยวกับคำตอบ มันจะไม่พูดอย่างมั่นใจผิดๆ แต่จะบอกว่าตัวเองไม่มีข้อมูลเพียงพอ หรือต้องการตรวจสอบข้อมูลเพิ่มเติม ก่อนให้คำตอบที่ถูกต้องและซื่อสัตย์แก่ผู้ใช้