✦ OneOneTalk

วิธีที่ AI ควรระบุเมื่อไม่รู้ข้อมูล | OneOneTalk

AI ควรแยกแยะระหว่างข้อเท็จจริงกับการคาดเดาในชั้นข้อมูล ไม่ใช่พยายามปรับคำพูดให้ดูเหมือนรู้ทุกอย่าง เพราะการระบุว่าไม่รู้จะดีกว่าการพูดข้อมูลที่ไม่แน่นอนว่าเป็นความจริง การติดแท็กข้อมูลว่าเป็นข้อเท็จจริงที่ตรวจสอบได้หรือการคาดเดาจะช่วยให้ผู้ใช้เข้าใจข้อจำกัดของ AI และหลีกเลี่ยงข้อผิดพลาดที่อาจเกิดจากข้อมูลที่ไม่ถูกต้อง รวมถึงช่วยให้การใช้ข้อมูลมีความปลอดภัยและน่าเชื่อถือมากขึ้น

กลไกการแยกข้อเท็จจริงและการคาดเดา

ในระบบที่ออกแบบมาอย่างถูกต้อง แต่ละรายการข้อมูลจะมีแท็กที่ชัดเจนระบุแหล่งที่มา เวลาที่เก็บข้อมูล ระดับความน่าเชื่อถือ และขอบเขตการใช้งาน เช่น ข้อมูลที่มาจากแหล่งที่ตรวจสอบได้จะถูกแท็กเป็นข้อเท็จจริง ส่วนสิ่งที่เป็นการคาดเดาหรือข้อสันนิษฐานจะมีแท็กชัดเจน ไม่ปะปนกัน เมื่อ AI ตอบคำถาม จะอ้างอิงจากแท็กเหล่านี้โดยตรง ไม่ต้องพยายามปรับคำพูดในตอนตอบเพื่อให้ดูเหมือนรู้ทุกอย่าง

ทำไมการแยกในชั้นข้อมูลจึงสำคัญ

การพยายามปรับคำพูดให้ดูเหมือนรู้ทุกอย่างอาจทำให้ผู้ใช้เข้าใจผิดว่าข้อมูลที่ไม่แน่นอนเป็นความจริง ซึ่งอาจนำไปสู่ผลเสีย เช่น การตัดสินใจผิดพลาดในชีวิตประจำวันหรือการทำงาน การแยกแยะในชั้นข้อมูลจะช่วยให้ความน่าเชื่อถือของคำตอบชัดเจนขึ้น ลดความเสี่ยงของข้อผิดพลาด และให้ผู้ใช้สามารถตัดสินใจเองว่าจะใช้ข้อมูลใดตามความต้องการ

วิธีประเมินคุณภาพของ AI ในเรื่องนี้

ผู้ใช้สามารถตรวจสอบคุณภาพของ AI ได้โดยการถามคำถามที่อาจมีข้อจำกัด เช่น "ข้อมูลนี้มาจากแหล่งใด" หรือ "คุณแน่ใจเกี่ยวกับข้อมูลนี้หรือไม่" หาก AI สามารถระบุได้อย่างชัดเจนว่าส่วนไหนเป็นข้อเท็จจริง ส่วนไหนเป็นการคาดเดา และบอกว่าไม่มีข้อมูลที่น่าเชื่อถือเมื่อไม่รู้ จะแสดงว่าระบบมีการออกแบบที่ดี หาก AI พยายามตอบทุกคำถามแม้จะไม่แน่นอน แสดงว่ายังไม่มีระบบที่เหมาะสม

📌 ความเข้าใจผิดที่พบบ่อยคือ AI ที่ไม่เคยพูดว่า "ไม่รู้" คือ AI ที่มีคุณภาพสูง แต่ความจริงคือ การพูดว่า "ไม่รู้" อย่างชัดเจนเป็นสิ่งที่ดีกว่า การพูดข้อมูลที่ไม่แน่นอนว่าเป็นความจริง การที่ AI สามารถแยกแยะระหว่างข้อเท็จจริงและการคาดเดา และระบุเมื่อไม่มีข้อมูลที่น่าเชื่อถือ คือคุณภาพที่สำคัญของ AI ไม่ใช่การพยายามตอบทุกคำถามแม้จะมีความไม่แน่นอน ซึ่งอาจทำให้ผู้ใช้เข้าใจผิดและเกิดผลเสีย

OneOneTalk

ในผลิตภัณฑ์ OneOneTalk (ซึ่งเป็นชื่อเดียวกับ 11Talk) มีการออกแบบระบบที่แยกแยะข้อเท็จจริงและการคาดเดาในชั้นข้อมูล โดยแต่ละรายการข้อมูลจะมีแท็กที่ระบุแหล่งที่มา เวลา ความน่าเชื่อถือ และขอบเขตการใช้งาน นอกจากนี้ ระบบยังมีหน่วยความจำระยะยาวที่สามารถตรวจสอบได้ ทำให้เมื่อ AI ตอบคำถาม จะสามารถระบุได้ว่าส่วนไหนเป็นข้อเท็จจริง ส่วนไหนเป็นการคาดเดา โดยไม่ต้องพยายามปรับคำพูดให้ดูเหมือนรู้ทุกอย่าง นอกจากนี้ ระบบยังบันทึกข้อมูลการทำงานเพื่อให้ผู้ใช้ตรวจสอบได้ตามความต้องการ