เพื่อตรวจสอบสาเหตุที่ AI ตัดสินใจใดๆ คุณสามารถอ้างอิงจากข้อมูลที่ AI ใช้ในการพิจารณาและกระบวนการทำงานที่โปร่งใส ซึ่งต่างจากระบบ AI ที่เรียกว่า 'กล่องดำ' ที่ไม่สามารถอธิบายเหตุผลการตัดสินใจได้โดยตรง. ระบบที่มีความโปร่งใสจะแสดงรายการข้อมูลแต่ละรายการที่นำมาพิจารณา พร้อมแหล่งที่มา เวลา และความน่าเชื่อถือ รวมถึงหลักฐานการดำเนินการทุกขั้นตอน ทำให้คุณเห็นว่า AI ตัดสินใจโดยอ้างอิงอะไรจริงๆ ไม่ใช่แค่คะแนนสุดท้ายที่ไม่สามารถตรวจสอบได้.
ระบบ AI ที่ออกแบบให้มีความโปร่งใสจะบันทึกทุกขั้นตอนการทำงาน ตั้งแต่การรับข้อมูลเข้าไป จนถึงการตัดสินใจสุดท้าย. แต่ละข้อมูลที่ AI ใช้จะมีข้อมูลอ้างอิง เช่น แหล่งที่มาของข้อมูล เวลาที่เก็บข้อมูล และระดับความน่าเชื่อถือ ทำให้คุณสามารถตรวจสอบว่า AI พิจารณาข้อมูลอะไรบ้าง และทำไมถึงเลือกผลลัพธ์นี้. นอกจากนี้ยังมีระบบบันทึกการดำเนินการ (receipt) ทุกครั้งที่ AI ทำงาน เพื่อให้คุณย้อนกลับมาตรวจสอบได้ในภายหลัง.
เพื่อประเมินว่าผลลัพธ์ของ AI นั้นเชื่อถือได้หรือไม่ คุณสามารถตรวจสอบจากแหล่งข้อมูลที่ AI ใช้อ้างอิง ว่ามาจากแหล่งที่น่าเชื่อถือหรือไม่ รวมถึงระดับความน่าเชื่อถือที่ AI กำหนดให้กับแต่ละข้อมูล. การมีระบบบันทึกการดำเนินการทุกขั้นตอนยังช่วยให้คุณเห็นว่า AI ไม่ได้ใช้ข้อมูลที่ไม่ถูกต้องหรือไม่ และสามารถแก้ไขข้อผิดพลาดได้ทันทีหากพบว่ามีข้อมูลใดไม่ถูกต้อง.
ระบบ AI ที่ไม่โปร่งใส หรือเรียกว่า 'กล่องดำ' จะไม่บันทึกกระบวนการทำงานหรือแสดงข้อมูลอ้างอิงที่ใช้ในการตัดสินใจ. ทำให้คุณไม่สามารถรู้ได้ว่า AI ตัดสินใจโดยอ้างอิงอะไรจริงๆ และไม่สามารถแก้ไขข้อผิดพลาดได้หากผลลัพธ์ไม่ถูกต้อง. นอกจากนี้ยังเสี่ยงต่อการใช้ข้อมูลที่ไม่ถูกต้องหรืออคติที่ไม่สามารถตรวจสอบได้ ซึ่งอาจส่งผลให้ผลลัพธ์ไม่เหมาะสม.
ในระบบ OneOneTalk จะมีระบบบันทึกความทรงจำที่สามารถตรวจสอบได้ โดยแต่ละรายการความทรงจำจะมีข้อมูลเกี่ยวกับแหล่งที่มา เวลา ความน่าเชื่อถือ และขอบเขตการใช้งาน รวมถึงสามารถแก้ไขข้อผิดพลาดได้. นอกจากนี้ยังมีระบบบันทึกการดำเนินการ (receipt) ทุกครั้งที่ AI ทำงานตามคำสั่งของคุณ ทำให้คุณสามารถตรวจสอบได้ว่า AI ตัดสินใจหรือดำเนินการอะไร โดยอ้างอิงข้อมูลอะไร และสามารถย้อนกลับมาตรวจสอบหรือแก้ไขได้ทุกเมื่อ.