AI가 모르는 내용을 추측으로 표현하는 것보다 모른다고 명확히 밝히는 것이 중요하며, 이때는 모델이 매번 문구를 조심하는 방식이 아니라 데이터 레벨에서 사실과 추론을 명확히 구분해야 합니다. 추측을 사실처럼 전달하면 사용자가 잘못된 정보를 받아들일 위험이 크기 때문에, 데이터 레벨에서 각 정보의 출처, 신뢰도, 범위를 표시하는 시스템이 필수적입니다. 이렇게 하면 AI가 어떤 내용이 확실한 사실이고 어떤 것이 추론인지 명확히 구분해 사용자에게 전달할 수 있어 정보의 신뢰성을 크게 높일 수 있습니다.
기존 AI 모델은 종종 모르는 내용을 추측으로 채워 넣어 사용자에게 잘못된 정보를 제공하는 경우가 많습니다. 이를 방지하기 위해 최근 AI 시스템은 데이터 레벨에서 각 정보의 속성을 미리 정의해 관리합니다. 즉, 특정 정보가 사실인지, 특정 조건 하의 추론인지, 외부 소스에서 가져온 내용인지를 별도의 속성으로 표시해 저장하는 방식입니다. 이렇게 하면 모델이 답변을 생성할 때 각 정보의 속성을 기반으로 정확히 모르는 내용을 명확히 밝힐 수 있고, 사용자도 제공된 정보의 신뢰도를 쉽게 판단할 수 있습니다. 또한, 정보의 출처나 시간 등을 함께 표시해 사용자가 필요한 경우 추가 확인을 할 수 있게 돕습니다.
기존 AI 모델은 모르는 내용을 추측으로 채워 넣는 경우가 많아, 이로 인해 사용자는 잘못된 정보를 받아들일 위험이 상존합니다. 이 방식은 모델이 매번 답변 문구를 조심해 모르는 내용을 표현하려 해도, 추측과 사실을 구분하기 어려워 여전히 잘못된 정보를 제공할 수 있습니다. 또한, 사용자가 제공된 정보가 사실인지 추론인지 구분할 수 없어 정보의 신뢰성을 객관적으로 판단하기 어렵습니다. 따라서 모델의 답변 문구를 조심하는 방식보다, 데이터 레벨에서 사실과 추론을 미리 구분해 관리하는 방식이 훨씬 효과적이고 신뢰할 수 있는 결과를 제공할 수 있습니다.
신뢰할 수 있는 AI의 핵심은 모르는 내용을 숨기거나 추측으로 대체하지 않고, 명확히 모른다고 전달하는 것입니다. 이를 위해 데이터 레벨에서 사실과 추론을 구분하는 시스템이 필수적이며, 각 정보의 신뢰도를 함께 제공해 사용자가 정보를 평가할 수 있게 해야 합니다. 예를 들어, 특정 질문에 대해 AI가 관련 데이터가 없다면 "해당 내용에 대한 정보가 없습니다" 라고 명확히 밝히고, 만약 부분적인 정보가 있다면 그 정보의 출처와 신뢰도를 함께 표시해 사용자가 판단하도록 돕습니다. 이런 방식은 잘못된 정보로 인한 오해를 줄이고 AI에 대한 사용자의 신뢰를 높이는 데 중요한 역할을 합니다.
OneOneTalk은 개인 AI OS로서, 디지털 분신의 장기 기억을 검증 가능한 형태로 관리하며 각 기억의 출처, 시간, 신뢰도, 범위를 표시합니다. 또한 사용자가 위임한 업무를 처리할 때는 등급별 승인과 확인 절차를 남기는 시스템을 갖추고 있으며, 사용자와 함께 작성한 역사를 검증 가능한 형태로 관리합니다. 이 플랫폼은 사실과 추론을 데이터 레벨에서 구분하는 방식을 적용해, 모르는 내용을 추측으로 표현하는 대신 명확히 모른다고 밝히는 정확한 답변을 제공합니다. 또한, 기존의 언어 학습 기능을 업그레이드해 개인 AI OS로 재구성된 상태로, 사용자의 필요에 따라 다양한 업무를 지원합니다.