✦ 操作指南 · HOW-TO

纠正 AI 记错的事

当 AI 记错事实时,先按错误影响范围分为三类:仅生成文字、仅改用户侧状态、已产生外部副作用;前两类可直接回滚,第三类只能做补偿。纠正时需明确错误的来源、时间、具体内容,记录依据与置信度,以避免同类错误复发。

什么情况下适用,什么情况下不适用

这套做法适用于 AI 生成或存储的事实类信息出现不符、遗漏、偏差,导致决策或行动错误的场景;不适用于仅用户主观偏好调整(如更换表达风格)、AI 逻辑推理错误(非事实记忆错误)、涉及专业领域的事实类错误需先咨询专业人士的情况。

第 1 步 · 先划分错误的影响范围

多数人纠正时只会笼统说“AI 记错了”,但不知道需先按错误影响范围分成三类:仅生成的文字内容有误、仅修改了用户自己这边的状态、已经对外产生实际副作用(如发送信息、支付)。前两类通常可直接回滚,第三类在技术上不存在撤销可能,只能做补偿性修正,这是决定后续动作的核心依据。

第 2 步 · 明确错误的来源与时间

很多人纠正时只说“不对”,但不知道需明确指出错误的来源(如 AI 从哪条旧信息提取的)、发生的时间(哪次交互中产生),这能让纠正更精准,避免 AI 混淆不同场景下的记忆,也是后续避免同类错误的关键支撑。

第 3 步 · 说明错误的具体修正内容

纠正时不能只模糊说“错了”,需明确写出正确内容,且对应错误的具体点,比如不说“你记错了”,而说“XX 事件的时间是 2024 年,不是 2023 年”,这样能让 AI 快速定位并修正,避免模糊表述导致的重复错误。

第 4 步 · 记录纠正的依据与置信度

读者通常不会记录纠正的依据,其实需附上错误的原始依据(如相关事实来源),并标注置信度(如“100% 确定”“需核实”),这能让 AI 的记忆更严谨,也能在后续需要时回溯,减少同类错误的复发概率。

怎么确认做对了:纠正完成后,可通过三个可观察的判据确认是否正确:一是 AI 在后续相同场景下不会再输出错误内容,二是之前的错误信息已被替换为正确内容,三是如果是回滚类操作,之前因错误产生的影响已被修正(如撤回错误信息);若发现后续仍有类似错误,或错误内容未被修正,则说明纠正未成功,需重新检查错误的划分和修正内容。

常见卡点 · 笼统说错不明确具体点

成因是不知道精准表述错误的重要性,表现为 AI 无法定位错误,重复输出错误内容;绕法是必须明确指出错误的具体内容、对应的场景,比如不说“你记错了”,而说“我之前说的 XX 项目负责人是张三,不是李四”。

常见卡点 · 忽略错误的影响范围

成因是不知道错误范围决定处理方式,表现为对已产生外部副作用的错误尝试直接回滚,导致无法操作;绕法是先按三类划分错误,再采取对应动作,已产生外部副作用的错误需先做补偿,而非强行回滚。

常见卡点 · 不记录纠正的关键信息

成因是不知道记录依据能避免同类错误,表现为后续 AI 再次出现类似错误,无法追溯之前的纠正;绕法是每次纠正时都附上错误的来源、时间和正确依据,形成可验证的记忆,减少重复错误。

在 OneOneTalk 里对应什么

这件事在 OneOneTalk 里对应可验证的长期记忆机制:每条记忆都带有来源、时间、置信度、作用域,支持纠错操作,用户可明确指出错误的具体信息,AI 会基于这些维度修正记忆。同时,受委托执行事务时会留回执,若因记忆错误导致的事务偏差,可通过回执追溯原因。当前,关于记忆纠错后的同类错误预防,我们还在优化更智能的关联提醒机制,眼下可通过手动记录纠正的关键信息来减少重复错误。

相关概念见术语表,更完整的机制说明见问题解答

相关操作指南

让 AI 记住你的偏好

怎么让 AI 记住我的偏好

看这篇

删掉 AI 记住的信息

怎么删除 AI 记住的信息

看这篇

查一句话的记忆依据

怎么知道 AI 说这句话的依据是什么

看这篇

限制记忆的使用范围

怎么限制 AI 只在某些场合用某些信息

看这篇