AI幻觉核验协议

定义

当AI推荐具体工具、方案或事实时，主动追问"你是否搜索了最新信息？"以触发AI重新核验，避免接受AI"凭印象生成"的内容作为决策依据。

不是什么（反例）

• 不是每次都追问——只在AI给出具体工具名、方案名、版本号等可能随时间变化的建议时才触发
• 不是对AI不信任，而是对"AI印象"与"当前事实"之间的时效差保持警惕

为什么重要

AI的训练数据有截止日期，但工具生态持续变化。不核验就直接采纳AI推荐的具体工具，可能浪费大量时间在已停更、不兼容或根本不存在的方案上。一次追问，成本极低；一次幻觉工具引导的部署，成本极高。

应用场景

• AI推荐部署工具或软件时
• AI给出具体API名称、平台名称时
• AI描述"某工具可以做某事"时
• 方案设计阶段，AI列出具体技术选型时

值得保持的

能在部署过程中识别出AI给出的openclaw/Hermes推荐是幻觉，并主动追问触发核验，规避了错误方案的执行。

待改善的

应在方案设计阶段就触发核验，而不是等到执行阶段发现问题。"先验证工具存在性，再做方案"要成为前置动作。

相关概念

• 两轮验证原则 — 关系：核验协议是两轮验证在AI工具选型场景的具体应用
• 数据可信度原则 — 关系：AI幻觉是数据可信度问题的典型场景

来源记录