跳到正文
原文
Hugging Face Blog·· 2 小时前AI 评分50

ProvenanceGuard:面向 MCP 智能体的溯源感知核查

Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents

AI 导读

ProvenanceGuard 是针对 MCP 智能体推出的生成后事实核查层,专门解决事实正确但归因来源错误的“跨来源混淆”问题。该方案在无需重新训练模型的情况下,通过读取包含工具输出与来源 ID 的 MCP 轨迹,逐项核对声明与其归属来源是否匹配。在 361 项专家测试声明中,它成功拦截了 139 项违规声明中的 138 项,来源识别准确率达 86%。

来源:Hugging Face Blog · huggingface.co