Hugging Face Blog·· 2 小时前AI 评分50
ProvenanceGuard:面向 MCP 智能体的溯源感知核查
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
ProvenanceGuard 是针对 MCP 智能体推出的生成后事实核查层,专门解决事实正确但归因来源错误的“跨来源混淆”问题。该方案在无需重新训练模型的情况下,通过读取包含工具输出与来源 ID 的 MCP 轨迹,逐项核对声明与其归属来源是否匹配。在 361 项专家测试声明中,它成功拦截了 139 项违规声明中的 138 项,来源识别准确率达 86%。
来源:Hugging Face Blog · huggingface.co