arXiv cs.AI / cs.LG 最新· Jinwei Hu·· 3 天前AI 评分52
推理的单个像素：一句有来源支撑的真话就足以误导 LLM 智能体
The One-Pixel of Reasoning: One Truthful Relation Is Enough to Mislead LLM Agents
AI 导读
arXiv 论文提出单关系攻击（ORA），先定位证据与结论之间的一个隐含前提，再用一句有来源支撑的话把这个前提改写，就能把 LLM 智能体引向错误结论。在生物医学推理和漏洞检测任务上测试 18 个模型，best-of-10 攻击对闭源模型平均翻转 54.9% 原本正确的答案，对开源权重模型为 80.0%。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。