arXiv cs.AI / cs.LG 最新· Zhengxing Li·· 3 天前AI 评分55
arXiv 论文提出针对拉长 LLM 回复的 Trojan 数据投毒攻击的防御方法
LLM Trojans that Increase Response Lengths and Cost
AI 导读
arXiv 论文针对一种新的数据投毒攻击给出防御手段，该攻击在提示中出现触发条件时会拉长模型回复，直接抬高按 token 计费的用户成本。作者展示了这类 Trojan 能借助指令微调 LLM 上语义相近的指令被触发。论文提到部分前沿模型厂商对回复 token 的收费是 prompt token 的五倍，另一些厂商对 prompt token 提供预填充折扣，使成本管理成为现实问题。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。