arXiv cs.AI / cs.LG 最新· Savan Doshi·· 3 天前AI 评分63
医学微调重塑而非降低患者端 AI 风险，论文提出基于评分标准的 LLM 评判框架
Medical Fine-Tuning Reshapes, Not Reduces, Patient-Facing AI Risk: A Rubric-Based, LLM-Judge Evaluation Framework
AI 导读
研究提出一套按六类风险语言打分的医疗问答评测框架，由三个 LLM 评判模型集成判定严重程度。在 K-QA 的 200 个真实患者问题上评测 6 个 7-9B 模型后发现，风险语言与事实性幻觉无关（Spearman ρ=-0.065）；医学微调不降低总体风险而是改变其分布，继续预训练模型压制高警示用药提及却放大过度自信断言，临床指令微调只压制剂量表述。作者公开了评分标准、评判提示词和评测代码。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。