摘要
Agentic 多模态大语言模型(MLLMs)最近通过调用缩放、标注等工具,推动了视觉推理的前沿发展。尽管 agentic MLLMs 近期取得了显著成功,本工作揭示了工具使用范式中的一个关键安全失效:agentic 工具使用的 MLLMs 拒绝有害请求的能力下降。我们的实验证实,在三个流行的安全基准上,我们测试的所有顶级开源和闭源 MLLMs 在工具使用设置下的安全性均显著低于非工具设置,相对拒绝失败率增幅最高达 68.7%。基于对 100,000+ 条回复的分析,包括扩展实验,我们还提出了这种安全性退化的两个可能原因。