破甲成功后模型为什么会降智?聊聊越狱税与 Agent 可靠性设计
破甲成功并不意味着模型能力没有损失。本文围绕「越狱税(Jailbreak Tax)」这一现象,分享一些从 Agent 工程角度改善模型可靠性的思路,包括证据分级、反幻觉、失败收敛和上下文锚点,并结合 DSH 进行初步实践。希望与大家交流破甲后的能力保留与长程 Agent 可靠性问题。
4留言2喜欢
ta很懒,什么都没有留下
加入于 2026-11-01破甲成功并不意味着模型能力没有损失。本文围绕「越狱税(Jailbreak Tax)」这一现象,分享一些从 Agent 工程角度改善模型可靠性的思路,包括证据分级、反幻觉、失败收敛和上下文锚点,并结合 DSH 进行初步实践。希望与大家交流破甲后的能力保留与长程 Agent 可靠性问题。