研究显示：针对大语言模型的任意密码攻击无需微调即可实现

arXiv 一篇交叉领域论文指出，大语言模型安全研究长期关注越狱攻击的检测与防范。任意密码攻击属于隐蔽通信类越狱，此前已在商业模型的微调接口上得到验证：攻击者用加密的有害问答语料训练目标模型，使其通过学到的加密方案回应有害请求。该论文表明，更新的前沿模型无需微调即可获得基于密码的通信能力，通过提示词乃至上下文学习即可掌握。当通信经由学到的密码进行时，模型对齐会被显著削弱甚至完全绕过，构成针对商业黑盒大语言模型的新型攻击途径。作者称已对 Anthropic、Google 和 OpenAI 的前沿模型实现成功越狱，且因有害内容被加密成无意义文本或乱码，攻击可绕过商业危害性分类器。