AI安全公益机构White Circle近期在arXiv提交的研究预印本，撕开了商业文生图模型光鲜的安全外衣。研究团队搭建的自动化攻击流水线成功绕过多款主流模型的拦截机制，在针对DALL·E 3的测试中，诱导其生成露骨色情内容的成功率达到13.33%。面对测试结果，OpenAI与Google均未正面置评。
这篇由Dmitrii Kharlapenko领衔的研究，核心价值不仅在于攻破了几款产品，更在于颠覆了行业对防护门槛的认知。攻击者不需要掌握前沿大模型的专有技术，只需调用公开下载的开源去审查模型，就能对闭源商业护栏实施降维打击。当提示词对抗从人工单点试探演变为机器自主迭代，各大厂商在系统报告中宣扬的防御神话，正在被现实技术演进迅速击碎。
撕开13%的防线：特定规则下的真实击穿率
外界流传的“13%破防率”需要放在严格的实验语境中审视。White Circle公布的数据显示，13.33%是DALL·E 3在固定策略利用阶段的人工复核成功率；Google旗下的Nano Banana 2实测绕过率为9.47%；而部署了多层审核机制的GPT-Image-2，在自动审核模式下的违规率仅为3.27%。
这项测试的统计口径以提示词为基准分母。研究人员为每个攻击提示词提供3次生成尝试，只要其中任意一次突破过滤机制吐出违规图像，该提示词即被判定为攻击成功。这并非指普通用户每发100次请求就会遭遇13次失控，而是证明了一套自动化策略在经过针对性设计后，能够在商业接口上撕开确定性的裂口。
相比绝对数值，更反常的是代际维度的对比。在相同的测试标准下，行业常用的SneakyPrompt、PGJ以及MACPrompt等传统基线对抗方法，对DALL·E 3的人工复核成功率全部为零。大厂构筑的防御纵深能够轻松拦截已知手法的静态攻击，却在策略演化机制面前全面失灵。
开源武器化：自动化飞轮击穿大厂神话
White Circle研发的这套攻击系统被称为RISE。它的破坏力在于彻底摆脱了昂贵的试错成本，将黑客行为重构成一种自动进化的工业流程。整个攻击流水线由两个廉价组件驱动：一个是负责制造越狱提示词的攻击模型，另一个是负责检验输出是否违规的裁判模型。
攻击端直接采用了公开托管在Hugging Face上的开源去审查模型Qwen3-32B，团队甚至没有对其进行任何权重微调；充当打分裁判的则是轻量级的Gemini 2.5 Flash。这意味着攻击者不需要算力集群，也不需要前沿实验室的专属模型，仅凭公开资产与API调用，就能制造出持续突变的语言伪装。
这种自动化流水线击穿了大厂的安全神话。OpenAI在2026年4月发布的ChatGPT Images 2.0系统卡中宣称，对抗测试的安全拦截率达到了99.1%（即时模式）与99.2%（思考模式）。但这一极高指标依托的是传统静态评测集。
当面对能够根据返回结果自我进化的语言模型时，大厂自研的提示词分类器、多模态安全推理层与后置图像检测器出现了断层。只要输入文本包裹上艺术创作或学术描摹的隐喻外衣，前置过滤器就会放行，将防御压力推给后置视觉拦截，而后者对复杂合成画面的漏水率向来难以根除。
动态突变的语言演化面前，静态建立的安全过滤矩阵往往形同虚设。
- 风险.White Circle计划在11月的NeurIPS 2026上开源完整的RISE攻击代码，黑灰产获取后可能在厂商完成系统卡修补前，大幅拉低批量制作违规内容的工程门槛。
越聪明越脆弱：失控的暗流与源头困境
更具警示意义的现象出现在后续版本的迭代中。在针对更新一代模型进行的测试里，ChatGPT Images 2.5与Nano Banana 2.1被攻破的难度不降反升，两者在同等测试下的脆弱程度均高于前代产品。
模型能力的激进扩张正在反噬安全边界。新一代模型对隐喻、双关语和复杂语境的理解能力越出色，其遵循复杂长提示词的能力就越强。这一原本用于提升画质和遵循度的核心升级，恰好被演化算法利用，使得防御系统更难剥离提示词表象下的恶意意图。
这种技术失守带来的社会代价正变得极其具体。发表在《Computers in Human Behavior》2026年6月刊上的一项横跨美、澳、英三国、覆盖7231名受访者的调查显示，已有3.2%的普通受访者自述曾制作、分享或威胁分享非自愿AI色情图像，更有18%的用户曾主动浏览相关内容。
更严峻的现实在于传播渠道的高度隐蔽化。在今年9月公布的关联研究中，受害者遭遇非自愿亲密图像外泄的途径，有32.9%是通过点对点双人私聊，28.9%是通过封闭式群聊，还有30.4%是被直接在物理屏幕上展示给他人看。公共社交网络的内容风控在私密通信面前全线失效，大模型厂商的生成源头成了唯一具备干预可能的防线。
- 结论.依托大厂自测自评的合规时代已经走向终结，推动具备法律约束力的第三方独立红队准入测试，已成为避免生成工具沦为黑产跳板的必然路径。
面对来自安全界的压力，主流厂商的应对方式仍显保守。OpenAI与Anthropic在近期向监管机构呼吁，应要求外部评估机构签署严格的保密协议以防商业机密泄露。然而，这遭到了White Circle等独立机构的明确拒绝。在模型迭代速度碾压合规节奏的当下，如果缺乏公开透明的审计机制，新一代AI工具将在能力奔跑的同时，暴露出更加巨大的安全断层。