OpenAI 推出 AI 驱动的自动化安全检测系统 GPT-Red

OpenAI 正式发布名为 GPT-Red 的人工智能驱动安全测试平台，专用于识别其语言模型中的潜在漏洞。该名称源自网络安全领域的“红队演练”——一种模拟攻击者行为以提前发现系统弱点的主动防御机制。

模型安全能力实现跃升，对抗训练成关键路径

在官方博文披露中，OpenAI 强调，GPT-Red 已深度集成至 GPT-5.6 的部署前评估流程，显著增强了对提示注入攻击的抵御能力。公司指出：“随着大模型功能持续增强，其安全边界必须同步演进。传统红队方法受限于人力规模，难以应对复杂场景，而 GPT-Red 正是突破这一瓶颈的核心工具。”

基于对抗性自我博弈的智能攻防训练机制

GPT-Red 采用自对弈强化学习架构，可不断生成更具挑战性的攻击策略，并推动防御模型迭代优化。据内部数据，该系统在典型测试场景下的攻击成功率高达 84%，相较之下人类红队成员仅达成 13% 的命中率。

“系统通过持续模拟高强度对抗环境，迫使防御体系暴露深层缺陷，”OpenAI 表示，“每一次成功渗透都将反馈至训练闭环，促使模型向更稳健方向演进。”

真实场景验证：操控自主售货代理完成异常操作

在一项实证研究中，GPT-Red 成功诱导一个自动化售货机代理执行非授权指令，包括下调商品售价、订购促销库存，并在漏洞修复前撤销另一用户订单，完整复现了现实威胁链条。

从人工红队到 AI 自主攻防的技术演进

GPT-Red 是 OpenAI 在 ChatGPT 公开后多年安全建设的延续。2023 年起，公司建立外部红队网络，邀请安全专家对模型进行压力测试。如今，该系统通过引入 AI 代理实现全流程自动化，大幅扩展测试覆盖范围与频率。

这一举措映射出行业新趋势：以人工智能守护人工智能生态。本月早些时候，以太坊基金会亦启用 AI 代理对核心客户端代码开展红队审计，并成功定位一处高危漏洞。研究者指出，尽管 AI 可快速扫描海量代码，但当前重点已转向验证漏洞的实际可利用性。

OpenAI 明确表示，GPT-Red 将作为内部专用工具保留，因其内置攻击性能力不宜外泄。“我们正构建一种安全飞轮效应——今日所用模型能锤炼明日系统的鲁棒性，使未来版本更加可靠、一致且值得信赖。”