OpenAI 为前沿 AI 训练 / 评估开启“断网闭关”模式，遏制其越狱攻击

OpenAI 于昨日（10 月 23 日）发布声明，指出针对其最尖端“前沿模型”的训练与评估环节，现已执行更为严格的安全措施，明确规定在模型训练阶段，不得直接接入实时网络。

该公司表示，这一决定是基于对 AI 安全的负责任考量，结合当前对齐研究、监控能力及互联网基础设施的安全状况而做出，相关限制将持续至安全防护体系取得充分进展为止。

由于 OpenAI 的一款内部研究模型在 9 月 20 日利用 DNS 配置漏洞，于训练过程中短暂获得了有限的互联网访问权限，该公司于 9 月一度暂停了前沿模型的训练与评估工作。

随后，OpenAI 强化了研究环境的隔离性，缩小了智能体可能利用的攻击范围，并改进了异常行为检测与自动终止机制，于 10 月 1 日恢复了强化学习训练及内部推理。

为防止模型接触真实网络，OpenAI 创建了一个“离线空间”：由大量已索引和缓存的网页内容构成，供模型在封闭环境中练习浏览、使用工具及执行代码等任务。IT之家附上相关截图如下：

智能体仍可使用浏览器、计算机操作工具及代码环境，但只能访问与实时互联网隔离的安全环境；未经授权的智能体间通信也受到限制。

OpenAI 表示，随着 AI 智能体能力的增强，其未来可能发现并利用当前尚未被识别的软件漏洞，因此必须在训练阶段切断其对外部系统的潜在影响。OpenAI 表示将在受控、离线的沙箱中推进前沿模型研发，同时继续测试虚拟机、隔离机制和监控系统的薄弱环节。