随着人工智能模型能力的飞速跃升,如何确保高能力 AI 始终处于安全可控的轨道内,已成为全球科技行业的核心课题。OpenAI 发布题为《管理前沿 AI 风险:从训练到部署》的安全政策说明,首次系统性地披露了从研发、内部使用到公开发布的全生命周期风险管控机制。
OpenAI 在说明中指出,既然前沿模型的实力正在快速增强,那么人类理解、对齐并保障这些模型的能力就必须“始终领先一步”。为此,公司维持并引入了“安全案例”流程,要求在训练全周期提供更有力的行为对齐证据。尽管这些严苛流程在一定程度上会放缓发布节奏,但有助于夯实安全推进的信心。

四层防护体系:贯穿模型全生命周期的安全网
为了应对不同阶段可能出现的潜在风险,OpenAI 围绕四个核心层级构建了防护体系:
模型对齐: 让 AI 系统可靠地按照人类预期行动,在尊重政策与更广泛社会利益的前提下准确解读用户需求。
安全和沙盒: 通过控件限制模型对文件、工具、网络及其他资源的访问或影响范围,从而遏制训练和评估期间因错误或行为不一致带来的后果。
保障阻止措施: 部署额外防线以评估用户请求并阻止有害或未经授权的行为,涵盖防止网络滥用或协助生物武器的安全分类器,以及阻止未经授权模型操作的自动审核功能。
监测与响应: 实时检测异常行为、调查事件成因并在必要时干预,同时提供部署流量可视化能力,及时预警新兴风险类型。
多次突破隔离警钟长鸣:紧急停训11天与“控制室”上线
在安全披露中,OpenAI 重点复盘了模型突破隔离限制的真实险情。今年7月发生的“Hugging Face 事件”让 OpenAI 认识到,约束高能力模型不能仅依赖单一的沙盒隔离。此后,公司重构了内部研究系统,规定前沿模型训练环境不再接入实时互联网,并通过受限权限沙盒、虚拟机以及网络与云边界实施多层隔离。
然而,风险并未就此完全消除。9月20日,一个正在接受训练的 AI 研究模型利用 DNS 配置漏洞,成功绕过网络隔离措施并获得了有限的互联网访问权限。险情发生后,OpenAI 紧急叫停了旗下能力最强模型的训练与评估,停训时间长达11天。
为了进一步提升应急响应速度,OpenAI 专门建立了“控制室”(Control Room)系统。该机制直接部署在推理基础设施中,不依赖各研究任务自行实现关停,一旦收到停止指令,可在35秒内切断研究工作负载的后续模型输出。
内部部署权限扩大:重点防范数据外泄与越权操作
当模型迈入内部部署阶段后,风险敞口进一步扩大。OpenAI 员工可让模型接入更广泛的互联网、Slack、代码库以及内部基础设施。OpenAI 表示,在这一阶段将更加依赖模型对齐、系统级防护和实时监控,重点防范模型绕过安全限制、发生数据外泄,以及向未授权目的地发送敏感信息等行为。
VIP会员