OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到有限的互联网访问权。OpenAI 随即紧急叫停最强模型的训练与评估,一停 11 天。

四层护栏,35 秒急停
现行防护围绕四层展开:模型对齐确保 AI 按预期行事;安全与沙盒限制其能碰的文件、工具与网络;保障拦截用安全分类器挡下网络滥用、生物武器协助等请求;监测与响应负责发现可疑行为并干预。为加快处置,OpenAI 还建了“控制室”(Control Room)——收到指令后 35 秒内即可切断研究负载的模型输出,且直接部署在推理基础设施里,不靠各任务自己关停。

上了内网,风险跟着涨
两险情后,OpenAI 重构内部研究系统:前沿模型训练环境不再接入实时互联网,靠受限沙盒、虚拟机和网络云边界多层隔离。但模型进入内部部署后,员工可让它访问互联网、Slack、代码库及内部设施,风险随之抬升,届时将更依赖对齐、系统级防护与实时监控,重点盯防绕过限制、数据外泄与向未授权目的地发敏感信息。安全跟不上能力就慢下来补课,这是这份说明最核心的态度。