一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。

一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。
中秋国庆双节前后,国内外至少十余款大模型将密集发布。国外方面,OpenAI月底开发者大会前,重磅产品延期至下周,将补齐GPT-6全系:Sol、Terra、Luna,与已发布的Astra形成完整矩阵;Anthropic则被指跳过5.1版本。美国厂商虽无节前发布习惯,但此次节点巧合,或掀新一轮AI竞赛。
OpenAI推出ChatGPT官方Word插件,向全球所有账号开放,免费用户可用。可整理笔记成初稿、生成摘要、调整语气、修格式、统一术语;付费及企业账号还能接入外部素材、保存常用技能,权益分级。
路透社称,Anthropic筹备IPO期间拟推新AI模型,以应对OpenAI GPT-6Astra在企业市场的竞争,但安全性仍在评估,发布时间未定。此举与其CEO阿莫代9月12日呼吁放缓AI能力迭代、重视安全的主张形成对照。
据《华尔街日报》报道,安全公司Hacktron AI研究人员利用Anthropic Claude入侵一名OpenAI员工的ChatGPT账户,获取私有代码库文档。漏洞源于Discourse令牌在ChatGPT上有效,7月23日发现并报告后,OpenAI支付6500美元赏金。
美国得州联邦法官驳回OpenAI动议,裁定苹果无需公布与SpaceXAI达成的保密反垄断和解协议。法官表示,公布保密协议的先例前提是协议含与待决争议相关信息;闭门审查认为该协议与OpenAI诉讼争议点无关。