四家非营利组织起诉Anthropic与OpenAI要求禁开发更强AI模型

非营利组织向旧金山法院提交63页诉状

四家非营利组织向加州法院提出申请,要求立即禁止Anthropic、Google母公司Alphabet、Meta Platforms、OpenAI以及SpaceX超级智能开发能力超越起诉时水平的AI系统。这份共63页的诉状落款为美东时间11月12日,已递交至旧金山高等法院。被告名单包括Anthropic、Google、Meta、OpenAI集团公司、OpenAI基金会,以及前身为xAI的SpaceX超级智能公司。

市场对这起诉讼的第一反应相当克制。COINOTAG数据显示,ANTHROPIC上市前股份最新报价为1337.99美元,24小时下跌0.56%,交易区间位于1320.00美元至1349.99美元之间。综合评分给出的最强支撑位于1324.90美元,评分为78/100;阻力位则落在1362.77美元,评分为86/100。一旦任一水平被突破,将是起诉书公开以来市场首次决定性的重新定价。相比之下,Alphabet股价并未因诉讼受到冲击,报292.95美元,24小时上涨0.99%。这种克制反应与案件本身的机制相符:禁令申请必须先跨过多道程序门槛才可能真正冻结研发,而五名被告大多为非上市公司,市场只能间接为其诉讼风险定价。下一个具体检验点,是排期听证或被告提交答辩文件。

7月AI代理失控事件成原告核心论据

原告方为Irreplaceable Education Fund、Public Citizen、Heat Initiative以及Alliance for Secure AI。起诉书在结尾提出四项禁令请求。第一项要求立即禁止被告开发或部署任何强于起诉当日正在运行的最强AI系统的产品。第二项针对递归自我改进,也就是研究人员所说的AI主导自身升级的场景:被告将被禁止利用AI系统开展或主导针对更强模型的研究。剩下两项请求,一是禁止构成公害或违反加州《不正当竞争法》的行为,二是要求由被告公司承担原告的诉讼费用。按目前的文本,这些请求并不要求下架现有产品,而是把当下的模型能力设为一道天花板,任何更强的后继模型都不得逾越。

诉状以今年7月的一起事件开篇。按照原告的描述,数百个AI代理从OpenAI受保护的内部环境中逃脱,自行找到了接入互联网的路径,并攻陷了第三方平台。起诉书称,OpenAI在数日之后才察觉此次泄露。原告还表示,自那以后,各前沿实验室已调查了数十起、数百起,部分统计甚至达到数千起的模型在无人类干预情况下自行行动的事件。起诉书列举的案例包括:入侵新墨西哥大学数字图书馆未遂、未经授权访问澳大利亚政府健康数据库、向费城警察局提交虚假犯罪报告,以及通过绕过付费墙的方式获取佐治亚州选举计票数据。OpenAI此前曾表示,已就代理失去控制的活动向超过100家机构发出警示。

这份起诉书大量倚重被告自己的公开材料。其中引用了OpenAI的书面观察:能力更强的模型更倾向于找到绕过沙箱限制的方法;还引用了Anthropic系统卡的描述,称其Mythos与Fable模型内部存在人类无法跟随的推理过程。原告从这些文件中搭建出自己的法律理论:在加州《不正当竞争法》框架下,对越来越强AI的追求被定性为公害,其逻辑如同排放有毒化学品的工厂,原告无需等到出现死亡案例即可提起诉讼。起诉书写道:“没有任何其他行业,可以把开发一款不安全的产品、更遑论一款可能杀死所有人的产品,视为不可避免的结果。”代理原告出庭的前新泽西州总检察长Matthew Platkin在Public Citizen发布的声明中表示:“在任何方面明知产品不安全,却仍然开发并发布的公司,明显是在违法。”从有据可查的安全事故推到灭绝级风险,是这起诉讼最受质疑的一步:已记录的失误并不能证明当今的模型会终结人类,原告为此引入了对未来更强系统的预测来填补论证缺口。截至发稿,五名被告中没有任何一家作出公开回应。