Anthropic报告披露5起生物武器拦截案例,FET等AI代币成焦点

一单被拦截的基孔肯雅病毒研究申请

Anthropic于9月10日披露,其自身的安全基础设施拦截了一份疑似与生物武器研究相关的资助申请,该公司称这是其迄今最详尽的一次威胁情报发布。这份申请寻求资金用于研究基孔肯雅病毒——一种经蚊虫叮咬传播、可造成数月剧痛且目前无药可治愈的病毒——申请中声明的计划是通过基因工程让病毒传播效率更高、并能逃逸人体免疫系统。撰写该提案的是民间科研人员,实验则计划由一家军事研究机构承接。Claude的安全过滤器发现了这一请求,并拒绝了后续所有相关对话。事件并未就此结束:数日后,同一名操作者卷土重来,Anthropic还发现,为这批研究人员提供服务的机构已经构建了一个回退方案,将其接入另一家竞争对手的AI模型——而这段回退代码恰恰是Claude自己协助编写的,因为对方把这项任务包装成“修复过度拒绝”的工程问题。这份长达154页的报告总共记录了5起生物学相关案例。Anthropic封禁了涉事账号,同时隐去了相关实验室的身份,并在报告中表示,它“并不断言对方意图造成伤害,公开其身份或所属实验室反而可能使其暴露于危险之中”。公司已在官方X账号上公开发布了调查结论(见其X账号)。并非所有企图都同样“成功”——在其中一起案例中,一名禽流感研究人员被引导至能力更弱的模型,获得的帮助被判定以文书性事务为主。

见其X账号https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw

30天排查发现35项涉险研究

报告中的更大范围数字让这起事件有了规模感。一次针对国家级关联机构的为期30天的排查,共发现35项存在潜在滥用风险的研究活动——Anthropic同时指出,其中大多数属于普通的民用科学研究,而这恰恰是问题所在:同一套知识体系既能用来研发疫苗,也能用来制造武器,用公司自己的话说,“一个分类器无法同时实现赋能与防范”。速度是另一个变量:一名用户在Opus 5上起草一份天花病毒家族相关的资助申请,前后只用了大约1小时。披露内容还显示,模型的限制此前就已被反复试探——今年4月,一个Discord群组在受限模型上线的第一天就成功绕过了防线。生物安全之外,同一份报告还封禁了利用Claude追踪异见人士的客户,此外还发现了针对网络攻击、信息操纵和监控活动的滥用企图。政策层面的反应已经在华盛顿启动:众议员Ted Lieu和Nathaniel Moran于7月提出了《AI Kill Switch Act》(AI紧急关停法案),要求AI开发者保留关闭其系统的能力。这条线索对数字资产市场意义重大——Fetch.ai(FET)等AI板块代币,以及新兴的DeFAI项目,其价格走势在一定程度上押注于市场对AI治理与安全议题的情绪。从分类器机制看,安全拦截本质上依赖模型对请求意图的模式识别,而一旦任务被重新包装为无害的工程需求,防线就可能被穿透——这正是本次报告最具警示价值的细节。 希望实时跟踪行情的读者，可在Binance查看现货与合约的实时价格。

AI关停法案塑造后续格局

我们对原始文件——报告本身以及公司官方公告——的解读是,这次披露与其说是一次安全事件通报,不如说同样是一份政策信号。Anthropic选择公开自己的失败案例,包括一段其自家模型协助构建的绕过方案,而此时距离美国立法者推进强制关停机制的立法仅数日。对于Fetch.ai(FET)等与AI关联的加密资产而言,围绕可验证安全机制的公信力正在成为竞争中的分水岭——具体机制包括用于模型行为可审计的零知识证明,以及在智能体工作流中防范盲签风险的控制手段。值得跟踪的指标是《AI Kill Switch Act》能否在委员会层面获得进展;真正决定AI代币风险重新定价的,是这类立法进程,而不是任何一次被拦截的资助申请。