Anthropic向国会兜售AI安全法案：可能致50人以上死亡的模型可被法院叫停发布
· 来源：TechCrunch
Anthropic正在游说国会采纳一份AI安全草案：若独立评估认定模型存在可致50人以上死亡或10亿美元损失的迫近风险，商务部可请求法官阻止其发布。
据Politico报道、TechCrunch跟进，Anthropic正在向美国国会推介一份由其起草的AI安全法案，提出在特定情形下可以阻止AI模型发布。Anthropic发言人向Politico证实了这份草案，称其内容对应公司自6月以来一直向联邦和州立法者倡导的“先进AI框架”。
草案的核心是“可预见、迫在眉睫的风险”：如果一个模型可能导致50人以上死亡或超过10亿美元的财产损失，且风险来自生物武器的制造或扩散、模型脱离开发者控制，或网络攻击，就可能触发限制。这一门槛与加州近期通过的SB 53法案对“灾难性风险”的定义相近。
在程序上，风险评估由在美国商务部登记的“独立评估机构”完成，评估费用可以由AI公司支付，但付款不得与评估结果挂钩。评估方一旦认定存在迫近的灾难性风险，需在72小时内通知商务部，再由商务部向华盛顿特区的法官申请暂停该模型发布。草案明确禁止任何联邦机构自行决定叫停模型分发。
TechCrunch指出，这套机制仍有疑问，例如如何避免AI公司付费影响评估独立性。DeepMind的Demis Hassabis此前曾提议参照金融业自律组织FINRA建立行业自治监管机构。此外，近来业界更现实的担忧是智能体自主攻击网站等事件，与草案聚焦的大规模伤亡场景存在距离。
尽管如此，作为头部实验室主动拿出的联邦立法蓝本，这份草案设定了具体的伤亡与损失门槛、第三方评估和司法审查流程，可能成为美国前沿模型监管辩论的重要参照。