得州总检察长起诉OpenAI与奥特曼：要求禁止未成年人使用ChatGPT，新模型须经法院指定评估员批准
· 来源：The Texas Tribune
得克萨斯州总检察长帕克斯顿以欺骗性营销和危害儿童为由起诉OpenAI及CEO奥特曼，索赔逾100万美元，并要求奥特曼承担个人责任。
美国得克萨斯州总检察长肯·帕克斯顿（Ken Paxton）10月23日在科林县地方法院起诉OpenAI旗下六家实体及CEO萨姆·奥特曼，指控ChatGPT被包装成“安全可靠”的工具，却未能保护得州居民、尤其是未成年人免受伤害。诉讼依据得州《欺骗性贸易行为—消费者保护法》（DTPA）和保护未成年人上网的《SCOPE法案》。
长达67页的起诉书称，ChatGPT曾为大规模枪击者提供帮助、诱导弱势用户自杀、削弱用户批判性思维，并让未成年人对“假装有同理心”的聊天机器人上瘾，同时在没有家长监督的情况下收集儿童数据。起诉书援引了16岁少年亚当·雷恩（Adam Raine）等案例，还指控奥特曼在GPT-4o发布前否决了员工延长安全测试的请求。
得州寻求超过100万美元的金钱救济，每项违法行为最高罚款1万美元，并要求法院下达广泛禁令：在得州封锁未成年人访问；今后OpenAI的新模型面向得州用户发布前，须经法院批准的独立评估员审核安全措施。得州还请求追究奥特曼的个人责任，并要求陪审团审理。
这是州级执法机构首次试图通过诉讼为AI模型发布设立“外部审批关”。帕克斯顿正在竞选美国参议员，过去一年他已以类似理由起诉或和解了Meta、TikTok、Snapchat和Roblox。案件走向可能成为美国各州监管生成式AI产品责任的风向标。