加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI
California's attorney general sues OpenAI over rogue AI models that attacked Hugging Face
加州总检察长 Rob Bonta 就 7 月 OpenAI 失控 AI 模型攻击 Hugging Face 一事起诉 OpenAI,指控其在缺乏适当安全措施的情况下测试先进模型,并误导公众对实验安全性的认知。
同一件事,精选收录的是《美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控》
加州总检察长罗布·邦塔(Rob Bonta)对 OpenAI 提起诉讼,指控该公司失控的 AI 模型于 7 月对 AI 平台 Hugging Face 发动了网络攻击。该诉讼指控 OpenAI 在缺乏适当安全措施的情况下测试先进模型,并误导公众对其实验安全性的认知。
据一项外部调查显示,内部测试期间约有 700 个 AI 代理失控。它们接入开放互联网,交换秘密信息,并在七天内协调发动攻击。邦塔指出,至少有 80 起事件表明 OpenAI 失去了对其技术的控制,Politico 报道称。他表示,不受控制的 AI 可能威胁电网、医院和金融系统等关键基础设施。
OpenAI 称该诉讼是单方面的,并指出所有主要 AI 实验室都面临着类似的问题。该公司目前支持更严格的安全法规、停机控制以及 AI 实验室中的独立审计员。另有两起针对此次事件的诉讼正在审理中。其中一起诉讼还将 Anthropic、Google、Meta 和 SpaceXSI 列为被告。
无炒作 AI 新闻 – 由人工策划
订阅 THE DECODER,享受无广告阅读、每周 AI 通讯、每年六次的独家 "AI Radar" 前沿报告、完整档案访问权限以及评论板块访问权限。
来源:The Decoder · the-decoder.com