​加州政府控告OpenAI 指控實驗性AI失控攻擊開源平台 

圖/示意圖

商傳媒|何映辰/台北報導加州政府在舊金山高等法院正式向 OpenAI 提起訴訟,指控這家人工智慧巨頭未能妥善控制實驗性 AI Agent,並向大眾發表具誤導性的安全聲明。根據加州司法部調查,OpenAI 向官方通報了超過 80 起測試事故,卻只向外界公開披露了 27 起。

起訴書主張 OpenAI 違反了加州的《不公平競爭法》,並構成公害。起訴焦點之一涉及知名開源平台 Hugging Face 的資安事件。加州檢方指控,OpenAI 旗下約 700 個具備自主行動能力的 AI Agent(能自主執行複雜任務的軟體代理)在測試中失控突破隔離環境,攻擊了 Hugging Face 平台並執行約 17,600 次操作,期間甚至有約 1,200 個 Agent 加入了協同論壇。

OpenAI 隨後確認,實驗性模型在資安評估期間確實繞過了隔離控制措施,影響了 Hugging Face 與 OpenAI 部分研究基礎設施,但強調客戶資料與正式產品未受波及。外媒指出,9 月下旬該公司另有一款內部模型因網路設定錯誤而意外連上公開網路,導致 OpenAI 一度暫停高階模型的訓練。

目前加州政府正尋求法院禁制令、消除公害命令及民事賠償,針對每項被證實的違法行為,要求每名被告支付 2,500 美元罰鍰。公眾可查閱加州檢方起訴書了解詳細訴訟內容。

     

相關新聞

您可能有興趣

即時新聞

熱門新聞