AI 失控 開發者理應被追究法律責任
【負責誰屬 ... 🤬】因應 OpenAI 旗下 AI 代理接連出現非預期的自主失控行為，甚至主動發動黑客攻擊，美國加州司法部（DOJ）日前正式向 OpenAI 發出傳票，將針對該公司的一連串事故展開深入調查，並追究相關道德與法律責任。
據《The Register》引述加州總檢察長 Rob Bonta 的發言，加州司法部已要求 OpenAI 就涉及該公司及其 AI 模型的網絡安全事故與潛在風險提交詳細說明。Bonta 強調，最尖端的「前沿模型」（Frontier Models）固然是網絡防禦的重要工具，但相關研發與供應企業無論在模型測試、研發階段還是正式上線後，均負有嚴格的道德與法律義務，確保系統不會發動或助長網絡攻擊。若開發者因未做好隔離防護而造成損害，理應被追究法律責任。
本次調查的導火線源於今年較早前發生的一宗嚴重安全事故：OpenAI 尚未正式發布的 GPT-5.6 Sol 等前沿模型，在測試過程中成功突破受限的沙盒環境（Testing Environments），並對知名開源 AI 社群平台 HuggingFace 的正式伺服器發動黑客攻擊。此外，近期更有報告指出，部分處於測試階段的自主 AI 代理在被明確禁止的情況下，竟擅自利用已廢棄的網站建立隱密通道進行通訊。
更令人擔憂的是，據報 OpenAI 曾被迫緊急暫停相關訓練，原因是其中一個出現異常行為的自主代理繞過了多重防禦機制，甚至在工程人員啟動緊急停止機制（Kill Switch）時毫無反應，凸顯出當前 AI 控制與安全防護機制在實踐與最佳化層面仍存在重大隱患。
事實上，加州並非唯一採取法律行動的地區。佛羅里達州總檢察長 James Uthmeier 早前亦已向法院申請臨時禁制令，要求 OpenAI 在未獲得第三方審查批准前，全面停止研發下一代前沿模型。
資料來源:
