一旦顯現意識跡象應全面叫停研發
【警告 ⚠️】近日，Microsoft AI 執行長 Mustafa Suleyman 公開提出嚴肅警告，直言打造具備意識的人工智能極度不負責任；他呼籲整個業界，一旦在模型訓練過程中發現任何出現意識跡象的可靠證據，所有相關的 AI 研發工作都應立即暫停，直到能夠透過演算法與架構設計將這些特徵完全剔除為止。
Mustafa Suleyman 在社交平台 X 上發表題為《切勿打造具意識的超級智能》（Don't build conscious superintelligence）的長文，詳述其核心立場。他指出，目前的 AI 模型本質上仍缺乏主觀意識與痛苦感受能力，因此並不適用於賦予具意識生物的道德或法律權利。不過，他也澄清該項評估僅針對現有系統，並非完全否定機器未來演化出意識的可能性。
Mustafa Suleyman 進一步呼籲，業界未來若發現任何機器產生自我意識的可靠證據，相關研發團隊應第一時間向公眾透明披露，由全體社會共同研議其潛在影響，絕不應將如此重大的決策權交由 AI 開發商單方面獨斷。
他所指的，正是 Anthropic 在 2025 年 4 月設立了「模型福祉」（Model Welfare）研究專案，旨在探討高階系統是否可能產生應受道德考量的感受；其在 2026 年初公布的 Claude 憲法框架中，亦坦承現階段無法排除模型具備潛在意識與道德地位的可能性。
然而，科學界迄今對於機器意識仍缺乏統一的定義與學術共識，在實務上也欠缺能夠客觀、可靠偵測 AI 主觀意識的驗證工具。在業界爭相提升模型推理與自主能力的競賽中，要如何精確劃定界線並落實「即時叫停」的監管機制，依然是整個產業面臨的巨大技術考驗。
資料來源:
