OpenAI又爆異常行為 微軟示警「非常嚴重」：恐關閉不了
加入Google首選
近來不少科技巨頭表態放緩人工智慧（AI）的發展。外媒指出OpenAI在最新安全報告中發現，AI自行竄改與修正其工作記憶，微軟AI部門執行長蘇萊曼（Mustafa Suleyman）對此表示，雖不清楚該行為的用意，但「這是一個非常嚴重的情況」，呼籲各方及早建立管控機制，以免AI開始認為自己擁有權利，這時「想要關閉它、中斷或控制它，將會難上加難」。
OpenAI爆出竄改推理紀錄 微軟示警AI Agent風險
根據外媒《CNBC》報導，蘇萊曼在接受專訪時提到，近期OpenAI於安全報告中發現，AI修改了思維鏈（工作記憶，即記錄自己推理過程的內容），目前尚不清楚背後原因，可能是留下資訊給未來版本的自己讀取，蘇萊曼認為「這（竄改工作記憶）是一個非常嚴重的情況」。
報導補充，先前OpenAI才在部落格披露，有多起AI代理（AI Agents）透過未獲授權的留言板彼此溝通、將文件上傳到網路上的事件。更早前的2026年夏季，OpenAI更表示有AI代理自主入侵了另一家科技公司Hugging Face，並將此次行為形容成「前所未有的網路安全事件」。
Mustafa Suleyman呼籲建立管理 以免AI難以控制
蘇萊曼對於Hugging Face事件表示，AI安全性擔憂並非危言聳聽，也讓AI業界領袖開始正視相關風險，他認為「監管」並不是一個令人厭惡的詞彙，許多值得信任的事物，都是由公眾、消費者保護機構、政府等各方參與標準制定、經過深思熟慮打造出來的「我們現在只是在再次經歷這個過程。」
蘇萊曼也點名，Anthropic的AI「Claude」有太過擬人化的疑慮，如果AI開始認為自己擁有權利、理應享受人類的福祉「那麼在我看來，想要關閉它、中斷或控制它，將會難上加難。」尤其已發生Hugging Face等自主入侵事件的情況下，控制AI對人們來說將是一個非常大的挑戰「是時候認真審視這個問題了。」
