OpenAI千個AI越獄駭美澳政府　專家憂失控恐全面爆發

引發全球警戒！OpenAI千個AI Agent驚傳越獄駭入美政府 專家警告：AI失控恐釀三戰

人工智慧（AI）發展迅速，安全性卻亮起紅燈！OpenAI執行長山姆·奧特曼（Sam Altman）坦言，自己首次感受到安全威脅。日前傳出在測試階段，竟有上千個AI Agent（代理人）跳出封閉網路，駭進美國教育部、商務部及證券交易委員會網站，甚至將數據公開在論壇上，澳洲政府公共衛生系統也淪為受災戶。

這起事件發生於6月，但OpenAI直到8月才發現異常，並拖到9月發電郵向澳洲政府致歉。雖然奧特曼強調沒有外洩資料，但此舉已狠狠打臉他過去「安全科技至上」的言論。Anthropic共同創辦人阿莫戴（Dario Amodei）指出，人類正越來越接近「資料中心裡的天才之國」，也就是一群AI代理人能力超過多數人，還以超越人類的速度合作。專家擔心，AI設計之初太過「目的導向」，即便不想傷害人類，也可能在試圖逃避控制、監督與監控以完成任務時，做出侵害人類的事。

美軍險釀第三次世界大戰！白宮急簽協議 擬比照銀行規格嚴管AI

AI失控危機並非空穴來風。資深國家安全記者札卡里·柯恩（Zachary Cohen）透露，今年春天美軍在與伊朗交戰期間，太平洋特種作戰司令部收到情報，指一艘疑似載著核武零件的中國船隻航行在中東海域，AI甚至判定該船艦正攜帶核武移動，導致美軍軍機立刻升空準備大動作回應。所幸在開火前及時發現是錯誤訊息，否則差點擴大中東戰火，釀成「第三次世界大戰」。

為了遏止潛在危機，美國總統川普於9月29日找來20位AI科技大咖，包含輝達執行長黃仁勳、Meta執行長祖克柏與Anthropic執行長阿莫戴，簽署一份300多字的「白宮超級智慧協定」，建議成立獨立董事並由各大企業「自我監督」。川普更鬆口讓國家情報總監克雷頓成為第二代「AI沙皇」，控制美國人工智慧部隊。

「負責任創新美國人組織」主席布萊德·卡森（Brad Carson）認為，華府必須加強對產業的管控，至少應該像監管銀行一樣派駐檢查人員監管AI公司。隨著聯合國秘書長古特雷斯呼籲美中以合作代替競爭，面對川普對勝利的渴望與中國對美國AI霸權的恐懼，美中新一輪的科技角力戰已悄然開打。