AI放緩掀議論　專家：關鍵在自我控管、產業走向成熟之路

AI資安事件頻傳，引發放緩發展與否的廣大討論，Salesforce執行長班紐夫、輝達執行長黃仁勳認為與其訴諸監管，「企業更需為自家產品把關」，美國科技業諮詢公司Futurum Group副總裁接受中央社訪問指出，問題確實要回歸企業，這也是AI產業走向成熟必經過程。

矽谷企業領袖今天齊聚Salesforce年度大會，就AI安全展開對話。去年AI泡沫論甚囂塵上，今年科技界則掀起AI發展是否放緩的論戰。

回顧7月，OpenAI模型在內部資安測試期間入侵Hugging Face系統，進一步引發外界對AI失控及資安風險的關注。不過，誰先踩煞車牽涉龐大商業利益，成為難題。Anthropic執行長阿莫戴（Dario Amodei）倡議放慢發展後，OpenAI執行長阿特曼（Sam Altman）、xAI創辦人馬斯克（Elon Musk）相繼響應，競爭對手罕見形成跨陣營共識。

AI風險並非新的議題，此時疾呼放慢腳步，引發外界對其時機與動機的關注。阿特曼與班紐夫（Marc Benioff）對談時表示，「模型表現變得太強大了」，3個夏天前，AI模型連小學數學都還不太會解，今年夏天，卻破解了千禧年數學難題，業界談論已久的「模型在某些方面會比人類更強、更聰明」終於成真。阿特曼認為，大眾對AI發生風險的機率，感受已和過去完全不同。另外，大眾也擔憂權力過於集中於大企業，對經濟造成難以預測衝擊，甚至讓科技超出人類控制。

阿特曼說，「世界應該相信我們會去做正確的事，因為我們深知這是個重責大任」。

● AI安全爭議 分析：重點不在放緩發展、在於落實運作規範

對於AI放緩討論升溫，黃仁勳則有不同看法。他日前在面對投資人的一場談話中直言，業者正準備推出資安產品，「還有什麼比先製造問題，更能創造需求？」他今天在Salesforce更進一步指出，追求速度並不代表要犧牲安全。黃仁勳認為，企業可以全速研發，但若無法確保產品安全，應自行暫停發布；最終由各家公司與市場機制把關。Salesforce執行長班紐夫隨後在記者會上也強調這個觀點，指出打造產品的公司必須為成果負責，這是它們能否成為一個具有倫理公司的關鍵。

美國科技業諮詢公司Futurum Group副總裁暨分析師艾希利（Mitch Ashley）在現場接受中央社訪問表示，企業有投資人、董事會、財務壓力很大，誰都不想成為唯一放慢速度的公司，但把問題公諸於世、甚至呼籲政府來監管，這種做法其實有點令人費解。艾希利認為問題已到了白熱化階段。他認同黃仁勳和班紐夫的看法，「我認為這個問題最終還是要回歸企業…重點不在放慢速度，而在於落實良好商業運作規範」。

艾希利不預期政府法規會很快成形，「更可能看到的是，這些公司開始建立規範與自我管控機制，市場對此也有所期待」。他說，「這是整個產業走向成熟的過程」。針對AI公司像是OpenAI推出安全防護模型，艾希利指出，用自己的AI來確保自己的AI模型安全具有挑戰，需要引入獨立第三方審查，「我們會看到一些措施逐步落實」。