幸好攔截成功!AI濫用內容驚見病毒改造
AI公司Anthropic最新報告揭露,旗下聊天機器人Claude在過去八個月內頻遭濫用,違規行為涵蓋生物科學、武器開發與詐騙。其中,生物領域的濫用尤為嚴重,包括研究基孔肯雅病毒與禽流感等高風險項目,且部分指令源自軍事機構。針對此危機,Anthropic已上線全新分類器以強化攔截精準度,並將違規用戶通報執法單位。專家韋伯則呼籲,應嚴格限制高階AI模型使用權限,並建議全面禁止高風險國家使用,以防範AI被惡意操作,保障全球公共安全。
2026/09/11 12:10