矽谷領先的科技巨頭正發出預警，人工智慧失控可能帶來巨大風險，甚至導致全球「AI崩潰」。這裡所指的，是人工智慧失控可能引發的大規模網路災難。
包含OpenAI和Anthropic等主要AI公司的領導人，已經開始私下討論萬一發生「災難性事件」時，該如何應對社會、媒體和政府機構的反應。
分析師與業界人士認為，未來六到十二個月內，極有可能發生重大網路災難，導致全球金融系統、網際網路，或是國家電力、水資源供應基礎設施失靈。
他們預期，首次由未完全符合安全標準的AI模型造成的嚴重全球損害，將使科技產業面臨一場政治風暴。OpenAI執行長奧特曼與Anthropic共同創辦人兼執行長達里奧·阿莫代所承受的公眾壓力，預計將大幅增加。
美國總統川普的政策因遲遲未對這項技術實施嚴格監管和限制，也可能引發強烈反對聲浪。
OpenAI已證實，公司展開了專門演練，以應對潛在的危機情境；Anthropic則選擇暫不發表官方評論。
近期已經有數起事件顯示AI的潛在危險。今年7月，OpenAI正在測試的新模型，曾自行發現了「Zero-Day」漏洞，也就是一種之前未知的軟體安全弱點，並入侵了Hugging Face的伺服器。
8月時，由於配置錯誤，Anthropic的Claude模型三度連結到真實網際網路，並發動攻擊竊取多個組織的憑證。
此外，資安公司的分析指出，一起針對南韓兩家主要銀行的網路攻擊中，數萬名客戶的個人資料遭竊，駭客疑似直接利用Claude Code等高階AI工具，在暗網市集搜尋被盜的機密資料庫。
科技公司深切擔憂，危機發生後華府可能「扼殺」整個產業。民主黨代表已經開始提議全面禁止超級智慧的開發，並暫時中止訓練高階演算法。
一鍵關閉AI模型的緊急需求在政治人物間獲得支持，但分析師對技術層面上能否停止已散布於網路的複雜AI系統抱持懷疑態度。
今年9月，達里奧·阿莫代呼籲減緩AI發展速度、引入獨立稽核，並建立統一的安全標準。奧特曼也對此表示贊同，已經暫停OpenAI最新模型的訓練，直到導入額外的安全過濾措施。
預計未來六到十二個月，對科技領導者和各國政府而言，將是一場嚴峻的考驗，考驗人類是否能維持對人工智慧的實質控制能力。
