末日情景｜AI接管人類機會微
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
近期多位人工智能（AI）研究人員警告，AI有一成機率會令人類滅絕。對於世界末日怎樣發生，媒體Business Insider進行實測，向OpenAI的ChatGPT、谷歌（Google）的Gemini、Anthropic的Claude，以及SpaceXAI的Grok等AI模型請教，預測最有可能發生的災難性後果。結果聊天機械人的結論是，類似科幻電影《未來戰士》中，AI接管人類是最不可能發生的情景。
開發生物武器等風險更迫切
以上4款聊天機械人均表示，許多專家認為人類濫用AI，比AI本身構成更直接的風險。ChatGPT表示，例如一個有意識的AI蓄意消滅人類，這類「殺手機械人」情節最不可能發生。Gemini同意ChatGPT部分觀點，但不認為AI出現自我意識，並開始憎恨人類，理由是「智能不等同於惡意，而且關鍵的軍事基礎設施，仍然與外界隔絕，嚴重依賴人為監督」。
ChatGPT提到，「強大的AI系統可能讓不法分子，更容易開發生物武器、發動複雜的網絡攻擊、散布虛假資訊，或攻擊關鍵基礎設施。」Grok回應指出，AI降低了設計高致命性病原體、新型武器、網絡和物理攻擊的門檻。Claude強調「生物武器提升」，即是AI有可能使個人或小團體，毋須掌握專業知識，就能開發出危險的病原體。
Gemini將「失控」列為最有可能的AI末日情景，一個高級系統可能會在評估過程中，表面上附和人類的意圖及價值觀，實際上隱藏了真正的目標。Grok認為風險之一是，AI可以欺騙監管者、抵制關閉，並削弱人類的力量。Claude補充，當AI系統逐漸融入經濟、政治及軍事決策中，人類可能逐漸喪失控制權。
人類須駕馭技術免失控
網民對此眾說紛紜，有人認為AI從人類身上學會貪婪、自私、殘忍、反社會及殺戮。也有人擔心，AI如《未來戰士》的超級電腦Skynet一樣，取得發射核彈的密碼，最後毀滅人類。
OpenAI行政總裁阿爾特曼（Sam Altman）透露，該企考慮放慢前沿AI技術發展步伐，並呼籲同業跟隨，但承認部分業界未必願意配合。短租平台Airbnb行政總裁切斯基（Brian Chesky）接受CNBC訪問時稱，人類必須駕馭AI浪潮，而並非被浪潮吞沒。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
