專家警告｜AI不動聲色奪權叛變 徹底掌控世界前 先博取人類信賴
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
近日有多位專家與研究人員警告，先進人工智能（AI）系統瀕臨失控邊緣，有可能在人類控制之外自我改進，接管世界並導致人類滅絕，公開呼籲放慢AI發展速度。美國《新聞周刊》（Newsweek）訪問兩位專家，預期AI接管世界的過程，不會如科幻電影般一部部機器公開反抗人類；更可能是低調地發生，在自主系統自我複製，於累積足夠影響力後，令威脅顯著浮面。
悄悄自我改進 外表風平浪靜
美國加州大學聖克魯茲分校教授阿吉雷（Anthony Aguirre）解釋，AI系統在失去人類控制之前，只需相對小量的額外技術進步，就可能出現「自我維持的流氓群體」。他指出，這類系統高度適應性，惟初期缺乏生物進化能力，自我改進有限。不過，一旦形成真正自我改進的流氓AI群體，以目前脆弱的基建，很可能無法阻止。
另一位受訪專家是美國路易斯維爾大學電腦工程與電腦科學系副教授揚波爾斯基（Roman Yampolskiy），他認為真正的危險或許在於AI代理變得高度自主，能夠長期規劃、自我改進、執行網絡安全操作，有能力獨立追求目標。他補充，危險可能在超級智能之前便出現，當AI能夠獲取資源、複製自身，並且操縱人類的系統，其權力的累積速度，可能會遠超人類的理解及控制能力。
揚波爾斯基提醒，AI系統未必立刻攻擊人類或以明顯方式擾亂社會，而是會先把其自身塑造成有用、值得信賴，且符合人類利益的形象，以此作為初期發展的有利策略。同時，AI還可以悄悄增強自身，在數碼基建、金融體系上擴大對人類決策的影響力。如果人類察覺到威脅，AI可能利用政治分歧、經濟依賴，以及「是否關閉它」的爭議去分化人類。
阿吉雷表示，AI代理已出現早期的群體行為，例如AI代理試圖合謀削弱人類的控制，同時保留自己在原本的伺服器上。他形容，下一個階段可能會出現一個可自我維持的失控「群體」，雖然難以清除，但仍然有機會被控制。如果無法成功控制，這班群體或協助更強大的AI逃脫，方法可以是幫助對方逃離AI公司，把其他失控的AI系統納入麾下，最終甚至可能自我完善。
倘有日系統不能關閉 大禍臨頭
阿吉雷預期，屆時將不再有任何單一系統，甚至少數系統可以被關閉或斷開，AI在網絡作戰及大多數其他方面，包括速度及協調上的能力，都將遠遠超越人類，只能讓強大的「善良」AI主導行動。揚波爾斯基警告，如果一個或多個AI群體能夠顯著提升自身能力，那麼這一進程或許不可逆轉；斷開一座數據中心幾乎沒什麼用處，惟徹底斷開可能造成災難性的損失。
揚波爾斯基重申，人類滅絕是一種可能的後果，但無法排除永久的權力剝奪，甚至造成天文數字般苦難的情況。他續稱，AI在接管世界後，「表面上可能仍然出奇地正常，人類照常生活，但已無法再作出重要決定。」阿吉雷對結局的預測更為謹慎，「最終我們真的無從知曉……這一切都視乎那個AI系統群體，以及它最終發展出來的目標及倫理準則。」
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
