數學新星投身OpenAI｜誓阻AI滅世 齊默曼剛獲菲爾茲獎 憂大模型失控
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
加拿大多倫多大學數學系教授齊默曼（Jacob Tsimerman），上月獲頒數學界最高榮譽「菲爾茲獎」（Fields Medals）。他認為，人工智能（AI）技術事關重大，可能會徹底改變每個人的生活，甚至危及生命安全。有見及此，他毅然放棄數學研究，投身美國科企OpenAI，決意從事AI的安全工作。他未來工作目標之一，是創建更嚴格的驗證流程，以可控、科學的方式測試AI能力，確保強大的AI模型不會失控。
現年38歲的齊默曼，1988年在俄羅斯出生，母親是高中數學老師，父親是電腦科學家。他3歲時隨家人移居以色列，後來在加拿大長大。高中時期，曾兩度獲得國際數學奧林匹克競賽金牌，16歲起在多倫多大學研習數學，在兩年內迅速獲得學士學位，其後在學術界扶搖直上，在普林斯頓大學取得博士學位，再回到多倫多大學擔任教授。時至2021年，齊默曼與兩位作者發表論文，完整證明安德烈—奧爾特（André-Oort）定理，解開了數學界一大謎團。
人類數學能力將被超越
純粹數學取得的突破，往往為重大科技進步鋪路，儘管有時果效須待幾十年後才會顯現。例如十九世紀的數論，是當今密碼學的基石；如果沒有「非歐幾何」（non-Euclidean geometry）的研究，今天就不會出現谷歌（Google）地圖，電腦科學和機器學習也是如此。在今年5月，OpenAI一個通用推理模型，成功破解一個困擾數學界近80年的難題：「平面單位距離猜想」（Erdős Unit Distance Problem）。
OpenAI模型之所以能破解單位距離問題，不僅是代表它可能比人類更聰明，還證明它能夠作更長時間連貫思考。當OpenAI展示模型的推理過程，其邏輯鏈長達125頁。齊默曼不諱言，「讀到第12頁，我就已經頭痛了。」他預計，AI有望在幾年內超越人類的數學能力，承認現時的工作很快就無以為繼。他向科技媒體New Scientist表示，AI正處於一個關鍵時期，發展速度也非常快，「如果你擔心，人類會失去控制甚至死亡，那麼風險就非常大。」
曾發論文設想「智能殺機」
時至2025年7月，齊默曼再合著一篇論文《涉及人工智能的滅世未來分類學》，當中探討AI導致「全族滅絕」或人類滅絕的不同場景。這些場景涵蓋範圍很廣泛，其中一種是無意的全人類滅絕，即AI技術對人類漠不關心，降低了糧食生產的優先等級，造成毀滅性後果。另一種是故意的全人類滅絕，即AI代理突然反噬人類，決定終結人類文明。此外，還有一些偶然事件，例如國家利用AI發動戰爭。
論文設想多種反烏托邦情景，甚至描述了一種情況，「一個受限制但被設計用來運行的平台，它突破了自身限制，啟動另一個在網上擁有更大自由度的AI，這兩個AI控制了互聯網，最終導致與人類發生實際衝突。」近期接連有AI先進模型，突破沙盒限制並入侵公司，對於AI帶來安全隱患，齊默曼擔心這一切最終走向何方，「我是人類，我了解人類，我們生活在這裏。所以，我想保護他們。」
齊默曼認為，現時的討論大多停留在AI是否具備意識或創造力等議題上，而真正需要的是更實際、更具操作性的東西。他舉例，「你可以設定一個按鈕，只有在特定條件滿足時才能按下。這樣，無論你的模型是什麼，它都不能按下這按鈕。」
他建議，各國政府及國際委員會，對於即將發布的任何AI模型，都應該進行此類測試。重點並非引發恐慌，而是提供足夠的細節，以便研究人員制定應對及預防措施。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
