AI教父後悔置人類於險境 離開谷歌暢所欲言 促全球監管
原文刊於信報財經新聞「StartupBeat創科鬥室」
被譽為「人工智能（AI）教父」的辛頓（Geoffrey Hinton）博士，以研發神經網絡等技術見稱，為ChatGPT、Bard等聊天機械人奠下基礎。美媒《紐約時報》提到，這位深度學習的泰斗近日承認，已離開効力10年的谷歌（Google），對自己畢生的工作深感後悔。他警告AI威脅迫在眉睫，無法提防壞人用它做壞事，若然沒有某種全球監管，這場競爭將不會停止。
威力如原子彈 影響更難控制
現年75歲的辛頓受訪時提到，各大科企致力改進AI，對比5年前與今日，其危險程度與日俱增。畢竟，現時不論個人及公司，都容許AI系統生成代碼，甚至讓它自動執行。他擔心有朝一日，AI比人類更有智慧，甚至衍生殺手機械人，足以威脅人類存亡。他把AI技術比喻為原子彈，不過局面更難控制：「與核武器不同，沒有辦法知道公司或國家是否秘密研究這項技術。」
話說上世紀八十年代，美國大多數的AI研究都是由國防部出資。辛頓強烈反對在戰場使用AI，他不願接受五角大樓資助，因而離開並前往加拿大。其後，他與多倫多大學兩名研究生Ilya Sutskever及Alex Krishevsky於2012年建立了一個神經網絡，可以分析數千張照片，並自學識別花朵、狗隻、汽車等常見物體。2013年3月，3人創辦的DNNresearch被谷歌看中，以4400萬美元（約3.4億港元）將之收歸旗下。
機緣巧合下，Sutskever成為OpenAI聯合創辦人兼首席科學家，即研發ChatGPT背後功臣之一。時至2018年，辛頓與另外兩位長期拍檔獲頒被譽為「計算領域諾貝爾獎」的圖靈獎。
門生有份創辦OpenAI
今年3月，OpenAI發布新版本ChatGPT後，逾千名技術領袖及研究人員網上聯署一封公開信，敦促所有AI實驗室至少6個月內暫停訓練比GPT-4更強大的AI系統，惟辛頓未有簽名。
辛頓提到，網上充斥虛假的照片、短片及文字，普通人將「無法再辨別真偽」。最近美媒《華爾街日報》專欄作家Joanna Stern，就分別以Synthesia、ElevenLabs及ChatGPT，創建了一個AI分身AI Joanna，不但複製了她的外表及聲線，只須打字便會朗讀內容，連朝夕相處的家人也難分真假，更騙過銀行的語音識別系統。
作為ChatGPT的軟件開發商，美企OpenAI上周五（4月28日）獲得新融資3億美元（約23.4億港元），最新估值達到270億美元（約2106億港元）。世界經濟論壇（WEF）周一有報告稱，AI將在5年內令全球淨減少1400萬份工作。無獨有偶，國際商業機器（IBM）行政總裁克里希納（Arvind Krishna）昨向彭博稱，集團擬暫停招聘7800個職位，相關工作職位將轉由AI取代。
籲科學家合作控制技術
《紐約時報》文章刊出後，辛頓於私人Twitter澄清，谷歌的行為非常負責任。今次他決心離開公司，旨在可以暢所欲言地對外談論AI的風險，並非存心批評谷歌。他指出，很多人認為AI比人類聰明，起碼還要30至50年時間，但如今發現AI的來臨比他之前想像的更早。最後，他期望全球科學家加強合作，在無法確保能控制AI之前，不應該擴大技術的規模。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
