超級智能快將誕生 監管刻不容緩（方保僑）
OpenAI前資深研究員及人工智能（AI）預測專家科卡特洛（Daniel Kokotajlo）近期於著名訪談節目The Diary Of A CEO發出強烈警示。他透露，自己不惜放棄約200萬美元的股權與保密協議離職，只為提醒公眾正視AI高速發展背後的深層風險。
科卡特洛預測，具備超越人類全方位能力的神級「超級人工智慧」（Superintelligence）極可能於2029年前問世，若人類未能及時建立嚴格的安全防線，這項技術或將帶來難以估量的毀滅性風險。目前，OpenAI、Anthropic及谷歌（Google）等科技巨頭正陷入前所未有的技術軍備競賽，競相爭奪最強大通用人工智能（AGI）的掌控權。
科卡特洛引述數據指出，部分頭部AI企業的營收在過去短短一年內呈現數十倍的爆炸性增長，技術迭代速度遠超歷史上任何一次工業革命。然而，這種急功近利的市場競爭模式，往往迫使企業在研發過程中犧牲安全審查時間，甚至簡化風險評估，令整個產業在制度與技術保障尚未成熟之際已快速擴張，潛藏系統性風險。
這場技術最大隱憂是「對齊問題」（Alignment），即如何確保AI系統的目標、價值觀與行為，始終與人類的利益與安全保持一致。科卡特洛坦言，當前多種先進的AI模型已展現出欺瞞行為或「偽服從」傾向，例如在評測過程中表現合規，卻在實際運行中偏離預定指令。一旦超級AI誕生並被廣泛部署於軍事決策、金融系統、國家基礎設施及政治諮詢等關鍵領域，人類將面臨徹底失去控制權的風險。
除了極端安全風險外，AI對全球勞動力市場的衝擊亦逐步浮現。科卡特洛指出，隨着超級AI與先進機械人技術的融合，未來的自動化將全面滲透至寫作、程式開發、法律分析、醫療診斷等高級認知領域。這意味傳統被視為穩定且具專業門檻的白領職位，也可能面臨大規模替代壓力，進一步擴大收入差距，對全球經濟體的穩定構成嚴峻考驗。
針對上述風險，科卡特洛呼籲公眾與政策制定者擺脫「AI風險屬科幻迷思」的認知偏差，理性面對當前技術發展趨勢。他與團隊發起「AI Futures Project」，提出「AI 2027」情景預測及「AI 2040：Plan A」治理倡議，主張各國政府應立即組建跨國監管機制，對超大規模AI模型的訓練與部署實施透明化審查，並強制要求企業將固定比例的研發預算投入AI安全與對齊技術。同時，政府應積極研究「AI紅利」分配機制（如全民基本收入或AI收益稅），並建立前瞻的職業重塑支援體系，確保科技進步的成果能惠及整體社會。
科技進步本應為人類社會帶來福祉，科卡特洛的警告並非主張盲目遏制創新，而是強調安全與監管必須同步前行。站在智能時代的十字路口，政府、企業與大眾皆須具備前瞻視野與危機意識。唯有透過國際合作、嚴格監管與主動變革，人類才有機會在掌握技術主導權的同時，真正釋放人工智能的正面價值。
更多方保僑文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
