Don't Miss
智能爆炸｜22科技領袖籲警惕「智能爆炸」
By 信報財經新聞 on September 30, 2026
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
英國劍橋大學人工智能（AI）科學與政策計劃發表文章，警告AI研發自動化可能引發「智能爆炸」（Intelligence Explosion）風險。22位署名作者包括「AI教父」辛頓（Geoffrey Hinton）、Anthropic共同創辦人克拉克（Jack Clark）及OpenAI首席科學家帕喬基（Jakub Pachocki）。
「智能爆炸」是指AI驅動自身技術發展速度大幅加快，令原本需時數年的進展，壓縮至數月甚至更短的時間。「智能爆炸」雖可提前帶來醫療、科學及新技術突破，但亦可能令先進AI風險更早出現，包括生物及網絡攻擊、勞動市場衝擊等，以及人類失去對AI系統的監督和控制。
文章引述Anthropic數據稱，2025年初至2026年5月間，該企由Claude撰寫的程式碼比例，已由個位數升至逾八成；今年3月至8月間，自主研發比例也從1%升至26%，反映AI愈來愈擅長及快速處理AI研發，長遠將形成「遞歸反饋循環」（Recursive Feedback Loop）。
模型自我加速進化 宜早約束
不過，一眾作者同時指出，「AI研發自動化帶來的生產力提升，尚未達到觸發智能爆炸所需的閾值」，而且有4項阻力可能拖慢其進程，分別是研究邊際收益遞減、算力不足、訓練數據受限，以及部分任務難以自動化或本身耗時較長。
文章結論強調，當局要在「智能爆炸」發生之前做好政策準備，包括掌握企業內部AI研發自動化情況、建立引導和約束「智能爆炸」的方法，以及設法適應其社會與政治影響，如加快機構響應速度、維護權力制衡、強化公民社會能力等。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
