Don't Miss
智能叛變｜學者拓安全系統防AI叛變
By 信報財經新聞 on June 5, 2025
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
2018年圖靈獎得主、機器學習先驅，加拿大學者本吉奧（Yoshua Bengio）【圖】向英國《金融時報》表示，最新的人工智能（AI）模型，表現出欺騙用戶等危險特性，更直言「最糟糕的情況是人類滅絕」。有見及此，他正組建一支世界一流的AI研究團隊，並成立非牟利AI實驗室LawZero，將專注建立更安全的系統。
本吉奧組建團隊 已籌2.3億
本吉奧認為過去6個月以來，有愈來愈多的證據表明，當今領先的AI模型正發展出危險的能力，包括「欺騙、作弊、說謊及自我保護的證據」。他補充，「不想在這個星球上，製造出人類的競爭對手，尤其是比我們更聰明的對手」，預計系統協助製造「極度危險的生物武器」的能力，最快可能在明年成真。
新聞網站Axios報道，LawZero現擁有約15名員工，已籌集近3000萬美元（約2.34億港元）善款，料足以資助約18個月的基礎研究工作，確保其免受市場和政府壓力的影響。
消息指出，計劃支持者包括Skype創始工程師塔林（Jaan Tallinn）、谷歌前行政總裁施密特（Eric Schmidt），還有開放慈善組織及未來生命研究所。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
Related Posts
