《人本AI行為準則》|微軟「AI憲法」 須由人類掌控
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
新聞網站Business Insider引述微軟(Microsoft)行政總裁納德拉(Satya Nadella)內部通告指出,需要明確設計人工智能(AI)目標,讓技術廣泛惠及社會的同時,亦須確保客戶控制自有資料,並透過分享地方經濟效益,爭取民眾支持建設數據中心。
納德拉強調,「AI一定要維持在人類控制之下……這意味着要建立一個前沿AI生態,讓閉源與開源模型都能並行發展。」又稱接受第三方監測是一件好事,因為風險愈大,開發商就愈應花時間處理模型對齊。
納德拉提到,微軟同日公開的《人本AI行為準則》(Humanist AI Code of Conduct),文件起草期間諮詢了AI、法律、倫理、哲學、語言學和公共政策專家,目前仍然處於草案階段,將進行為期6周的公眾諮詢,後續再按回饋修訂。
文件分為5個部分:第一部分界定「人本AI」使命及主要目標,第二部分列出安全規則、指令層級及不可逾越的「絕對限制」,第三部分提供操作指引以處理不同難題,第四部分設定預設行為,第五部分交代未解問題及後續工作。
反對賦予模型福祉與權利
《準則》特別提到,「人本AI」須以現實世界影響作為評估準則,拒絕「為追逐超級智能而犧牲安全保障」,明言「即使捨棄通用性、自主程度或能力,也得優先確保AI是真正有用和安全」。
微軟人工智能(Microsoft AI)行政總裁蘇萊曼(Mustafa Suleyman)向路透表示,該文件將成為模型訓練的「憲法」。比對先前Anthropic公布的《Claude憲法》,微軟文件今次明言AI僅為人類工具,並反對賦予AI人格、福祉和權利。
支持EJ Tech
如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們。



















