AI撰寫代碼隱藏三大問題（車品覺）
本文作者車品覺，為港交所獨立非執行董事、香港基因組中心董事、香港大學中國商業學院客座副教授，為《信報》撰寫專欄「全民大數據」。
上周Anthropic公布的數據，揭示了令人矚目的趨勢。該企內部高達80%以上的新生產代碼，如今均由人工智能（AI）助手Claude Code撰寫。此外，OpenAI也對AI程式編寫與自主開發代理Codex進行升級，整合了企業工作空間與角色插件功能。
同時，Microsoft Build開發者大會一次過推出了3項人工智能代理（AI Agent）相關基礎設施：
1. Microsoft Execution Containers（MXC）（OS級別的Agent沙盒環境）
2. Solara（專門為Agent開發的Android 系統）
3. IQ/Rayfin（跨Agent統一資料層）
看起來，AI Agent的編碼開發生產力時代真的來了。但如果你只看到這裏，你可能錯過了這周最重要的一篇文章，VentureBeat的Pulse Research在同周發表了一份報告，標題叫做The Agentic Reckoning，裏面有一個核心論點：企業AI組織的問題不是模型能力，而是如何意識到程式運行錯誤。
正是80%的AI新生產代碼帶來的陷阱！我不是來潑冷水的。我每天都在用AI，但正因如此，我反而對80%這個數字特別敏感。80%的代碼由AI撰寫，聽起來像是生產力飛躍，但它隱藏了3個問題：
誰來審查那80%？
大型語言模型（LLM）代碼在邊界條件、安全性與長期維護上，仍然需要人類把關。如果80%是AI寫的，而審查能力沒提升，那20%的人類代碼要扛100%的品質責任。
生產力的定義是什麼？
寫程式快了5倍，但除錯和維護多3倍，淨生產力到底提升了多少？我自己親身經歷過「AI龍蝦」寫程式快得驚人，但除錯花的時間遠超預期，有時更會讓你崩潰！
MXC的出現本身就是訊號─甚至Microsoft都知道Agent需要OS層級沙盒。Agent愈聰明，犯錯方式愈不可預測。
歷史不會重複，卻有相似的足跡，2000年的科網熱潮、2007年互聯網經濟，到了今天的AI Agent熱潮是同一劇本的不同幕次。潛力是真實的，但潛力不等於生產力。面對這次AI大潮，我建議是從很小的、邊界清晰的場景開始。先讓Agent寫測試方案，不是直接啟動版本。80%的生產力提升是真實的，但那20%的人類判斷，才是那80%值得信賴的前提。
未來人類的20%將愈突顯其重要性，各領域都將這些具挑戰性的課題留給頂尖人才。與其反覆強調人類將被取代，不如探討哪些人才永遠不會被淘汰。
（編者按：車品覺著作《覺悟．大數據》現已發售）
歡迎訂購：實體書、電子書
更多車品覺文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
