管治AI代理「團隊記憶」（車品覺）
本文作者車品覺，為港交所獨立非執行董事、香港基因組中心董事、香港大學中國商業學院客座副教授，為《信報》撰寫專欄「全民大數據」。
這周，某大型科技公司設計了一套讓人工智能代理（AI Agent）共享「團隊記憶」的開源系統。一整隊的編程Agent不再各自獨立記錄開發者的訊息，而是共同使用一層結構化的記憶：包括對話紀錄、技能庫、知識圖譜，乃至代碼之間的依賴關係。尤為引人注目的是，該項目在GitHub發布後便迅速攀升至榜首。
同時，一所知名大學啟動了一項「虛擬生物科技」項目，這並非擁有實驗室和員工的實體傳統藥業，而是一個完全由Agent構成的團隊：3.7萬個Agent協同運作，負責藥物設計、模擬驗證工作。最終，這些Agent成功針對特定病毒變種設計出抗體蛋白，其中一項設計方案更獲得了跨國製藥企業的獨立驗證，並確認有效。
兩件事放在一起，可觀察到一個趨勢：Agent正在從「獨立工具」轉型為「團隊成員」。人類團隊的記憶本就是分散的，散布在會議紀錄、電子郵件以及每位成員的腦海中，依靠制度、信任與默契來維繫。正因為這種分散性，治理才顯得重要：誰擁有查看、修改權限、又有哪些資訊應被遺忘。
現在Agent已具備「團隊級記憶」能力，它們記錄的不僅是程式碼，更是整個團隊的決策脈絡、技能組合，乃至「誰曾執行什麼任務」。此舉看似極大提升效率，卻也引發質疑：當一個Agent能左右整個團隊的紀錄，應由誰負責監督？
有業界評論指出，這個系統目前「尚缺乏治理機制」以應對記憶失誤，例如一個Agent記錄了一件錯誤的事，隨後將這份錯誤資訊傳播給整隊Agent。若在人類團隊中，此類狀況通常會被質疑、糾正，並留下「此人不值得信賴」的評價。
讓筆者把Agent團隊記憶的治理，分為3個層面來探討：
1. 存取權限。誰具備團隊記憶的讀取及寫入權限？人類團隊設有保密協議與權限等級劃分，若Agent記憶層缺乏相應管控機制，等同將整個公司的決策流程，完全公開給所有Agent。
2. 記憶的準確性。當Agent記憶出現錯誤，責任歸誰？人類團隊可透過審查、交叉核對以及「對此數據存疑，需再次確認」的文化來確保準確性。Agent記憶層需要類似機制，但難度更高，因為錯誤記憶會如病毒般自動擴散，甚至演變為「虛假共識」。這需要建立驗證規則、版本控制，甚至「遺忘機制」。
3. 記憶的所有權。此團隊記憶歸誰？是公司，還是某個Agent供應商？當記憶儲存於第三方雲端平台，你甚至將失去對自身決策流程的掌控權。
如果你正將大量Agent引入團隊，我建議先明確哪些數據（記憶）應當共享，這如同管理人類團隊，你不會讓每位成員接觸所有機密資料或隨意修改公司紀錄，更不會容忍錯誤訊息在團隊內傳播。由此可見，人工智能治理尚處於起步階段，值得人們駐足深思。
（ 信報新書推薦：車品覺新作《全民AI︰人機協作必備攻略》，VIP特惠$166書）
更多車品覺文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
