港AI協會推指引｜促企業問責風控 夥本地學者制定 參考國際監管準則
原文刊於信報財經新聞「CEO AI⎹ EJ Tech——未來報告」
不少機構外購人工智能（AI）工具，部署及使用責任往往不明確。香港人工智能協會（AIHK）昨發布《企業及機構負責任採用人工智能指引》，讓機構建立有效管治。AIHK創辦人兼主席陳文理提到，這份AI指引是自願性文件，任何人都可以使用。在現行要求之外，指引建議機構自願採取進一步措施，例如對接ISO/IEC 42001國際標準，以及主動標示AI生成內容。
指引由AIHK及其安全及管治委員會制定，委員會滙聚香港大學、科技大學、浸會大學、嶺南大學等院校的知名學者。指引建基於香港現行監管及政策基礎，包括私隱規定、AI管治要求及各行業監管標準，涵蓋《個人資料（私隱）條例》及數字辦的《人工智能道德框架》，並參考歐盟、美國、英國、中國內地、日本、南韓及新加坡等市場國際做法。
涵蓋金融物流醫療等領域
涵蓋對象由上市公司以至中小企，涉及金融服務、零售、物流、醫療及專業服務等領域，把數據私隱、知識產權、網絡安全、公平性及第三方依賴等風險整合為一套實用框架，為機構提供共同的AI決策起點。AIHK期望指引能夠把政策帶來的動能，轉化為實際行動，涵蓋問責、風險分類、供應商盡職審查及AI代理管控，為機構提供由政策方向，邁向負責任採用的清晰路線。
指引核心原則可概括為三點：第一是「問責」，組織必須對AI使用及其商業成果負責，明確期望達成的目標；第二是「與風險成比例的控制」，不同規模與風險程度的機構，不應採用同一套嚴格標準。大型銀行與街角小店，彼此的合規要求顯然不同，控制措施必須匹配實際風險；第三是「實務起步」，指引提供90天行動計劃，強調可執行性，解決許多司法管轄區「有指引卻難以落地」的問題。
圍繞「實務起步」這項核心原則，指引列出4個實務步驟。第一是指定負責任高管與用例負責人，解決跨部門無人負責的問題；第二是設定批准工具、數據邊界與員工使用規則；第三是建立AI清單、風險篩選與事件應變機制；第四步是培訓用戶，並訂定測試與批准要求。目前最大挑戰，往往是員工訓練不足，以及對「AI取代工作」的恐懼，心態轉變與技能提升同樣重要。
AIHK提出管治AI代理
陳文理表示，過去AI主要用於生成內容，如今進入「代理」（Agent）階段，AI能主動採取行動，例如使用信用卡交易、將內容部署至多個平台。這種轉變帶來新的風險：當代理被授予存取權限後，若發生錯誤交易或資料外洩，責任歸屬與人類問責，必須清楚界定。建立清晰的權限與問責機制，成為當務之急。
當AI代理被賦予讀取賬戶、改寫紀錄，或執行交易權限時，風險顯著上升。陳文理指出，風險控制措施分為「基準」、「提升」與「高影響」三個層級。當涉及人員、金錢、安全或權利時，需要更嚴格控制。有見及此，指引提出KYA（認識你的代理）概念，類似銀行的KYC（認識你的客戶）與KYB（認識你的業務），預期將成為未來數年管治重點。他強調，組織必須清楚界定代理的目的、可用工具、存取範圍、限制與禁止行為，保留隨時停止的能力，同時善用沙盒環境測試。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
