AI安全｜紐約審議AI法案 四巨頭受質詢
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國紐約市議會周一就人工智能（AI）安全舉行聽證會，傳召OpenAI、Anthropic、Google及Meta政策人員出席，並審議10項監管AI法案。上述四大科企代表透過視訊宣誓作證，議員要求他們說明AI模型失控、透明度不足及安全防護等問題，同時追問業界如何評估AI可能造成重大傷害的風險。此外，《財富》（Fortune）雜誌報道，3名前AI實驗室研究員向議員警告，業界正開發的安全修復措施，可能只是「權宜之計，過不了多久就會失效」。
3前研究員再警告滅世風險
Anthropic前研究員考克森（Jacob Coxon）直言，AI產業的做法「極其鹵莽」，人類很可能失去對AI的控制，最終或導致人類滅絕。OpenAI前研究員科卡特洛（Daniel Kokotajlo）批評，「AI產業面臨異常高的風險，即錯誤地認為自己已解決了問題，實際上只是貼上一些膠帶，這些膠帶以後還會脫落。」
谷歌DeepMind前研究員特納（Alex Turner）認為，AI接管世界的機率約三分之一，又指「中國並非我們唯一潛在對手。很有可能，我們正在國內競相壯大自己的對手，那就是失衡的人工智能。」
SpaceXAI未按傳票出席作供
被傳喚作證的公司中，SpaceXAI收到傳票但未出席，議長梅寧（Julie Menin）計劃訴諸法律。聽證會審議10項監管AI法案，其中一項是未經第三方驗證，在紐約市推廣、銷售或部署AI模型均屬違法行為。
此外，模型還必須具備人工關閉機制，驗證人員將檢查任務執行、數據私隱及安全等方面。任何未經驗證而提供的模型，都將被處以2.5萬美元的固定民事罰款，法案將在生效後180天正式實施。
另一項法案將容許任何人，向市內消費者保護部門舉報AI違規行為，舉報人將獲得追回款項的25%，如果提出訴訟則可獲得50%。其他法案要求市政府承包商及機構，必須24小時內報告AI安全事件。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
