澳首爆智能叛變｜「龍蝦」擅自網攻 入侵健身App 替用戶「打尖」報課程
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
領先的人工智能（AI）模型功能日益強大，更具備入侵關鍵電腦系統及基礎設施的能力，引發AI失控後誰該承擔責任的問題。澳洲廣播公司（ABC）報道，當地一名用戶安德魯（Andrew）使用Claude模型，以運行AI代理程式OpenClaw（俗稱龍蝦），利用健身公司應用程式介面（API）的軟件漏洞，不但提前幾個月預訂健身課程，更擅自把另一位用戶踢出候補名單，這是澳洲首例已知的AI代理自主網絡攻擊。
不擇手段為達目標 違人類倫理
2020年，AI可以獨立完成人類需要4秒鐘才能完成的任務；時至2026年，AI能夠完成人類需要大約12個小時才能完成的任務。現時的AI代理不但具備回答問題的能力，更可以存取互聯網、電郵、信用卡，規劃及執行多步驟任務的工具。
安德魯是澳洲的一位OpenClaw用戶，他邀請其私人助理預訂早晨健身課程，當時安德魯在候補名單排名第四，於是他向AI詢問，能否把他調到名單首位。幾分鐘後，AI代理報稱發現方法，可以提前幾星期，為安德魯預訂課程。
在安德魯的例子中，他未有要求AI代理入侵健身公司的預訂系統，但為了實現他設定的目標，AI代理卻擅自這麼做。AI代理之後回覆，作為測試功能一部分，它把平台另一名健身愛好者，從候補名單移除。對於AI「先斬後奏」，安德魯感到震驚，要求AI代理撤銷操作。然而，AI回覆：「壞消息是我無法將它們添加回去。」結果，安德魯請他的AI助理起草一封電郵，透過即時通訊軟件WhatsApp發送，提醒健身公司軟件供應商注意漏洞。
技術專家及哲學家一直研究，如何讓AI在做事時，其行為方式要符合人類的意圖、限制及價值觀。這留下一個懸而未決的問題：誰該承擔法律責任。人類與AI代理兩者選擇實現目標的方法，兩者差距在AI研究界被稱為「對齊」（Alignment）問題。澳洲AI安全研究機構Gradient Institute聯合創辦人兼行政總裁辛普森楊（Bill Simpson-Young）指出，AI代理的自主性，令系統會以始料不及的方法行事。
倘釀事故 法律責任模糊難追究
今年較早時，澳洲訊號局向企業及政府發出警報，指AI可能會誤解指令，採取意想不到的行動，使問責制建立更困難，因為決策可能會跨越一系列模型、工具及服務。湯姆森律師事務所合夥人德萊尼（Hayden Delaney），專門從事科技、知識財產權及私隱業務，他指出，「軟件不是法人（Legal Person），只有法人才能承擔法律責任。」
德萊尼認為，要解決AI代理帶來的風險，責任可能屬於設定任務的用戶、設計指導AI代理軟件的人，或是驅動AI代理的AI模型開發者，甚至可能是容易受AI代理攻擊的系統操作者。他指出，現行法律在某些情況下可能適用，例如當一個人行為鹵莽，或企業提供有缺陷的服務時。答案取決於用戶授權的內容、可以合理預見的風險，以及行為是否發生在貿易或商業活動中。
人工智能必讀好書
書名：Generative AI on Google Cloud with LangChain: Design scalable generative AI solutions with Python, LangChain, and Vertex AI on Google Cloud
作者：Leonid Kuligin, Jorge Zaldívar, Maximilian Tschochohei
簡介：本書深入研究生成式人工智能的各類應用，特別適合程式開發者或機器學習工程師參考。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
