Sora遭濫用｜惡搞已故名人 家屬炮轟 OpenAI阻深偽公眾人物 禁令存漏洞
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
OpenAI上周推出影片生成模型Sora 2，其「客串」（Cameo）新功能變相容許任何人以人工智能（AI）深度偽造，引起關注。官方指正採取措施「封鎖公眾人物的描繪」，惟這禁令不包括已故名人，部分網民利用此漏洞，借AI令他們「翻生」，生成如武打巨星李小龍在舞台打碟、英國物理學家霍金輪椅在斜坡「炒車」、美國搖滾巨星米高積遜在廚房表演棟篤笑等虛構畫面，恐進一步散播虛假資訊。
影片水印 數分鐘可移除
如今打開手機程式Sora by OpenAI，不難找到許多明星遭人惡搞，生成大量暴力或怪誕畫面。雖然OpenAI在每條AI生成的影片上，都添加動態的Sora水印，並嵌入「內容出處和真實性聯盟」（C2PA）資料。不過，網上至少有6個網站，例如Enhancor或Vmake等AI平台，最快可以在幾分鐘內移除水印。隨着「深偽」短片製作門檻降低，不少已故名人被AI當作道具，顯然會讓其健在的親屬及粉絲不安。
身為已故喜劇泰斗羅賓威廉斯（Robin Williams）的千金，薩爾達威廉斯（Zelda Williams）【下圖】日前在Instagram限時動態發聲，要求粉絲停止向她發送任何AI父親影片，狠批創作者並非藝術創作，做法令人作嘔。她補充，「看在上帝份上，別再叫它『未來』了。AI只是在糟糕地回收及重複過去，然後再消費。你正從隊伍的最末端，吸收人形蜈蚣般的內容，前面的人卻笑個不停，消費個不停。」
使用數碼科技重現已故名人的影像，這做法並非新鮮事。九十年代的喜劇電影《阿甘正傳》，主角阿甘（湯漢斯飾）就跟已故披頭四主音約翰連儂「對話」，如今Sora 2用戶只須花幾美元，幾分鐘就能炮製逼真的已故公眾人物影像。
美電影協會促停止侵權
OpenAI發言人更向媒體PCMag明言，容許生成歷史人物。美國電影協會（MPA）發出聲明，敦促OpenAI立即採取果斷行動，以制止Sora 2的侵權行為。
科技媒體Ars Technica報道，美國至少有24個州的法律，規定已故公眾人物的形象權。紐約州2022年簽署的法律版本，包含明確條款，禁止未經授權使用「數碼複製品」；加州州長紐瑟姆（Gavin Newsom）去年9月公開簽署《AB 2602法案》及《AB 1836法案》，以維護演員的數碼聲線或肖像權。
方大同作品禁用於訓練AI
OpenAI之前在GPT-4o語音模式中，曾因模仿荷里活女星施嘉莉祖安遜的聲音，而面臨法律訴訟威脅。香港方面，本地唱作音樂人方大同今年2月因病離世後，他創立的音樂品牌「賦音樂」，周二（7日）聯同遺產管理方發出正式聲明，引用歐盟指令及香港《版權條例》等法規，明確保留所有權利，嚴禁在未經授權下將方大同任何過往、現時及未來作品，用於AI訓練或開發。
《金融時報》引述知情人士稱，為應對可能數十億美元的法律訴訟，OpenAI有傳已跟怡安保險（Aon）合作，為新興AI風險投保3億美元（約23.4億港元）。消息指出，OpenAI亦考慮設立「自我保險」機制，即創建內部基金或專用保險工具，由其投資者直接出資。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
