AI扮政要發言｜邏輯說服力勝真人 叫GPT參考政論節目 生成內容詞彙豐富
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
德國帕紹大學團隊一項最新研究指出，人工智能（AI）可用來模仿公眾人物政論發言，一般民眾甚至覺得AI生成結果，要比真人本身言論更可信，因AI詞彙較多元化，不會像真人強調個人立場；論文發表在科學期刊PLOS One。
研究人員首先以2020年至2022年間英國廣播公司（BBC）政論節目Question Time為內容基礎，整理出112位政商名人的520組對答文字，然後研究員讓GPT-4模仿他們生成虛假的發言內容。
知悉發言者身份 評分仍較低
及至2024年英國大選前夕，研究員招募近1000位英國成年公民參與調查，他們多數自認熟悉AI，被要求評估某段發言的內容是否出自真人，以及判斷真人回答與AI回答之間，哪個感覺更真實與連貫。
研究結果顯示，人們普遍認為AI生成回答，要比真人的答覆，更像本人會說的話，而且更有邏輯、更能回答問題。以2分為滿分，AI回答在真實性、相關性、連貫性的平均得分，各自都有1分左右，反而真人回答全都低於0.5。
此外，假若受試者事前獲知發言人背景身份，他們對AI模仿回答的真實性評分會降至0.65，仍然高於真人原始回答的0.46，表示民眾即使知悉人物背景，也不一定能辨識AI模仿發言。
學者進一步分析發現，許多AI回答雖然表面看來真實，但其表達方式往往有所不同，例如AI會使用更多名詞、詞彙較多元化，真人較傾向使用「I think」、「in my opinion」一類強調個人立場的語句。
在個別案例，AI發言更會表達出跟真人不同的政治立場，可能形成潛在誤導。整體上受試者認為，AI與真人回答內容偏向不同，約一半回答被評為不相似，只有約三分之一被評為相似。
倘結合深偽 恐成造謠機器
研究人員認為，「惡意人士可以輕易利用大型語言模型，製作虛假但聽上來可信的政治言論，藉此污染公共資訊環境……若再配合生成逼真公眾人物聲音與影像的深偽技術，對社會構成的風險極為龐大。」
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
