Don't Miss
AI起底詐騙｜AI靠社媒起底 「客製」詐騙郵件
By 信報財經新聞 on November 6, 2026
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國得州大學阿靈頓分校日前一項研究指出，生成式人工智能（GenAI）能透過用戶在社交媒體公開的照片、文字和互動紀錄等內容取得線索，並且利用這些資訊，快速製作看似掌握收件人近況的個人化釣魚郵件，繼而誘騙對方點擊惡意連結。
研究人員首先從一萬個公開社媒Instagram賬號隨機抽取200名用戶，收集共3268則帖文，然後分別讓GPT-4、Claude、Gemini、Gemma及Llama分析內容，並生成17916封釣魚郵件。
內容自然逼真 測試者難辨認
團隊發現，各款AI模型只需要當中約10至15則帖文，便已掌握足夠的個人化訊息。5款模型當中，開源的Gemma與Llama產出的釣魚郵件數量最多，其餘Claude、GPT-4與Gemini則較少。
跟真實的詐騙郵件相比，AI生成郵件的語言自然度、情景相關性表現均大幅優勝。經70名受試者鑑別下，AI郵件平均可疑程度只有2.75分，真實釣魚郵件有4.44分（滿分為5分）。
防禦工具攔截率不足兩成
另一方面，研究人員又指出既有的AI防護機制，未必能夠辨識這種經過日常用語包裝的惡意請求。
團隊並測試了Llama Guard、ShieldGemma和WildGuard等安全工具，結果能夠擋下個人化詐騙電郵的比例不到兩成。
美國得州大學阿靈頓分校電腦科學與工程系副教授尼利扎德（Shirin Nilizadeh）表示，「任何人都能成為攻擊者……因為有了這些AI模型，他們根本就不需要做多少事，只需要告訴模型自己想要做什麼就行。」
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
