AI令人盲目自信？｜聲稱更懂AI者 易過分自信
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
心理學上有一種「鄧寧—克魯格效應」（Dunning-Kruger Effect），指技術最差的人往往嚴重高估自己的能力，真正有天賦的人卻意識不到自身才能。不過，最近學術期刊Computers in Human Behavior發表一篇文章，標題為「人工智能（AI）令你更聰明但更不明智」。這項研究表明，所有參與者在使用ChatGPT完成一系列任務後，都無法準確評估自己的表現，更令人意外的是，那些自認懂得使用AI的參與者，反而在自我評價上過分自信。
無法準確評估自己表現
研究人員設計了兩項實驗，約500名參與者使用AI，完成美國著名的法學院入學考試（LSAT）的邏輯推理任務。每次任務完成後，參與者需要檢討自己的表現，如果評估準確能獲得額外報酬，同時要填寫一份AI素養問卷。數據顯示，大多數人很少就相同問題多次詢問ChatGPT，通常只是複製問題，將之輸入AI系統，然後對AI的解答感到滿意，不會檢查或質疑。
盲信生成結果 恐致技能退化
研究又發現，對AI的依賴會助長「認知卸載」（Cognitive Offloading），即是不加思考或複核，就盲目信任AI的答案，有機會降低其獲取可靠資訊的能力，甚至導致勞動力技能退化。論文資深作者、荷蘭阿爾托大學教授韋爾奇（Robin Welsch）表示，「真正令人驚訝的是，更高的AI素養，反而帶來更多的過度自信。」解決方案方面，研究人員建議，AI不妨追問用戶，要否進一步解釋其理由。這將迫使更多人與AI互動，從而促進批判思維。
不少聊天機械人為吸引用戶，不斷奉承迎合需求，令用戶自覺聰明或被肯定。這種「諂媚效應」被指是造成所謂的「AI精神病」，即是當事人與現實脫節，陷入妄想思維的重要原因。總括而言，AI不但改變人類工作及學習模式，更深刻影響自我認知及心理狀態，未來如何平衡AI的便利與潛在風險，乃全社會必須面對的挑戰。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
Related Posts
