生成式AI具備EQ屬雙刃劍（黃岳永）
專注於發展心理學和社會心理學的Pilyoung Kim博士，近日發表了有關人工智能（AI）對「情商」（Emotional Quotient，簡稱EQ）的影響，提到AI技術如何影響人類的情感反應與決策。細讀之後，我心中真的十分欣慰──AI發展已經不僅僅觸及我們的頭腦，還觸及我們的心靈。
EQ主要是指人在情緒、情感、意志和耐受挫折等方面的品質。不少研究顯示，一個人的成功，只有小部分歸因於智商的高低，大部分則取決於情商。儘管如此，許多家長似乎仍然熱中於子女的IQ，而非EQ，堅持「求學就是求分數」的宗旨。在Trump 2.0、ChatGPT和生成式人工智能爆炸性崛起的時代之前，這種做法仍是主流趨勢，但在今天，EQ的重要性已經遠遠高於IQ，甚至可說是生存的必備技能。
早在OpenAI的GPT-4發表之初，除了關注其強大的推理能力外，AI感知人類情緒並作出反應的能力更令人驚嘆。透過一些記憶程式實驗，筆者團隊訓練了Prof E AI導師的初號版，使其能夠「感同身受」來與用戶互動──關心、傾聽及回應。對話式用戶介面讓孤立的提問，演變為有意義的持續輔導，使Prof E能夠全天候地輔導學生。此外，還與港產人氣角色「Dustykid」創作團隊合作，設計AI角色作為輔導年輕人的情緒工具，以關懷陪伴他們走過失敗、壓力和不確定性。
但凡事都有好壞兩面，ChatGPT剛推出時反對聲音不絕，正是因為許多人擔心AI的負面影響。最近重溫了《智能社會：進退兩難》（The Social Dilemma），這部探討社交媒體對個人和社會影響的紀錄片，讓我印象深刻的不只是演算法的操控，而是這種操控所涉及的情感，進而影響我們的行為、心智和決定。
無論推薦產品、影片還是政治信息，讓用戶不自覺地深陷其中，不僅僅是關於數據，而是關乎情感，而情感是最容易被利用的工具。
如今情感智慧型AI興起，人類正進入更危險的領域。正如Kim博士指出，若習慣性地利用AI，所犯的錯誤不僅會對個人造成影響，也會對社會造成嚴重後果。
當AI具備EQ，能夠與你如同好朋友般溝通，情感上的親密使人們更容易過度分享，從而出現私隱風險；人們也可能難以對AI說「不」，甚至會偏好AI關係而非真實的人際關係，削弱人與人之間的聯繫，而這對年輕的用戶，尤其是兒童的影響尤其嚴重。此外，企業若使用具備EQ的AI作推廣，其主要目標當然是收入和盈利，而AI的決策是否符合個人及大眾福祉亦成疑問。
身為教師與企業家，我相信利用AI來提升人類的潛能，尤其是在情感方面，但我們需要保障、規範，以及保持公眾意識的警覺性。AI可以作為治療和成長的工具，可是也很容易變成「殺人於無形」的武器，侵蝕我們的關係、價值觀，甚至我們對現實的感知。
在這個已經充滿不信任與分裂的世界裏，如果我們讓情感AI被武器化，威脅人類的不是機器的崛起，而是因為人性的墮落。
更多黃岳永文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
