是前沿科技還是偽科學?情緒識別AI爭議不斷

是前沿科技還是偽科學?情緒識別AI爭議不斷

智東西(公眾號:zhidxcom)

編譯 | 夏舍予

編輯 | 徐珊

智東西7月18日訊息,根據外媒VentureBeat報道,不少科技公司都在使用一種叫做“情感AI”的技術。情感AI技術可以利用面部識別技術,透過面部表情分析一個人的內部情緒、感覺、動機或態度。

這種情感AI技術基於一種叫做“基本情緒”(basic emotions)的理論。該理論把人類交流時的基本情緒狀態分為六種——幸福、驚訝、恐懼、厭惡、憤怒、悲傷。

但是,目前情感AI技術的科學依據尚不充分。並且,這項技術在實際應用中會帶來一系列倫理隱私問題,這些都讓大眾對這項技術的爭議不斷。

一、影片面試自動打分,情感AI幫公司篩選人才

目前,情感AI技術被廣泛應用於各個領域,情感AI技術可以在這些領域很好地發揮積極作用。

在職業領域,面試官透過這種情感AI技術來對求職者的面試進行打分,其評分標準包括“熱情”、“學習意願”、“責任感”、“個人穩定性”等。

在韓國,情感AI技術已經普遍應用於求職面試中。所以,韓國的求職顧問往往會讓他們的客戶透過AI面試來進行練習,以提高求職面試的成功率;在安全領域,邊防人員用情感AI技術來檢測邊境檢查站的不明人士,預防潛在威脅;在醫療領域,醫生把情感AI技術作為檢測和診斷情緒障礙患者的輔助手段。

是前沿科技還是偽科學?情緒識別AI爭議不斷

影片面試

二、人類表情複雜難判,情感AI科學依據不足

但是,目前情感AI技術在科學依據和可行性方面存在很大的爭議。

研究人員發現,人們的面部表情在不同的語境和文化之間存在很大差異,目前沒有足夠的證據表明面部結構可以準確、可靠、具體地反應人類的情緒狀態。

此外,也有很多證據表明,人類面部表情的變化差異非常大,不存在一個判斷情緒的統一標準。具體來說,人類的“開心”可以透過成千上萬種表情來表達。即使是同一個面部表情,在不同人的臉上表達的意思也不同。

未來學家Tracey Follows在推特上表達了她對情感AI技術的不確定性,Tracey Follows說:“在最壞的情況下,這項技術可能是一種偽科學。”AI倫理學者Kate Crawford稱:“面部表情和情緒之間的關聯還沒有得到證實。因此,基於情感AI技術做出的決策充滿了不確定性。”

是前沿科技還是偽科學?情緒識別AI爭議不斷

Tracey Follows的推特截圖

出於這種擔憂,一些公司放棄了對情感AI技術的開發。6月22日,微軟宣佈停售個人面部情緒分析工具,並進一步限制面部識別工具的使用,同時下架了其Azure Face(面部識別服務)的AI情緒識別功能。

三、涉及隱私和倫理,情感AI技術惹爭議

據稱,這項技術不僅被應用在影片面試等領域,還被用來“監控”人們的思想。VentureBeat稱,有些公司透過情感AI軟體判斷員工是否對公司足夠忠誠,以此決定是否要與該員工進行單獨談話。還有些公司透過情感AI軟體判斷員工是否處在最佳的工作狀態中,以此來安排員工的休息時間,以提高公司的生產率和利潤。

《神經科學新聞》(Neuroscience News)提出了一個關鍵的問題:就算情感AI可以準確讀取每個人的感受,我們是否願意在生活中運用這樣的技術?我們願意把自己的心理活動和情緒毫無保留地暴露在別人眼前嗎?這是一個涉及隱私的核心問題。

是前沿科技還是偽科學?情緒識別AI爭議不斷

微軟下架了AI情緒識別功能

結語:是監控還是進步?情感AI應用需進一步規範與發展

每一項技術在新推出的時候都會面臨爭議,情感AI技術也是如此。更何況,這是一項尤為需要明確倫理邊界的技術,稍有不慎,這項技術就會被指有監控之嫌。

試想,如果這種技術在更多領域深度應用,那麼人類為了影響機器的判斷結果,而改變自己的面部表情,迎合機器的判斷,讓機器支配自己的行動,是否有些本末倒置?畢竟,我們創造機器的初衷是讓它們為人類服務,而不是讓我們被機器支配。

況且,面部表情與人類情緒之間的關係尚無科學證據,這項技術的科學基礎尚不牢固。人類的情緒複雜多變,遠遠不止基礎情緒中劃分的這六種。即使面對同一件事,每個人的表達方式也不同。

總的來說,這項技術還尚在起步階段,無論是在科學基礎、倫理道德、實踐應用方面,都還有很長的路要走。

頂部