中新經緯客戶端6月26日電 （張燕徵）近日，由中國人民大學高瓴人工智慧學院等單位主辦的“推薦演算法社會價值與可持續發展”研討會在中國人民大學舉行。清華大學社科學院心理學系博士後許麗穎在研討會上表示，要解決演算法歧視和演算法厭惡等問題，需要更多實證道德心理學研究，瞭解更多民眾的觀點。“平臺收集人們的資料，做使用者畫像和使用者分類，需要探索一個合適的‘度’。”

許麗穎表示，心理學領域對演算法有很多研究。資料表明，很多人知道演算法決策表現是更優的，但是人們還是不太喜歡讓演算法做決策，更願意讓人類做決策，人們稱這種心理為演算法厭惡。當這種決策任務有道德性質時，這個厭惡就更加強烈。

那麼演算法厭惡形成的原因是什麼？又該如何解決？許麗穎指出，可在實證研究基礎上再去探討一些解決方式。比如研究發現，人們對於演算法不瞭解，從而導致人們產生演算法厭惡，那麼可以提高演算法的透明度，提高普通人的演算法知識。也有實證研究發現，人們對於演算法能力不信任，那麼可提高演算法的決策能力、專業化和個性化。

“還有一些人瞭解演算法，也信任它的能力，但是內心就是不願意用，針對這種現象，可以增強人類和演算法的合作，不是把決定權交給演算法，而是共同做決策，一定程度可以減少演算法厭惡。”許麗穎稱。

許麗穎介紹道，她所在的研究團隊從人工智慧的社會心理學、道德心理學研究領域，將演算法研究劃分成了三個層面：最底層的資料和演算法包括隱私洩露問題，中層是人機互動輔助決策和衝突問題，上層探討演算法歧視問題。“從下至上是越來越社會化的，從上至下是越來越基礎。剝離人的因素，然後在這個框架下進行系列研究。”

針對演算法歧視方面的研究，許麗穎團隊採用了情境實驗的正規化，“透過對比分析性別、學歷、民族、年齡等要素，我們發現無論是什麼樣的歧視，相比演算法歧視來說，人們對人類的歧視更加憤怒、更加生氣。”許麗穎稱。

在許麗穎看來，要理解演算法歧視現象，還需要進一步探討中介機制。“演算法歧視行為是沒有意圖，不是主動去做的，沒有自由意志，而如果我們將演算法擬人化，演算法就有更多意圖，更多的自由意志，那民眾可能對它更憤怒，更想要懲罰它。”

“道德心理學對於人工智慧研究是一個以人為本的研究，無論是演算法厭惡還是演算法歧視，其實都是從民眾中來的，要研究如何解決也要到民眾中去，看民眾怎麼想，在瞭解他們意見的基礎上，我們再提出一些針對性的措施去解決。”許麗穎稱。（中新經緯APP）