“偏見”：AI發(fā)現(xiàn)人為造成的不公平

在筆者翻譯的一篇文章中指出招聘、協(xié)作、銷售工具中的AI偏見無處不在。偏見是AI的致命弱點。而DataRobot的研究發(fā)現(xiàn)，在美國和英國，將近一半（42％）的AI專業(yè)人士“非�！被颉皹O其”擔心AI偏見。AI可以在最意想不到的地方出現(xiàn)，沒有系統(tǒng)可以免疫。

根據(jù)領英（LinkedIn）的研究，43％的招聘人員和招聘經理表示，在招聘工具中引入AI的一個關鍵好處是它有消除人類偏見的潛力。然而，承諾將偏見最小化的人工智能工具，也可能在招聘過程中注入偏見。以谷歌的招聘廣告算法為例，更多向男性顯示高薪職位。

的確在招聘和銷售等領域容易產生偏見，但是偏見是AI帶來的嗎？

“AI的偏見是數(shù)據(jù)原生的偏見。”葉松林強調，假如數(shù)據(jù)里面多數(shù)男性的工資本身即高出女性10％，AI在讀取數(shù)據(jù)后，便會提供一個男性薪資高出10％的建議。

“這種偏見并不是說機器造成的，而是機器告訴你，世界上存在不平等的問題。這種不公平是過去長久以來人造成的。恰恰是AI把這個問題揭示出來，以前人們可能沒有意識到這個問題，AI把這個問題有效地揭示出來之后，人在做決策的時候，恰恰可以有意糾正它的不公平性。”高云龍進一步指出偏見本身就是數(shù)據(jù)所潛在的客觀規(guī)律。

所以Tableau強調AI只是輔助公司做決策，可以提一些意見，對公司而言人才是最重要的。

Tableau 數(shù)據(jù)科學家兼主任軟件工程師Rachel Kalmar指出：“AI 項目中最困難的環(huán)節(jié)之一就是確定您要提出的問題。”協(xié)作式方法可以揭示業(yè)務決策的哪些環(huán)節(jié)適合使用AI，哪些環(huán)節(jié)需要人工干預。假設要開一家新的零售商店，但以前從未開過這樣的商店。基于 AI 的系統(tǒng)可以根據(jù)該地區(qū)的人流或人口統(tǒng)計學特征來提供建議，幫助預測商店的預期銷售額。但仍然需要領域專家的幫助，這些人可以在位置可見性、競爭對手信息或停車位情況等方面填補空缺。要讓機器學習建議實現(xiàn)其價值，決策必須由人來制定。正如 Tableau 的AI 主管產品經理 Richard Tibbetts 解釋的那樣：“AI 的出現(xiàn)并不意味著算法會告訴您如何做生意。真正幫助組織采用和信任AI 的是領域專家�！�

由大數(shù)據(jù)、云計算、AI等技術推動著數(shù)字化世界的構建，而數(shù)字化世界所出現(xiàn)的諸多問題同樣是現(xiàn)實社會的映射，或許有數(shù)據(jù)的地方就免不了存在偏見和不公，消除偏見是一個長久的命題。我們仍然可以做一些力所能及的事情，比如加強監(jiān)督，讓多樣化的團隊構建軟件工具，仔細檢查數(shù)據(jù)健康度，加強內外部審計等。說到底，人與AI之間如何更好的協(xié)作取長補短才能有效消除更多偏見需要更多的探索。