如今，人工智能的工作方式產(chǎn)生了很大的變化。在很多情況下，你甚至不知道后臺(tái)是人工智能系統(tǒng)在做決策。Crawford以人力資源系統(tǒng)為例：“很多公司正在使用人工智能系統(tǒng)掃描求職簡(jiǎn)歷，以決定你是否值得面試�！甭�(tīng)上去，這極大的提升了人力資源部門(mén)的效率，但亞馬遜所研發(fā)的一個(gè)人工智能系統(tǒng)打破了這種美好的幻想。

據(jù)報(bào)道，亞馬遜耗時(shí)兩年，設(shè)計(jì)了一個(gè)人工智能自動(dòng)簡(jiǎn)歷掃描儀。但是該公司后來(lái)發(fā)現(xiàn)，該系統(tǒng)對(duì)所有女性申請(qǐng)者都存在偏見(jiàn)，以至于如果你的簡(jiǎn)歷上出現(xiàn)了“女性”這個(gè)詞，都會(huì)被排至末尾。

“這件事告訴，自動(dòng)化這些工具實(shí)際上比你想象的要困難得多，因?yàn)閬嗰R遜擁有一些非常棒的工程師，他們明確知道自己在做什么，也不希望這樣的結(jié)果，因?yàn)樗麄儧](méi)有發(fā)布這個(gè)工具。但這件事卻透露了另一個(gè)重要細(xì)節(jié)，即他們所使用的訓(xùn)練數(shù)據(jù)，基本上都是來(lái)自白人樣本，”Crawford說(shuō)。

顯然，要想讓這些系統(tǒng)能夠發(fā)揮原本的作用，讓它們成為中立和客觀的完美系統(tǒng)，我們必須更加挑剔�！斑@就是Whittaker和我成立這家研究所的原因，我們想要能夠通過(guò)研究，對(duì)這些人工智能系統(tǒng)進(jìn)行審核，”Crawford說(shuō)道。

實(shí)際上，行業(yè)里的很多公司也已經(jīng)開(kāi)始了自我審核，比如谷歌和Facebook。有些甚至成立了道德委員會(huì)，希望能夠逆轉(zhuǎn)來(lái)自文化上的歧視。

在被問(wèn)及政府監(jiān)管問(wèn)題時(shí)，Crawford表示對(duì)美國(guó)還沒(méi)有任何形式的聯(lián)邦隱私法感到驚訝：“這在當(dāng)今時(shí)代有點(diǎn)不尋常，到目前為止，只有州一級(jí)存在類(lèi)似法案，比如加州就通過(guò)了全美最強(qiáng)的隱私法案，2020年生效�！�

當(dāng)然，很多人依然對(duì)此感到不滿(mǎn)，尤其是與歐洲相比較。歐盟于2018年推行了通用數(shù)據(jù)保護(hù)條例（GDPR），雖然不是一項(xiàng)完美的立法，但卻在國(guó)際上產(chǎn)生了影響。這也讓美國(guó)政府面臨著尷尬的境地，因?yàn)槊绹?guó)企業(yè)可能會(huì)受到其他國(guó)家的監(jiān)管。

Crawford說(shuō)：“我認(rèn)為現(xiàn)在是開(kāi)始制定法規(guī)、實(shí)現(xiàn)法規(guī)的關(guān)鍵時(shí)刻。這也將是未來(lái)五年里最重要的事情之一。聯(lián)邦政府需要對(duì)人工智能及其附屬技術(shù)如何被監(jiān)管做出決策�！�

Klobuchar參議員提出，可以使用罰款等手段來(lái)加強(qiáng)聯(lián)邦貿(mào)易委員會(huì)的資金來(lái)源。而Nancy Pelosi也表示應(yīng)該成立一個(gè)與AI相關(guān)的聯(lián)邦機(jī)構(gòu)歐來(lái)監(jiān)控?cái)?shù)據(jù)。

“這將會(huì)是一場(chǎng)大辯論！”Crawford說(shuō)道。“在成立相關(guān)機(jī)構(gòu)的過(guò)程中，需要眾多專(zhuān)家的建議。比如在醫(yī)療保健領(lǐng)域，你需要醫(yī)生和護(hù)士工會(huì)，你需要了解美國(guó)保險(xiǎn)系統(tǒng)的神秘運(yùn)作方式。你需要把他們放在與人工智能專(zhuān)家平等的位置上，通過(guò)實(shí)際行動(dòng)來(lái)驗(yàn)證和確保這些系統(tǒng)是安全和有益的�！�