當我們問外行人有關(guān)人工智能的問題時，他們可能會描繪一幅《2001：銀河漫游》或《終結(jié)者》等科幻電影中的未來景象。但是，AI Now研究所的聯(lián)合創(chuàng)始人Meredith Whittaker和Kate Crawford想要改變這種話題走向。

大約四年前，Whittaker和Crawford開始意識到，在全世界范圍內(nèi)，沒有一家人工智能研究所在研究AI對社會、政治和倫理的影響。于是，兩人在紐約大學創(chuàng)辦了這一本質(zhì)上屬于跨學科的AI Now研究所。她們認為，光靠計算機科學和工程技術(shù)，是無法解決這一問題的。要想構(gòu)建一個能夠產(chǎn)生社會影響的研究機構(gòu)，她們需要來自社會科學、人文學科、法律、哲學以及人類學、社會學、刑事司法等領(lǐng)域?qū)＜业膸椭�，也需要廣大社區(qū)的支持。

Whittaker已在谷歌工作了數(shù)十年。在被問及這種雙重從屬關(guān)系時，她表示：“谷歌現(xiàn)在的確是一家?guī)缀跽瓶刂�人工智能的公司。我在谷歌從事著大�?guī)模測量系統(tǒng)的工作。多年的工作，讓我不禁疑問，如何在全球部署服務(wù)器并創(chuàng)建有意義的數(shù)據(jù)？如何制作具有某種意義的數(shù)據(jù)？又該如何確保這一點呢？”

這些觸及認知本質(zhì)的問題，開始讓Whittaker意識到自身工作的問題。她說：“多年來，我一直目睹著人們獲取那些錯誤的、易出錯的或不完整的數(shù)據(jù)，將其輸入人工智能系統(tǒng)之中，并對我認為不可信或不可驗證的世界發(fā)表見解�！�

在遇到Crawford之后，Whittaker發(fā)現(xiàn)兩人擁有著類似的擔心。Crawford多年來一直在從事著學術(shù)研究。Whittaker說：“當我與Kate相識后，我如釋重負。我們在去參加會議的公共汽車上相遇，我們開始討論這個問題，發(fā)現(xiàn)了類似的擔心：如果這些技術(shù)正好存在于一些最敏感的社會機構(gòu)呢？當我們開始根據(jù)硅谷會議室里人們的假設(shè)，自動執(zhí)行刑事司法時，當我們開始自動化教育時，當我們開始對學生進行自動論文評分和眼睛跟蹤來確定注意力或智力時，你如何確保不會復(fù)制歧視模式？”

這些問題牽涉到了一個重要的因素：數(shù)據(jù)。

Crawford表示，數(shù)據(jù)實際上是研究人工智能的一個大領(lǐng)域：“現(xiàn)在，我們正在揭開人工智能系統(tǒng)的面紗，發(fā)現(xiàn)總是會有非常奇怪的訓練數(shù)據(jù)進入管道。于是，我開始查看這些訓練數(shù)據(jù)是從哪里獲得的�！盋rawford以預(yù)測性警務(wù)數(shù)據(jù)為例。所謂預(yù)測性警務(wù)，即警察通過城市犯罪熱圖，來預(yù)測何時何地會發(fā)生何種犯罪。形成這些城市犯罪熱圖的正是人工智能系統(tǒng)所獲取的數(shù)據(jù)，而正是這些數(shù)據(jù)，讓警察逮捕了那些可能會犯罪的人�！斑@不禁讓我們產(chǎn)生疑問，這些數(shù)據(jù)的來源是什么？”Crawford說。

于是，她們調(diào)查了美國13個司法管轄區(qū)，這些司法管轄區(qū)皆因有偏見、非法或違憲的警務(wù)行為而受到法律制裁。這意味著法院已經(jīng)要求該地區(qū)改變警察行為，但是通過栽贓證據(jù)或種族偏見的警務(wù)等方式創(chuàng)造的數(shù)據(jù)卻被輸送到了預(yù)測性警務(wù)系統(tǒng)。她們在這些地區(qū)發(fā)現(xiàn)了多個案例，尤其是芝加哥地區(qū)。在這些案例中，你可以看到，來自腐敗警察行為的數(shù)據(jù)正在為所謂中立和客觀的預(yù)測性警務(wù)平臺提供信息，而如此糟糕的監(jiān)管數(shù)據(jù)將會導致更多的不良信息。

“因此，如果骯臟的數(shù)據(jù)實際上構(gòu)成了我們的預(yù)測性警務(wù)系統(tǒng)，那么你就是在把我們幾十年來看到的偏見和歧視植入這些在許多方面都飽受聲譽的系統(tǒng)，”Crawford說，“人們總是在說，這些系統(tǒng)是中性的，所以它們一定不存在偏見。但是現(xiàn)在你可以看到，惡性循環(huán)的出現(xiàn)，正是因為這些訓練數(shù)據(jù)。”

為了更加形象化地說明這一問題，Whittaker舉出了一個最基本和最規(guī)范的例子。Whittaker說：“比如你正在向機器學習系統(tǒng)展示1億張貓的圖片，但是你只展示了白色貓。所以，這個系統(tǒng)雖然能夠識別貓，但可能會誤識別深色貓�！蔽覀兛梢韵驒C器學習系統(tǒng)展示任何龐大的數(shù)據(jù)語料庫，它也通過這些數(shù)據(jù)來模擬世界，它只反映了數(shù)據(jù)中的內(nèi)容。因此我們所提供的數(shù)據(jù)是非常重要的，我們也必須意識到它們確實存在問題。

意識到問題的存在，接下里就應(yīng)該給出解決方案。Crawford說：“這正是整個行業(yè)正在爭論的事情，即如何創(chuàng)造所謂的公平數(shù)據(jù)修正。我們該如何清理數(shù)據(jù)？如何讓人工智能變得中立和公平？”但是Crawford表示，隨著她們所做的研究越多，就越擔心這種簡單化的技術(shù)解決方案，因為解決方案最終仍然受數(shù)據(jù)生產(chǎn)的文化影響，如果這些數(shù)據(jù)是歷史的，那么你就是在把過去的歷史偏見引入未來的工具。

所以，真正重要的是，誰在掌握著這個世界，誰在制造這些系統(tǒng)，他們又在試圖解決什么類型的問題。