也許彼時(shí)，我們就是另一個(gè)“自然”

會(huì)議中，馬斯克顯然并不試圖讓這番“人工智能威脅論”顯得太過(guò)激進(jìn)，也并沒(méi)有像普通大眾那樣，抱怨AI監(jiān)管“令人厭煩”，而是嚴(yán)肅地指出“讓AI無(wú)拘無(wú)束發(fā)展的風(fēng)險(xiǎn)太高”。

與馬克·扎克伯格所持的人工智能“和諧論”不同，多年以來(lái)，馬斯克始終在持續(xù)拉響AI警鐘。2014年，他將人工智能開(kāi)發(fā)人員比作“自認(rèn)為能控制所召喚惡魔”的人類(lèi)。2015年，他簽署了一份關(guān)于AI軍備競(jìng)賽的預(yù)警信。為了防止AI被一家公司控制，他甚至投資了一個(gè)旨在促進(jìn)AI開(kāi)源的項(xiàng)目。

然而，硅谷的一些領(lǐng)袖并不贊成他的想法，包括谷歌聯(lián)合創(chuàng)始人拉里·佩奇在內(nèi)，都將AI描述為一種人類(lèi)可借力的好工具。外媒評(píng)論指出，馬斯克的言論頂多是一種營(yíng)銷(xiāo)戰(zhàn)略，“他對(duì)品牌宣傳的興趣比拯救世界大得多”。部分參會(huì)政客仍在懷疑發(fā)展中的AI是否具備管理能力，但馬斯克建議，美國(guó)政府第一步應(yīng)“洞察”當(dāng)前研究的實(shí)際情況，“一旦意識(shí)到了現(xiàn)狀，人們就會(huì)明白恐懼的含義”。

拋開(kāi)態(tài)度不一的言論，縱觀現(xiàn)實(shí)，大自然耗費(fèi)百億年孕育出智慧生命，在輝煌顯世了數(shù)千年后，模仿自然的手筆，人類(lèi)只需短短數(shù)十年便能造出與自身不相上下的人工智能AI，堪稱(chēng)奇跡。也許，自誕生之日起，人類(lèi)存在于世間的唯一籌碼便是智慧。唯有用全部的智慧與機(jī)械交換，科學(xué)家理想中的AI才會(huì)成為現(xiàn)實(shí)。

倘若我們依然對(duì)控制權(quán)存有疑惑，想要獲得文明的安全感，那不妨捫心自問(wèn)：自然成功“控制”了人類(lèi)嗎？當(dāng)然沒(méi)有！因?yàn)樵谌祟?lèi)文明中，自然是背景、是環(huán)境、是賴(lài)以生存的物質(zhì)資料的來(lái)源，是本質(zhì)不同的存在。那么，在人工智能的問(wèn)題上是否同理，人類(lèi)對(duì)未來(lái)可能產(chǎn)生的“覺(jué)醒AI”能夠“完全控制”嗎？

也許彼時(shí)，AI眼中，我們就是另一個(gè)“自然”！

3．怕或不怕 人工智能就在那里

自阿爾法狗橫掃棋壇后，關(guān)于人工智能是福是禍的“口水戰(zhàn)”就沒(méi)停過(guò)。隨著人工智能技術(shù)的日新月異，相關(guān)爭(zhēng)議不但沒(méi)有平息，反而日漸升級(jí)。這不，連臉書(shū)網(wǎng)創(chuàng)始人扎克伯格與特斯拉掌門(mén)人馬斯克，都因?yàn)樗�互懟起�?lái)了。

日前，先是馬斯克再次提出人工智能對(duì)人類(lèi)文明是一個(gè)“可怕的問(wèn)題和威脅”。而后，這一觀點(diǎn)遭到扎克伯格反駁，后者明確表示對(duì)人工智能持樂(lè)觀態(tài)度。然后，兩天后馬斯克又懟回去了，說(shuō)扎克伯格對(duì)人工智能理解“有限”。

扎克伯格和馬斯克都是當(dāng)今科技界引領(lǐng)潮流的人物。他們執(zhí)掌的公司都涉及人工智能業(yè)務(wù)，二人卻對(duì)它持截然相反的態(tài)度，而且因此公開(kāi)吵起來(lái)。只能說(shuō)明，這確實(shí)是人工智能發(fā)展繞不過(guò)去的問(wèn)題。

到底該對(duì)人工智能持樂(lè)觀態(tài)度，還是悲觀態(tài)度？梳理兩種觀點(diǎn)，會(huì)發(fā)現(xiàn)如下規(guī)律。“樂(lè)觀派”更多關(guān)注當(dāng)下，他們認(rèn)為人工智能為社會(huì)帶來(lái)眾多好處，沒(méi)必要對(duì)它過(guò)于恐慌。讓“悲觀派”感到焦慮的是未來(lái)。他們擔(dān)心未來(lái)人工智能會(huì)帶來(lái)失業(yè)，引發(fā)戰(zhàn)爭(zhēng)，甚至導(dǎo)致人類(lèi)終結(jié)。

平心而論，兩種說(shuō)法都有道理。一方面，誰(shuí)也無(wú)法否認(rèn)，現(xiàn)階段人工智能為人類(lèi)帶來(lái)的實(shí)惠；另一方面，誰(shuí)也無(wú)法斷定，數(shù)百年后人工智能會(huì)發(fā)展成什么樣。但毋庸置疑的是，無(wú)論你樂(lè)觀還是悲觀，人工智能時(shí)代已經(jīng)到來(lái)，這一趨勢(shì)無(wú)法改變。

作為一門(mén)技術(shù)，人工智能本身是中性的。它既可以用來(lái)為人類(lèi)造福，也可能給人類(lèi)帶來(lái)困擾。正如互聯(lián)網(wǎng)既可以用來(lái)社交、購(gòu)物，也可以用來(lái)散播勒索病毒。所以，與其盲目樂(lè)觀，或盲目悲觀，倒不如理性對(duì)待人工智能。

既然它具有革新性，那就充分挖掘其潛能，讓社會(huì)生活更加便捷。要想避免它誤入歧途，那就及時(shí)制定法律法規(guī)和行業(yè)標(biāo)準(zhǔn)，為它營(yíng)造更好的發(fā)展環(huán)境。如果擔(dān)心它搶飯碗，那就提供更好的社會(huì)保障，讓失業(yè)的人重歸工作。至于千百年以后的事，既然無(wú)法預(yù)測(cè)，而未來(lái)又始于現(xiàn)在，只能先把當(dāng)下做好。

兩位在科技界舉足輕重的巨擘，為人工智能是否會(huì)帶來(lái)災(zāi)難而大打嘴仗之后，不妨想想做點(diǎn)什么，才能保證人工智能的光明未來(lái)。

作為一名人工智能研究員，我常常會(huì)想到人類(lèi)對(duì)人工智能的恐懼。

然而，目前我也很難想象我開(kāi)發(fā)出來(lái)的計(jì)算機(jī)怎么樣才能成為未來(lái)世界的怪物。有時(shí)就會(huì)像奧本海默在帶頭建造世界上第一顆核彈之后哀嘆的那樣，我會(huì)想我是否也會(huì)成為“世界的毀滅者”？

我想，我會(huì)在歷史上留名，但確是臭名昭著。那作為一名人工智能科學(xué)家，我在擔(dān)心什么呢？

對(duì)未知的恐懼

由科幻小說(shuō)作家Arthur Clarke設(shè)想并最后由電影導(dǎo)演Stanley Kubrick制成的計(jì)算機(jī)HAL 9000就是一個(gè)很好的例子。在很多復(fù)雜的系統(tǒng)里，例如泰坦尼克號(hào)、美國(guó)航空航天局的航天飛機(jī)、切爾諾貝利核電站，工程師們把許多不同的組件放在一起。設(shè)計(jì)師們可能非常清楚每個(gè)單獨(dú)的元素是如何工作的，但是當(dāng)這些元素連接在一起時(shí)，他們就無(wú)法知之甚透，就會(huì)產(chǎn)生意外的后果。

所以不能完全了解的系統(tǒng)，往往會(huì)不受控制并出現(xiàn)意外的后果。一艘輪船的沉沒(méi)，兩架航天飛機(jī)的爆炸，遍布?xì)W亞大陸的放射性污染，在每一場(chǎng)災(zāi)難都是一系列小差錯(cuò)導(dǎo)致的大災(zāi)難。

而在我看來(lái)，目前人工智能也落入了同樣的境地之中。我們從認(rèn)知科學(xué)中學(xué)習(xí)最新的研究結(jié)果，然后將其轉(zhuǎn)化為一種程序算法并添加到現(xiàn)有的系統(tǒng)中。我們?cè)谶�不了解智能認(rèn)知的情況下，便開(kāi)始對(duì)人工智能進(jìn)行改造。

例如IBM的沃森和谷歌的Alpha系統(tǒng)，我們將強(qiáng)大的計(jì)算機(jī)能力和人造神經(jīng)系統(tǒng)結(jié)合在一起，幫助他們?nèi)〉昧艘幌盗辛钊梭@嘆的成就。如果這些機(jī)器出了差錯(cuò)，可能出現(xiàn)的結(jié)果是沃森不會(huì)喊“危險(xiǎn)”了或者Alpha不能打敗圍棋大師了，但是這些錯(cuò)誤都不是致命的。

然而，隨著人工智能的設(shè)計(jì)變得更加復(fù)雜，電腦處理器變得更快，它們的技能也會(huì)得到提升。出現(xiàn)意外的風(fēng)險(xiǎn)也在增加，我們的責(zé)任也更重。我們經(jīng)常說(shuō)“人無(wú)完人”，那么我們創(chuàng)造的系統(tǒng)也肯定存在缺陷。

對(duì)濫用的恐懼

目前我正在應(yīng)用“神經(jīng)進(jìn)化法”來(lái)開(kāi)發(fā)人工智能，在可能引發(fā)的意外后果這一方面，我并不十分擔(dān)心。我創(chuàng)造虛擬環(huán)境，開(kāi)發(fā)數(shù)字生物從而使他們的大腦可以解決日益復(fù)雜的任務(wù)。我們會(huì)評(píng)估這些智能生物的表現(xiàn)，表現(xiàn)最好的會(huì)被挑選出來(lái)再次生產(chǎn)并研發(fā)下一代。這樣，經(jīng)過(guò)幾代的進(jìn)化，這些機(jī)器生物已經(jīng)逐漸演變出了認(rèn)知能力。

現(xiàn)在，我們正在給這些機(jī)器生物設(shè)定一些非常簡(jiǎn)但的任務(wù)，比如他們可以做簡(jiǎn)單的導(dǎo)航任務(wù)，做一些簡(jiǎn)單的決定等，但很快我們就會(huì)設(shè)計(jì)出能夠執(zhí)行更復(fù)雜任務(wù)更智能的機(jī)器，最終，我們希望可以達(dá)到人類(lèi)的智力水平。

在這個(gè)過(guò)程中，我們會(huì)發(fā)現(xiàn)問(wèn)題并解決問(wèn)題。每一代機(jī)器都能更好地處理前幾代機(jī)器曾經(jīng)出現(xiàn)的問(wèn)題。這幫助我們可以減少在未來(lái)他們真正進(jìn)入世界時(shí)出現(xiàn)意外結(jié)果的概率。

此外，這種＂代代相傳“的改良方法還可以幫助我們發(fā)展人工智能的倫理道德。最終我們想要演變出是有可信賴(lài)性及利他主義這樣人類(lèi)道德的人工智能。我們可以設(shè)置一個(gè)虛擬環(huán)境，給那些表現(xiàn)出友善、誠(chéng)實(shí)和同理心的機(jī)器獎(jiǎng)勵(lì)。可能這也是一種確保我們研發(fā)的是更聽(tīng)話的仆人或值得信賴(lài)的伙伴的方法。同時(shí)也可以減少出現(xiàn)冷酷殺手機(jī)器人的幾率。

雖然這種“神經(jīng)進(jìn)化法”可能降低出現(xiàn)不可控結(jié)果的可能性，但它并不能防止濫用。但這是一個(gè)道德問(wèn)題，而不是科學(xué)問(wèn)題。作為一名科學(xué)家，我有說(shuō)出真相的義務(wù)，我需要報(bào)告我在實(shí)驗(yàn)中發(fā)現(xiàn)的東西，不管這種結(jié)果我想不想說(shuō)。我的重點(diǎn)不是決定我想要什么，而是將結(jié)果展示出來(lái)。