新年剛過，人工智能界先后有兩次理論上的新知公諸于世：一是圖靈獎獲得者David Patterson與John Hennessy發(fā)布論文稱計算機體系結構的新黃金時代將到來，二是計算機視覺奠基者之一Alan Yuille公開懟了一波深度學習，他認為神經(jīng)網(wǎng)絡已進入瓶頸期，現(xiàn)在科研人員一股腦兒涌入深度學習不利于軟件算法的發(fā)展。

透過兩則消息，不難察覺到人工智能產(chǎn)業(yè)急需變革的呼聲已經(jīng)十分強烈，無論是硬件端還是軟件算法，而它確實要迎來了新的發(fā)展階段。事實上，隨著市場需求變化和技術迭代，一直以來軟件算法和硬件芯片雖各自發(fā)展卻也如兩股互相“博弈”的力量般糾纏不休。而當深度學習發(fā)展步入模式時，一邊是專家對創(chuàng)新衰退的憂慮，另一邊則預示著深度學習架構的發(fā)展已經(jīng)邁入一定的成熟階段，此時將部分功能下沉到硬件端的需求則順勢衍生。

圖 ｜《計算機體系結構的新黃金時代》

在《計算機體系結構的新黃金時代》中，Patterson和Hennessy這樣寫道，“計算機體系結構領域?qū)⒂瓉碛忠粋�黃金十年，就像20世紀80年代我們做研究那時一樣，新的架構設計將會帶來更低的成本，更優(yōu)的能耗、安全和性能�！比缢�言，在深度學習算法熱潮過后，2019年的硬件產(chǎn)業(yè)也開始了新的蠢蠢欲動，而在AI賦能應用的大背景下，它具體表現(xiàn)為推理芯片市場的崛起。

英特爾沉不住氣了，推理芯片市場開啟群雄爭霸

回到2019年年初前后這一期間，迎來了歷史轉(zhuǎn)型期的芯片市場可以說動蕩不安，一邊存儲芯片價格在漲一波跌一波的云雨之中起伏；另一邊為了滿足人工智能催生的產(chǎn)能需求，英特爾、美光等老牌IDM廠商開始大肆興建起工廠。而不同于已有的成熟市場，有一部分新興的AI芯片市場也逐漸有了蓬勃生長的態(tài)勢，產(chǎn)業(yè)化發(fā)展向好。

“苗頭”就出現(xiàn)在CES 2019上，英特爾高調(diào)宣布與Facebook合作開發(fā)一款AI推理芯片，并宣稱將于2019年下半年完成。

在曝光度極高的CES上，提前半年大肆宣傳并隆重預告這一款公眾并不熟知的推理芯片，作為x86架構締造者，占據(jù)數(shù)據(jù)中心服務器市場90％份額的英特爾，顯然有些沉不住氣了。

圖 ｜ 英特爾宣布與Facebook合作推出推理芯片

無獨有偶，在研發(fā)推理芯片這件事情上，各家有能力爭一塊蛋糕的廠商也都開始摩拳擦掌，不出意外得集中在2019年前后幾個月推出自家產(chǎn)品。2018年9月，英偉達推出自己的推理預測芯片；11月，亞馬遜召開re：Invent大會，在會議上隆重發(fā)布了一款專用推理芯片AWS Inferentia，以用于自己的服務器推理任務處理；而阿里也透露了自己首款推理芯片Ali－NPU的發(fā)布時間，同F(xiàn)acebook相近，定在了2019年中。

在2019年前后巨頭們不約而同得帶起了一波“節(jié)奏”，這樣的集群效應或多或少說明了專用推理芯片系統(tǒng)市場已經(jīng)開始要“變天”。

數(shù)據(jù)統(tǒng)計顯示，到2021年，訓練市場規(guī)模將增長到82億美元，而推理市場規(guī)模將達到118億美元，超出前者近四十億美元。時間緊迫，機會轉(zhuǎn)瞬即逝，在沒有巨頭的大片“藍�！笔袌雒媲�，換作誰都是要坐不住的。

一場由互聯(lián)網(wǎng)企業(yè)引發(fā)的芯片之戰(zhàn)

既知是藍海，早些年亦有許多科研院所在積極研究，巨頭們卻都到今年才遲遲動手，是為何？

Facebook公開道出了其中的緣由。

去年四月份，F(xiàn)acebook暗地里組建芯片團隊的事情被彭博社報道，稱它想擺脫對英特爾和高通的依賴，隨后成為熱議的焦點。后沒有多久，在一年一度的大會上，F(xiàn)acebook的高管大大方方承認了。

作為一家互聯(lián)網(wǎng)公司，F(xiàn)acebook坦言它的初衷不是為造芯片而造芯片，實則是深受成本成倍增加之苦但同時又尋不到更優(yōu)硬件方案，無奈使然。2018年末的大會上，對于這一點，F(xiàn)acebook高管Jason Taylor就直接毫不留情的懟了當時市面上的推理芯片：“市面上是有很多加速器芯片，但是我們發(fā)現(xiàn)他們設計的芯片在完成關鍵工作負載任務的能力上，值得考量�！�

言下之意，Taylor認為很多公司在沒有弄清楚深度學習應用端需要處理的推理任務有哪些就開始造芯片，頗有亂打亂撞的嫌疑。而在深度學習算法的應用上，以精準營銷著長的Facebook似乎也更有發(fā)言權。

圖 ｜ 精準營銷

據(jù)公司工程師Kim Hazelwood介紹，每天Facebook的AI應用程序產(chǎn)生超過200萬億個推送，翻譯超過50億個文本，并自動刪除超過一百萬個假賬戶，在推理功能上，F(xiàn)acebook的任務計算量是其他任務的100倍。官方透露的數(shù)據(jù)顯示，2018年，F(xiàn)acebook的資本支出大約在140億美元，2019年，這個數(shù)字預計將增長到200億美元，其中很大一部分支出都在數(shù)據(jù)中心服務器上。

但苦于沒有合適替代方案，今天Facebook還不得不采用“CPU＋GPU”的服務器。

和Facebook類似，最接近應用，需求也是最為強烈，因而谷歌、亞馬遜、阿里等將人工智能與互聯(lián)網(wǎng)應用融合密切的企業(yè)都不可避免的遇到了這個問題，因而也陸續(xù)開啟了自研芯片之路。

不可不知的“鼻祖”

在這組互聯(lián)網(wǎng)梯隊中，谷歌是第一位吃螃蟹的“人”，同時它用這個秘密武器助力AlphaGo戰(zhàn)勝李世石，引起轟動。而這里的秘密武器就是谷歌TPU（張量處理單元）。

圖 ｜ 谷歌TPU

其實2017年，當谷歌重磅推出TPU時，很多人都好奇作為一家成功的互聯(lián)網(wǎng)公司，谷歌怎么突然有興趣做起了芯片，還做出了這樣一款“腦洞大開”的芯片？

在后來的公開論文中，谷歌提到其實自己的軟件服務背后需要龐大的服務器網(wǎng)絡在支持，即需要難以計數(shù)的硬件服務器日夜運行。提供的數(shù)據(jù)顯示，為了支持各類大量的數(shù)據(jù)應用，谷歌當時已經(jīng)在全球四個洲建有15個倉庫般大小的數(shù)據(jù)中心。

但是隨著深度學習算法的出現(xiàn)，令谷歌自己驚奇的事情發(fā)生了。在后來計算機架構專家David Patterson和Norm Jouppi合著的論文中，他們提到這樣一個細節(jié)：六年前，谷歌開始為安卓操作系統(tǒng)添加語音識別功能之后，原來相對充裕的計算能力突然間捉襟見肘，根據(jù)當時谷歌工程師的推算——如果世界上每一臺安卓手機每天都使用3分鐘的語音搜索功能，且識別率百分之百正確，即一次搜索成功，那么谷歌的數(shù)據(jù)中心的規(guī)模就起碼要翻倍。

這樣的解釋，與Facebook后提到的境況幾近相同。

意識到這樣的問題，谷歌為這樣的大規(guī)模擴張需求而背后生寒，更何況當時還只是深度學習算法應用剛剛開始的階段。因此在慎重考慮了語音識別技術的迅速發(fā)展和推理運算需求的激增等情況之后，谷歌決定開發(fā)專屬推理芯片以替代性能不足的CPU，即后來的TPU。

不過當時外界只知谷歌街景、AlphaGo等應用中用到了TPU，對于“蒙上一層面紗”的TPU到底為何物，眾說紛紜。后來直到看見谷歌公開發(fā)表的TPU論文并眼見AlphaGo的成功，眾人才意識到谷歌TPU劃時代的意義。

寒武紀陳天石毫不吝嗇得用了“濃墨重彩”一詞盛贊其對于整個產(chǎn)業(yè)發(fā)展的意義；而英偉達黃仁勛也不惜親自撰寫長文來回應谷歌TPU與自己產(chǎn)品的對比，雖然言語之中難掩對英偉達技術的偏袒，但也只有勢均力敵的對手值得“老黃”如此重視。

后來Jouppi在一篇論文中這樣評價這款芯片，“這并不意味著TPU有多復雜，它看起來更像雷達的信號處理引擎，而不是標準X86架構。而且它與浮點單元協(xié)處理器更為神似，跟GPU倒不太一樣�！�

所謂創(chuàng)新，大概如此。