機(jī)器人能否“說(shuō)人話”?
利用英特爾AVX-512技術(shù)和bfloat16指令,騰訊的科學(xué)家們確保了GRU模塊和Dense運(yùn)算符中粗略部分/精細(xì)部分的所有SGEMV計(jì)算都使用512位矢量進(jìn)行矢量化,并采用bfloat16點(diǎn)積指令;對(duì)于按元素逐個(gè)加/乘等運(yùn)算以及其他非線性激活,都使用最新的英特爾AVX-512 指令運(yùn)行。
在最終都性能測(cè)試中,通過(guò)優(yōu)化,相同質(zhì)量水平(MOS4.5)的文本轉(zhuǎn)語(yǔ)音速度比FP32提升了高達(dá)1.54倍。
此外,騰訊還以 GAN 和 Parallel WaveNet (PWaveNet)為基礎(chǔ),推出了一種改進(jìn)后的模型,并基于第三代英特爾至強(qiáng)可擴(kuò)展處理器對(duì)模型性能進(jìn)行了優(yōu)化,最終使性能與采用FP32相比提升了高達(dá)1.89倍,同時(shí)質(zhì)量水平仍保持不變 (MOS4.4)。
騰訊在TTS領(lǐng)域的進(jìn)展顯示出了人工智能領(lǐng)域的一個(gè)趨勢(shì),那就是科學(xué)家們?cè)絹?lái)越多開(kāi)始利用英特爾深度學(xué)習(xí)加速技術(shù)在CPU平臺(tái)上開(kāi)展工作。
就像騰訊在針對(duì)TTS的探索中獲得了性能提升那樣,第二代和第三代英特爾至強(qiáng)可擴(kuò)展處理器在集成了加速技術(shù)后,已經(jīng)顯著提升了人工智能工作負(fù)載的性能。
在更廣泛的領(lǐng)域內(nèi),我們已經(jīng)能夠清楚地看到這種變化——在效率表現(xiàn)上,由于針對(duì)常見(jiàn)人工智能軟件框架,如TensorFlow和PyTorch、庫(kù)和工具所做的優(yōu)化,CPU平臺(tái)可以幫助保持較高的性能功耗比和性?xún)r(jià)比。
尤其是擴(kuò)展性上,用戶(hù)在設(shè)計(jì)系統(tǒng)時(shí)可以利用如英特爾以太網(wǎng)700系列,和英特爾傲騰內(nèi)存存儲(chǔ)技術(shù),來(lái)優(yōu)化網(wǎng)絡(luò)和內(nèi)存配置。這樣一來(lái),他們就可以在充分利用現(xiàn)有硬件投資的情況下,輕松擴(kuò)展人工智能訓(xùn)練的工作負(fù)載,獲得更高的吞吐量,甚至處理巨大的數(shù)據(jù)集。
不止于處理器平臺(tái)本身,英特爾目前在面向人工智能優(yōu)化的軟件,以及市場(chǎng)就緒型人工智能解決方案兩個(gè)維度,都建立起了差異化的市場(chǎng)優(yōu)勢(shì)。
例如在軟件方面,英特爾2019年2月進(jìn)行的 OpenVINO/ResNet50 INT8 性能測(cè)試顯示,使用 OpenVINO或TensorFlow和英特爾深度學(xué)習(xí)加速技術(shù)時(shí),人工智能推理性能可提高多達(dá) 3.75 倍。
今天,英特爾已經(jīng)攜手解決方案提供商,構(gòu)建了一系列的精選解決方案。這些方案預(yù)先進(jìn)行了配置,并對(duì)工作負(fù)載進(jìn)行了優(yōu)化。這就包括了如基于人工智能推理的英特爾精選解決方案,以及面向在面向在Apache Spark上運(yùn)行的BigDL的英特爾精選解決方案等。
這些變化和方案的出現(xiàn)對(duì)于那些希望能從整體業(yè)務(wù)視角,去觀察人工智能進(jìn)展的機(jī)構(gòu)或企業(yè)的管理層顯然也很有意義——如果只通過(guò)優(yōu)化,就能在一個(gè)通用平臺(tái)上完成所有人工智能的探索和落地,那么投資的價(jià)值就能夠?qū)崿F(xiàn)最大化。
許多企業(yè)做出了這樣的選擇,GE醫(yī)療就是其中一家。作為GE集團(tuán)旗下的醫(yī)療健康業(yè)務(wù)部門(mén),它構(gòu)建了一個(gè)人工智能醫(yī)學(xué)影像部署架構(gòu)。
通過(guò)采用英特爾至強(qiáng)可擴(kuò)展處理器,和英特爾固態(tài)盤(pán),以及多項(xiàng)英特爾關(guān)鍵技術(shù)——例如英特爾深度學(xué)習(xí)開(kāi)發(fā)工具包,和面向深度神經(jīng)網(wǎng)絡(luò)的英特爾數(shù)學(xué)核心函數(shù)庫(kù)等;GE醫(yī)療收獲了未曾預(yù)料到的成果:
這一解決方案最終比基礎(chǔ)解決方案的推理速度提升了多達(dá)14倍,且超過(guò)了GE原定推理目標(biāo)5.9倍。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
6月20日立即下載>> 【白皮書(shū)】精準(zhǔn)測(cè)量 安全高效——福祿克光伏行業(yè)解決方案
-
7月3日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車(chē)生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身機(jī)器人動(dòng)力電池技術(shù)應(yīng)用大會(huì)
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
推薦專(zhuān)題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 大廠紛紛入局,百度、阿里、字節(jié)搶奪Agent話語(yǔ)權(quán)
- 3 深度報(bào)告|中國(guó)AI產(chǎn)業(yè)正在崛起成全球力量,市場(chǎng)潛力和關(guān)鍵挑戰(zhàn)有哪些?
- 4 上海跑出80億超級(jí)獨(dú)角獸:獲上市公司戰(zhàn)投,干人形機(jī)器人
- 5 國(guó)家數(shù)據(jù)局局長(zhǎng)劉烈宏調(diào)研格創(chuàng)東智
- 6 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 7 下一代入口之戰(zhàn):大廠為何紛紛押注智能體?
- 8 百億AI芯片訂單,瘋狂傾銷(xiāo)中東?
- 9 Robotaxi新消息密集釋放,量產(chǎn)元年誰(shuí)在領(lǐng)跑?
- 10 格斗大賽出圈!人形機(jī)器人致命短板曝光:頭腦過(guò)于簡(jiǎn)單