深度偽造技術(shù)（Deepfake）是一種利用AI程序和深度學(xué)習(xí)算法實(shí)現(xiàn)視、音頻模擬和偽造的技術(shù)，投入深度學(xué)習(xí)的內(nèi)容庫越大，合成的視音頻真實(shí)性越高，甚至可以達(dá)到以假亂真的程度。

深度偽造技術(shù)不僅能實(shí)現(xiàn)換臉，更可以通過深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。利用該技術(shù)，可以以視頻這一較為可信的方式讓某人說不曾說過的話，做不曾做的事，達(dá)到混淆觀眾的目的。

雖然操縱數(shù)字文件并不是什么新鮮事兒，但這種可信的偽造行為是通過使用一種人工智能形式的計(jì)算機(jī)程序完成的。

一個算法被訓(xùn)練來識別特定人的實(shí)際音頻或視覺記錄中的模式，這個過程被稱為深度學(xué)習(xí)。就像修改過的圖片一樣，一段音頻或視頻內(nèi)容可以通過更換新元素，比如更換別人的臉或聲音來改變，并無縫地將兩者結(jié)合起來。

與語音克隆技術(shù)結(jié)合使用時，這種手法最容易讓人產(chǎn)生誤導(dǎo)。語音克隆技術(shù)將音頻錄音分解成半音節(jié)的片段，然后可以重新組合成新詞，與蘋果的Siri和亞馬遜的Alexa等語音助手的創(chuàng)建方法相同。

深度偽造視頻的制作離不開AI技術(shù)，而AI技術(shù)的實(shí)現(xiàn)則離不開機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)，通過這個技術(shù)，讓計(jì)算機(jī)在生成具有統(tǒng)計(jì)相似性的假實(shí)例之前從真實(shí)數(shù)據(jù)中學(xué)習(xí)，模仿語音和形象，進(jìn)而創(chuàng)造出另類的現(xiàn)實(shí)，讓人們真假難辨。

隨著AI技術(shù)發(fā)展，視頻換臉技術(shù)門檻降低，普通人也能制作換臉視頻。這項(xiàng)技術(shù)被用于惡搞視頻、色情視頻合成上，其不良效應(yīng)也引發(fā)了社會的關(guān)注和擔(dān)憂：放任自流，可能成為侵害他人合法權(quán)益和危害社會公共安全的工具。

①由于深度偽造技術(shù)可以運(yùn)用在包括總統(tǒng)在內(nèi)的任何官員身上，美國兩黨開始擔(dān)心該技術(shù)將成為針對美國和其他西方國家發(fā)起虛假信息戰(zhàn)爭的最新武器。

②制作虛假的色情視頻是深度偽造技術(shù)常見的運(yùn)用方式之一。利用該技術(shù)能實(shí)現(xiàn)將一些公眾人物的臉移轉(zhuǎn)到色情明星的身體上，偽造逼真的色情場景。這些虛假的色情視頻一經(jīng)傳播，受害人的名譽(yù)將嚴(yán)重受損，個人隱私還隨時有可能受到侵犯。

③深度偽造技術(shù)對企業(yè)首次募股（IPO）同樣有不可估量的負(fù)面影響。深度偽造技術(shù)可以借用企業(yè)負(fù)責(zé)人的公開談話視頻，篡改表情及談話內(nèi)容，散播虛假信息，讓社會公眾發(fā)生錯誤認(rèn)識，直接影響公司的信譽(yù)及經(jīng)濟(jì)利益。

④就像圖片處理軟件Photoshop一樣，深度偽造則是一套由人工智能驅(qū)動的視頻偽造軟件，它可以讓人們看起來在做或說他們從未做過的事情。對視頻的數(shù)字操縱并不是什么新鮮事，但深度偽造這個工具存在的意義是，被操縱的視頻片段更容易被制作出來，而且還會越來越難被區(qū)分為欺詐。

⑤深度偽造技術(shù)可能會過度損害聲譽(yù)，甚至引發(fā)騷亂。想象一下，在偽造的視頻中，總統(tǒng)候選人猥褻兒童，警察局長煽動針對少數(shù)群體的暴力行為，或者士兵犯下戰(zhàn)爭罪，結(jié)果不堪設(shè)想。

互聯(lián)網(wǎng)時代下，先進(jìn)的AI技術(shù)和開放的數(shù)據(jù)流動給社會帶來巨大的信息紅利。信息流動載體從原始的文本、到語音、至視頻、后進(jìn)化至如今的虛擬現(xiàn)實(shí)，數(shù)據(jù)的巨大量和更高的開放程度允許越來越多消費(fèi)者參與進(jìn)來。而今隨著AI、深度偽造技術(shù)的發(fā)展，信息更能以重塑現(xiàn)實(shí)的方式豐富用戶的體驗(yàn)。

與AI結(jié)合的深度學(xué)習(xí)算法用于科學(xué)研究上，能幫助改善醫(yī)學(xué)圖像分析，還能用于彌補(bǔ)聽力缺陷，幫助有聽力障礙的人理解別人的話語等。

該技術(shù)用于制作、真實(shí)還原歷史人物的肖像、相關(guān)音頻和視頻，或者讓藝術(shù)作品中的靜態(tài)的人物角色生活起來，實(shí)現(xiàn)教育大眾、豐富人們精神世界的目的。

該技術(shù)實(shí)際上與深度學(xué)習(xí)運(yùn)用的技術(shù)一樣，這意味著在面對深度偽造帶來的潛在風(fēng)險時，不是全部禁止深度偽造技術(shù)的應(yīng)用，而是有效管控其風(fēng)險，尤其是對可能造成特定傷害的深度偽造的虛假信息進(jìn)行規(guī)制，同時不妨礙其在教育、藝術(shù)、社交、虛擬現(xiàn)實(shí)、個人發(fā)展、醫(yī)療等等領(lǐng)域的應(yīng)用。

深度偽造技術(shù)是AI發(fā)展到一定階段的產(chǎn)物，技術(shù)本身是中立的。技術(shù)并不導(dǎo)致社會矛盾，只是技術(shù)的出現(xiàn)加劇了這種社會矛盾。所以我們不應(yīng)該因此而禁止深度偽造技術(shù)。與此相比，更重要的是提高針對深度偽造的檢測技術(shù)、完善相關(guān)認(rèn)證機(jī)制。

這是一個眼見為實(shí)的世界，所有人都相信自己親眼看到的事情，但是隨著人工智能技術(shù)的不斷發(fā)展，眼見有時也絕非為實(shí)，它給人們根深蒂固的觀念帶來了沖擊。

但與此同時也有越來越多人在學(xué)習(xí)、研發(fā)相關(guān)的檢測技術(shù)，掌握判斷真?zhèn)蔚募寄�。隨著深度偽造技術(shù)越來越成熟，相應(yīng)的檢測深度偽造的技術(shù)也會越來越先進(jìn)，這將是一場永無休止的競賽。