近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確網(wǎng)絡(luò)音視頻信息發(fā)布相關(guān)守則，網(wǎng)絡(luò)音視頻信息提供者和網(wǎng)絡(luò)音視頻信息使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等AI技術(shù)應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并以顯著方式予以標(biāo)識(shí)。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)部署應(yīng)用違法違規(guī)音視頻以及非真實(shí)音視頻鑒別技術(shù)，建立辟謠機(jī)制，并將相關(guān)信息報(bào)有關(guān)部門(mén)備案。

從網(wǎng)信辦有關(guān)負(fù)責(zé)人處了解，網(wǎng)絡(luò)信息服務(wù)發(fā)展迅速，用戶數(shù)量不斷增加，據(jù)數(shù)據(jù)顯示，我國(guó)網(wǎng)絡(luò)音頻用戶規(guī)模已達(dá)6．08億，網(wǎng)絡(luò)視頻用戶規(guī)模已達(dá)7．59億。隨著“深度偽造”等AI技術(shù)應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運(yùn)用，也帶來(lái)了傳播違法與不良的作假信息、侵犯用戶合法權(quán)益等風(fēng)險(xiǎn)隱患。運(yùn)用AI技術(shù)制作非真實(shí)的音視頻，可能被利用從事危害國(guó)家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng)，造成政治安全風(fēng)險(xiǎn)和國(guó)家安全、公共安全風(fēng)險(xiǎn)，對(duì)社會(huì)穩(wěn)定造成不良影響。

近些年，隨著AI技術(shù)的高速發(fā)展，人臉識(shí)別應(yīng)用在商用場(chǎng)景中大規(guī)模部署。例如，蘇寧任性貸要求刷臉認(rèn)證，支付寶提供了基于人臉的驗(yàn)證登錄手段，很多銀行或者金融公司也提供了遠(yuǎn)程的、基于人臉識(shí)別的視頻面審流程。

AI的人臉識(shí)別應(yīng)用在精確度上已經(jīng)高達(dá)95％，很多業(yè)務(wù)可以便捷地享受AI科技帶來(lái)的便捷核驗(yàn)手段。但深度偽造技術(shù)應(yīng)用到圖像或視頻欺詐中不僅能實(shí)現(xiàn)換臉，更可以通過(guò)深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。利用該技術(shù)，可以以視頻這一較為可信的方式讓某人說(shuō)不曾說(shuō)過(guò)的話，做不曾做的事，達(dá)到混淆觀眾的目的。

國(guó)外技術(shù)團(tuán)隊(duì)也成功開(kāi)展過(guò)欺騙“AI”的試驗(yàn)，在3D車輛模型的車身上貼上特制的“紙片”，使得模型成功逃逸監(jiān)控識(shí)別。從具體效果來(lái)看，該“隱身”可在高度運(yùn)動(dòng)、光線變化等復(fù)雜環(huán)境中保持較高的“隱身性”，技術(shù)優(yōu)勢(shì)明顯。

AI安全問(wèn)題已經(jīng)不再只是學(xué)術(shù)談?wù)摚�民眾都�?yīng)該提高對(duì)AI安全的意識(shí)。AI技術(shù)本身是中立的，但發(fā)展成“以子之矛，攻子之盾”的狀況，我們才意識(shí)到AI技術(shù)，在沒(méi)有制約的情況下用在正面領(lǐng)域，帶來(lái)了革命性的便捷和高效；應(yīng)用于黑色非法領(lǐng)域，給我們帶來(lái)的風(fēng)險(xiǎn)可能遠(yuǎn)超從前。

因此，明確網(wǎng)絡(luò)音視頻信息發(fā)布者的信息內(nèi)容安全管理責(zé)任，規(guī)范網(wǎng)絡(luò)音視頻信息服務(wù)提供者關(guān)于利用AI技術(shù)新應(yīng)用的管理要求，為網(wǎng)絡(luò)音視頻信息服務(wù)及其相關(guān)技術(shù)的提供、使用、管理等提供有效的依據(jù)是非常有必要的，據(jù)悉該規(guī)定將從2020年1月1日起正式施行。