近日，由國家科技部主導(dǎo)的“科技創(chuàng)新2030重大項目—安全大腦國家新一代人工智能開放創(chuàng)新平臺”正式進(jìn)入實施評審階段，該項目由360牽頭，聯(lián)合清華大學(xué)、瑞萊智慧RealAI、中科院自動化所、中科院信工所共同協(xié)作完成。其中“面向人工智能算法的安全對抗攻防”的課題任務(wù)將由清華大學(xué)與瑞萊智慧RealAI共同承擔(dān)研發(fā)。

人工智能安全是廣泛智能應(yīng)用的基礎(chǔ)。在推動新一輪科技革命的同時，人工智能自身存在的嚴(yán)重安全問題引入了全新的安全威脅，尤其是涉及國防、經(jīng)濟(jì)、民生的人工智能設(shè)施系統(tǒng)，一旦遭受攻擊，可能威脅到國防安全、企業(yè)安全、公民財產(chǎn)和生命安全。

科技創(chuàng)新2030重大項目是體現(xiàn)國家戰(zhàn)略意圖的重大工程，人工智能算法模型安全研究作為提升人工智能自身安全的重要課題參與其中，體現(xiàn)了國家新一代人工智能發(fā)展規(guī)劃對人工智能安全治理的重要布局。

由RealAI負(fù)責(zé)的“面向人工智能算法的安全對抗攻防”課題項目主要針對深度學(xué)習(xí)對抗攻防中存在的問題，深度學(xué)習(xí)的對抗攻擊、魯棒防御和算法庫等方面進(jìn)行研究，為人工智能模型的安全性和可信賴應(yīng)用提供理論基礎(chǔ)和技術(shù)儲備。

本課題的開展將本著開源開放的原則，技術(shù)層面圍繞人工智能算法對抗安全，強調(diào)功能性和安全性的有機結(jié)合，在基礎(chǔ)理論和基本算法等共性技術(shù)面向新一代人工智能“OpenI”的建設(shè)進(jìn)行開源，服務(wù)國家新一代人工智能開源開放平臺的建設(shè)，為我國和全球人工智能行業(yè)發(fā)展保駕護(hù)航，也為人工智能長久穩(wěn)健發(fā)展提供重要積累。

RealAI之所以能參與本次重大項目，與其雄厚的技術(shù)實力密不可分。作為清華大學(xué)的人工智能研究院的核心孵化企業(yè)，RealAI是國內(nèi)率先對深度學(xué)習(xí)的對抗攻擊與防御進(jìn)行深入研究的課題組之一，在人工智能的對抗安全領(lǐng)域具有深厚的積累，在ICML、NIPS、CVPR、AAAI 等頂級會議期刊發(fā)表論文數(shù)十余篇，提出多種代表性的深度學(xué)習(xí)對抗攻防算法，被主流開源軟件收錄為標(biāo)準(zhǔn)方法，榮獲英偉達(dá)先鋒研究獎。在 2017NIPS對抗攻防競賽、2018 DEFCON CAAD CTF對抗攻防賽等多項國際競賽中，RealAI戰(zhàn)勝多支頂尖參賽隊伍斬獲冠軍，在2019 國際安全極客安全大賽GeekPwn上更是一舉獲得“CAAD CTF圖像對抗樣本挑戰(zhàn)賽”及   “CAAD隱身挑戰(zhàn)賽”兩項冠軍。

對于項目的未來規(guī)劃，RealAI表示將持續(xù)強化對抗攻防關(guān)鍵技術(shù)的研發(fā)，同時構(gòu)建對抗攻防算法系統(tǒng)平臺和對抗安全基準(zhǔn)，打造行業(yè)應(yīng)用示范，助力建設(shè)國家級AI安全防護(hù)體系，為科技創(chuàng)新2030的實現(xiàn)貢獻(xiàn)力量。