妙鴨相機爆火之下，AI寫真的安全問題怎么辦？
文/陳根
近日，“妙鴨相機”爆火。
作為一款AI寫真小程序，我們只要通過這個小程序，上傳一定數(shù)量的照片，選擇好模版，就可以一鍵生成AI風格化寫真，包括肖像照、藝術照、證件照等。
雖然首次生成需要支付9.9元的數(shù)字分身制作費，不過，相比動輒幾百上千的攝影工作室約拍價格，9塊9幾乎是可以“無腦沖”的程度。妙鴨相機在爆火的同時，也引發(fā)了人們對于AI寫真的倫理與安全問題的擔憂。
AI寫真面臨的倫理與安全問題之所以會被關注，核心原因就在于基于AI的技術進入了真正落地應用的階段，不論是寫真，還是醫(yī)療，或者是文本，都會面臨安全與倫理的問題。但AI寫真的安全與倫理問題相對比較急迫，不僅牽涉到潛在的詐騙問題，更會牽涉到借助于AI生成技術導致的一些照片與小視頻換臉問題。
同時，在AI寫真技術目前，肖像權的保護與個人肖像隱私，以及基于人臉識別系統(tǒng)的一些安全措施都將面臨著根本性的挑戰(zhàn)。尤其是包括妙鴨在內的各種AI照片寫真與合成技術，對于用戶而言在使用之前更重要關注的是這些平臺數(shù)據(jù)的安全保護措施。
對于擁有這些人像生成AI技術的平臺而言，當前首先考慮的并不是商業(yè)化的問題，而是如何保障用戶數(shù)據(jù)庫的安全，這些數(shù)據(jù)庫的安全不僅牽涉到用戶隱私安全，還牽涉到國家安全層面。
因此，我們看到白宮在前幾日緊急召集AI巨頭企業(yè)到白宮商議對策。這讓我們看到了正在到來的人工智能時代，人類社會已經(jīng)有了明確的基本共識，就是要借助于技術的約束來讓AI技術服務于人類，讓AI成為人類社會的效率提升工具。要借助于有效的技術方式，保障AI在安全與可控的倫理范圍內發(fā)展。
AI巨頭在白宮的壓力下，提出了八項技術的安全措施。這可以說是全世界所有從事于AI開發(fā)與訓練企業(yè)需要學習的地方，就是在追求AI技術發(fā)展的同時，必須要考慮對AI技術的監(jiān)管，以及要考慮AI萬一偏離設想后的風險管控與干預。
訓練AI服務于人類社會很難，但是如何再AI自我學習的情況下，能夠管控AI不偏離服務人類社會的這個設想更難。
原文標題 : 陳根：妙鴨相機爆火之下，AI寫真的安全問題怎么辦？
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」？
- 2 大廠紛紛入局，百度、阿里、字節(jié)搶奪Agent話語權
- 3 深度報告｜中國AI產業(yè)正在崛起成全球力量，市場潛力和關鍵挑戰(zhàn)有哪些？
- 4 上海跑出80億超級獨角獸：獲上市公司戰(zhàn)投，干人形機器人
- 5 國家數(shù)據(jù)局局長劉烈宏調研格創(chuàng)東智
- 6 下一代入口之戰(zhàn)：大廠為何紛紛押注智能體？
- 7 百億AI芯片訂單，瘋狂傾銷中東？
- 8 Robotaxi新消息密集釋放，量產元年誰在領跑？
- 9 格斗大賽出圈！人形機器人致命短板曝光：頭腦過于簡單
- 10 “搶灘”家用機器人領域，聯(lián)通、海爾、美的等紛紛入局
