文/朱天宇 美編/柳晴雪 出品/網(wǎng)界

5月20日，國家網(wǎng)絡(luò)與信息安全信息通報(bào)中心的一則通告，將智譜清言、Kimi等一些熱門的AI應(yīng)用推上風(fēng)口浪尖。

這些曾被資本追捧、用戶量動(dòng)輒千萬的明星產(chǎn)品，因“超范圍收集個(gè)人信息”“數(shù)據(jù)與業(yè)務(wù)功能脫節(jié)”等問題，成為監(jiān)管利劍下的典型樣本。

諷刺的是，就在一個(gè)月前，Kimi的運(yùn)營方月之暗面剛因“技術(shù)突破”登上熱搜，而智譜清言背后的公司正緊鑼密鼓籌備IPO。

這場風(fēng)暴撕開了AI行業(yè)光鮮表皮下的隱秘角落——當(dāng)技術(shù)狂奔時(shí)，隱私保護(hù)的紅線正在被資本、數(shù)據(jù)饑渴和監(jiān)管滯后三重力量反復(fù)拉扯。

01AI頻頻偷吃用戶隱私

本次被通報(bào)的35款應(yīng)用中，AI類產(chǎn)品占比超過三分之一。

其中，智譜清言(版本2.9.6)因收集用戶信息“越界”被通報(bào)，其月活用戶達(dá)906萬月之暗面旗下的Kimi(版本2.0.8)則因收集數(shù)據(jù)與聊天功能無關(guān)遭處罰，而這款應(yīng)用坐擁2499萬月活用戶。

除智譜清言和Kimi外，本次被通報(bào)的AI類產(chǎn)品還包括“智慧AI聊天”(版本1.4.0)、“虛擬戀愛AI”、“AI智能秘書”等，他們被指在配置文件中聲明的一些權(quán)限，與移動(dòng)應(yīng)用的所有業(yè)務(wù)功能均沒有直接關(guān)聯(lián)。

這些案例暴露出AI行業(yè)的深層矛盾。技術(shù)層面，大模型訓(xùn)練需要海量數(shù)據(jù)支撐，智譜清言基于ChatGLM2模型、Kimi依賴自研k1模型，都需持續(xù)“喂養(yǎng)”用戶對話數(shù)據(jù)以優(yōu)化表現(xiàn)。

資本層面，月之暗面去年估值沖上30億美元，智譜AI今年3月剛獲15億融資，在資本催熟的壓力下，合規(guī)往往讓位于增長指標(biāo)。

而監(jiān)管滯后更讓企業(yè)心存僥幸：《個(gè)人信息保護(hù)法》制定時(shí)尚未預(yù)見生成式AI的爆發(fā)，現(xiàn)有法規(guī)對“告知-同意”原則的執(zhí)行存在模糊地帶。

02AI治理未雨綢繆

本次AI應(yīng)用違規(guī)通報(bào)凸顯了AI技術(shù)需求與隱私保護(hù)間的深層矛盾，面對困局，國內(nèi)也正在探索一條兼顧技術(shù)創(chuàng)新與用戶權(quán)益的本土化治理路徑。

4月30日，中央網(wǎng)信辦啟動(dòng)了為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，首次將“使用非法數(shù)據(jù)訓(xùn)練大模型”作為打擊重點(diǎn)，旨在規(guī)范AI技術(shù)的合理應(yīng)用。

同時(shí)，《個(gè)人信息保護(hù)法》也對企業(yè)侵犯個(gè)人信息的行為設(shè)定了嚴(yán)厲的懲罰措施，包括高額罰款，以強(qiáng)化隱私保護(hù)。

歐洲也為AI隱私治理提供另一種范式。就在通報(bào)發(fā)布前一天(5月19日)，意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)對聊天機(jī)器人Replika開出500萬歐元罰單，理由是“未明確告知數(shù)據(jù)用途”及“未能防止未成年人訪問敏感內(nèi)容”。

這與歐盟《人工智能法案》形成呼應(yīng)——該法案將AI系統(tǒng)按風(fēng)險(xiǎn)分級，對聊天機(jī)器人等高風(fēng)險(xiǎn)應(yīng)用實(shí)施嚴(yán)格的數(shù)據(jù)透明度要求。

這些案例共同揭示了一個(gè)關(guān)鍵趨勢：在AI技術(shù)的快速發(fā)展中，治理措施必須穿透技術(shù)黑箱，確保在數(shù)據(jù)采集、模型訓(xùn)練以及結(jié)果輸出的全鏈條中嵌入隱私保護(hù)設(shè)計(jì)。

這不僅是對個(gè)人隱私權(quán)的尊重，也是AI技術(shù)健康、可持續(xù)發(fā)展的必要條件。

總結(jié)

AI不能不懂邊界

此次通報(bào)事件，恰似一記刺向AI行業(yè)的清醒劑。當(dāng)資本狂歡褪去，企業(yè)必須直面一個(gè)本質(zhì)問題：沒有用戶信任的技術(shù)進(jìn)步，終究是空中樓閣。

從監(jiān)管動(dòng)向看，未來的合規(guī)審查將更強(qiáng)調(diào)“實(shí)質(zhì)重于形式”——不再局限于隱私文本的合規(guī)性，而是通過技術(shù)檢測驗(yàn)證數(shù)據(jù)流向。對企業(yè)而言，這意味著一場從組織架構(gòu)到技術(shù)棧的全面變革。

而對用戶來說，隱私意識的覺醒正在改寫市場規(guī)則。那些仍將數(shù)據(jù)視為“免費(fèi)石油”的企業(yè)，終將被拋棄。正如一位網(wǎng)友的犀利評論：“AI可以不懂情感，但不能不懂邊界。”

在這場技術(shù)與人性的博弈中，唯有真正尊重隱私的企業(yè)，才能穿越周期，贏得未來。

       原文標(biāo)題 : 智譜清言、Kimi上榜 AI為何頻頻偷吃？