Instagram正面臨著所有社交媒體網(wǎng)站中都會遇到的問題——網(wǎng)絡霸凌的問題。但是，Instagram并沒有像Facebook和Twitter那樣，讓用戶承擔責任，而是通過使用機器學習來消除平臺上言語的攻擊行為。

反霸凌慈善機構Ditch the Label最近進行的一項調查發(fā)現(xiàn)，在12至25歲的英國青少年中，有42％的人認為Instagram是讓他們感到最受欺負的平臺，而這在Facebook和Twitter上分別僅為37％和9％，遠遠低于Instagram。此外，71％的被調查者認為所有社交媒體在阻止網(wǎng)絡霸凌方面做得還很不夠。

尋找解決方案

為了解決網(wǎng)絡霸凌問題，Instagram最近宣布了一項新戰(zhàn)略：集成機器學習算法來檢測和阻止其平臺上的潛在霸凌行為。該公司的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Kevin Systrom在一篇博文中表示，這項研究的目的是為了在Instagram上建立一個友善、包容的社區(qū)。

Instagram正在使用DeepText機器學習算法來嘗試解決網(wǎng)絡霸凌問題。在2016年6月，F(xiàn)acebook的工程師們推出了DeepText，它作為基于深度學習的文本理解引擎，以近乎人類的準確度，每秒可以理解數(shù)千個帖子的文本內容，同時還能實現(xiàn)上下文聯(lián)想功能。

通過深度學習，DeepText使用了人腦神經(jīng)網(wǎng)絡建模的算法，像人類大腦一樣工作，通過演繹推理來確定某個單詞在特定語境下的意思。

例如，如果有人使用“mole”這個詞，DeepText則會識別用戶指的是小型哺乳動物、皮膚瑕疵還是叛徒。Facebook使用該系統(tǒng)篩選數(shù)千個帖子，更好地理解用戶，旨在創(chuàng)造一個更好、個性化的用戶體驗，來滿足個人興趣。

后來，2016年10月，Instagram又通過DeepText來消除垃圾郵件。該算法針對尋找企圖出售產(chǎn)品的組織，分析暗示數(shù)據(jù)是否為垃圾郵件。

DeepText的成功讓Instagram也在考慮該系統(tǒng)的其他用途。在2017年6月的博客文章中，Systrom宣布該公司將使用DeepText作為“阻止某些令人反感評論的過濾器”。該平臺使用最初由Facebook創(chuàng)建的技術來創(chuàng)建一個過濾器，為用戶建立一個安全的環(huán)境。

其他社交網(wǎng)站

網(wǎng)絡霸凌并不是Instagram獨有的問題——其他主流的社交媒體網(wǎng)絡也在為其用戶做出安全方面的改變。

康奈爾大學的研究生John Davidson也是很多關于社交媒體中網(wǎng)絡霸凌論文的合著者，他在談到Twitter時表示，“機器學習算法已被證明是檢測不良言論和網(wǎng)絡霸凌的有效方法�！盌avidson表示，諸如“邏輯回歸模型、N Bayes、隨機森林、支持向量機”等各種不同的算法都被證實是有效的。但是，他表示所有這些方法的關鍵都是依賴監(jiān)督學習，這是一種使用標簽訓練數(shù)據(jù)進行推理的機器學習策略。Davidson表示， 他的研究涉及收集數(shù)百萬個具有潛在可能的網(wǎng)絡霸凌（種族誹謗等等）推文，并為它們打上標簽，然后將這些數(shù)據(jù)提供給算法。Davidson補充表示，這些例子用于訓練算法，之后它應該能夠自己區(qū)分出不良的言論。

Twitter在2016年11月發(fā)布博客文章，發(fā)布了通知靜音功能以及仇恨行為策略，為用戶提供更直接的方法來阻止濫用媒體的行為。雖然這些努力正在試圖阻止網(wǎng)絡霸凌，但是屏蔽攻擊性的通知并不會使推文不存在。

Facebook試圖通過建立Bullying Prevention Hub（霸凌預防中心）來減少網(wǎng)絡霸凌事件。當青少年、家長和教育工作者自身或者他們認識的某個人遭到霸凌時，這個中心就是他們可以使用的資源。雖然為開啟網(wǎng)絡霸凌對話提供了寶貴的建議，但Facebook的欺凌預防中心并沒有直接采取任何行動來正面消除攻擊的內容。該公司只用該工具根據(jù)用戶的興趣向用戶推薦內容。