圖①：小紅書平臺(tái)“小紅盾·網(wǎng)暴防護(hù)”界面。 　　圖②：抖音平臺(tái)反網(wǎng)暴倡議頁(yè)面。 　　互聯(lián)網(wǎng)截圖

　　近期，一批明星運(yùn)動(dòng)員解散粉絲群，在輿論場(chǎng)中蕩起層層漣漪。究其原委，離不開一個(gè)話題：網(wǎng)絡(luò)暴力。

　　從“有償代罵”到煽動(dòng)“飯圈”互撕，從“開盒”曝光隱私到AI偽造，網(wǎng)絡(luò)暴力的形態(tài)隨技術(shù)迭代愈發(fā)隱蔽，網(wǎng)暴治理的利劍也加速出鞘。

　　近年打擊網(wǎng)絡(luò)暴力的舉措中，“壓實(shí)平臺(tái)主體責(zé)任”被反復(fù)探討。2024年8月，我國(guó)首部以部門規(guī)章形式公布的反網(wǎng)絡(luò)暴力專門立法《網(wǎng)絡(luò)暴力信息治理規(guī)定》正式實(shí)施，進(jìn)一步明晰了平臺(tái)的權(quán)責(zé)。

　　面對(duì)網(wǎng)暴，平臺(tái)有哪些舉措，又承擔(dān)哪些責(zé)任？記者對(duì)此進(jìn)行了探訪。

　　

　　“按鍵傷人”為何頻發(fā)

　　明顯的生理不適——心跳加速，胸悶，手腳發(fā)涼、發(fā)麻。這是自媒體創(chuàng)作者林怡（化名）發(fā)現(xiàn)自己被網(wǎng)暴后的第一反應(yīng)。

　　那個(gè)早上，她像往常一樣醒來(lái)，手機(jī)屏幕多出上千條未讀消息，點(diǎn)開全是不堪入目的辱罵。兩天前，她在社交媒體上發(fā)布一條視頻，記錄了自己和男友就醫(yī)的經(jīng)歷。幾句不合時(shí)宜的玩笑，加上名校學(xué)生身份，讓她成了網(wǎng)絡(luò)暴力的“靶子”。

　　“我就像不受控制一樣，不斷翻看那些罵我的評(píng)論，停不下來(lái)。”回想起那個(gè)時(shí)刻，她仍然心有余悸。除了線上瘋狂涌入的惡評(píng)，騷擾甚至延伸至線下。“最嚴(yán)重的幾天，我父母的信息被人肉，我還接到很多莫名其妙的陌生電話，接通后冷不丁就開始罵人。”

　　林怡的遭遇并不是個(gè)例。一項(xiàng)針對(duì)全國(guó)3591名受訪者進(jìn)行的調(diào)查發(fā)現(xiàn)，超六成受訪者自稱經(jīng)歷過(guò)不同程度的網(wǎng)絡(luò)暴力。打開社交媒體檢索“網(wǎng)暴”，也能看到不少網(wǎng)友講述自己的親身經(jīng)歷。

　　一件小事，隨口一句發(fā)言，都可能引來(lái)不同意見者的惡語(yǔ)相向、造謠騷擾、惡意修圖、隱私泄露……有網(wǎng)友直言：“以前覺得公眾人物才會(huì)被網(wǎng)暴，現(xiàn)在發(fā)現(xiàn)，網(wǎng)暴離普通人的生活也并不遠(yuǎn)。”

　　林怡告訴記者，作為自媒體博主，自己已不止一次與網(wǎng)暴“交手”，因此會(huì)主動(dòng)調(diào)適心態(tài)，“堅(jiān)定認(rèn)可自己的價(jià)值，不把別人的攻擊往心里去，甚至拿他們罵我的詞開玩笑”。

　　但她也承認(rèn)：面對(duì)網(wǎng)絡(luò)上洶涌而來(lái)、海嘯般呈指數(shù)級(jí)放大的惡意，不是每個(gè)人都能做好準(zhǔn)備。有人不堪其擾，產(chǎn)生自我懷疑，陷入抑郁、崩潰等負(fù)面情緒；有人甚至采取極端行為，釀成無(wú)可挽回的悲劇。

　　伴隨互聯(lián)網(wǎng)的普及，網(wǎng)絡(luò)暴力為何變得更普遍、更隱蔽、更有破壞性？

　　在清華大學(xué)法學(xué)院教授勞東燕看來(lái)，網(wǎng)絡(luò)暴力的生成，與互聯(lián)網(wǎng)平臺(tái)的技術(shù)密切相關(guān)。隨著互聯(lián)網(wǎng)成為日常生活的一部分，私人問(wèn)題更容易被公共化；而網(wǎng)絡(luò)的匿名運(yùn)作機(jī)制，讓很多人將現(xiàn)實(shí)中的不滿與怨忿，宣泄到虛擬空間。

　　平臺(tái)的商業(yè)屬性以及推薦機(jī)制，可能也會(huì)為網(wǎng)絡(luò)暴力“推波助瀾”。

　　林怡告訴記者：“網(wǎng)暴最猛烈的那幾天，平臺(tái)上出現(xiàn)一個(gè)熱搜，把我的網(wǎng)名和學(xué)校放在了一起，這讓很多人覺得我蹭學(xué)校熱度，罵得更兇了。但其實(shí)我?guī)缀鯊牟辉谫~號(hào)里做有關(guān)學(xué)校的內(nèi)容。”而當(dāng)她發(fā)視頻澄清，希望讓網(wǎng)友看到事情全貌，內(nèi)容卻因?yàn)闆]有“爆點(diǎn)”而反響平平。

　　對(duì)此，有專家指出，由于網(wǎng)絡(luò)暴力內(nèi)容多產(chǎn)生于社交媒體，平臺(tái)作為內(nèi)容監(jiān)管方和流量控制方，理應(yīng)承擔(dān)起防止風(fēng)險(xiǎn)擴(kuò)散的責(zé)任。平臺(tái)可以憑借其技術(shù)能力與資源優(yōu)勢(shì)，進(jìn)一步壓實(shí)防范網(wǎng)絡(luò)暴力的主體責(zé)任。

　　建立健全預(yù)警機(jī)制精準(zhǔn)防范

　　減少網(wǎng)暴發(fā)生，平臺(tái)究竟怎么做？作為抖音“反網(wǎng)暴項(xiàng)目組”的成員，子豪（化名）和同事們已為這個(gè)問(wèn)題探索了三年。他們找到的答案，就包括建立健全事前預(yù)警機(jī)制，將網(wǎng)暴“扼殺在萌芽狀態(tài)”。

　　“我的日常工作之一，就是對(duì)系統(tǒng)篩選出的信息進(jìn)行人工判斷，評(píng)估是否有發(fā)展成網(wǎng)暴的風(fēng)險(xiǎn)，然后進(jìn)行保護(hù)和干預(yù)。”子豪向記者介紹。

　　據(jù)項(xiàng)目組統(tǒng)計(jì)，2024年，抖音平臺(tái)共攔截涉網(wǎng)暴信息1.7億條，回查清理違規(guī)信息200萬(wàn)條。累計(jì)向172萬(wàn)個(gè)“潛在受害者”賬號(hào)發(fā)送防暴提醒，向342萬(wàn)個(gè)“潛在施暴者”賬戶發(fā)出理性發(fā)言提醒。

　　“平臺(tái)承擔(dān)事前預(yù)防預(yù)警責(zé)任，對(duì)網(wǎng)絡(luò)環(huán)境的凈化意義重大。”泰和泰律師事務(wù)所高級(jí)合伙人廖懷學(xué)告訴記者，“這不僅能保護(hù)用戶的合法權(quán)益，還能維護(hù)平臺(tái)健康的生態(tài)環(huán)境，防止因網(wǎng)絡(luò)暴力事件頻發(fā)導(dǎo)致用戶流失。”

　　不只是抖音。記者向幾家頭部平臺(tái)的網(wǎng)暴治理專項(xiàng)負(fù)責(zé)人了解發(fā)現(xiàn)：結(jié)合大數(shù)據(jù)分析與人工審核，事前識(shí)別并干預(yù)暴力言論，已成為平臺(tái)抵制網(wǎng)暴的“標(biāo)配”。

　　以微博為例，在“機(jī)器+人工”的多維度線索發(fā)現(xiàn)機(jī)制下，平臺(tái)通過(guò)用戶投訴、多條評(píng)論命中人身攻擊、不友善模型預(yù)警等多重機(jī)制，對(duì)海量信息進(jìn)行篩選分析，再輔以人工主動(dòng)巡查、業(yè)務(wù)方線索互通等舉措。對(duì)于存疑或爭(zhēng)議內(nèi)容，微博則會(huì)采取降低內(nèi)容曝光率、限制內(nèi)容展示范圍等弱處置手段，避免引起次生輿情。

　　然而，伴隨互聯(lián)網(wǎng)技術(shù)發(fā)展，新型網(wǎng)暴手段層出不窮，精準(zhǔn)識(shí)別并有效干預(yù)網(wǎng)絡(luò)暴力行為，并非一件易事。

　　子豪發(fā)現(xiàn)：伴隨網(wǎng)暴形式不斷變化，網(wǎng)暴與非網(wǎng)暴的界限不再清晰。比如陰陽(yáng)怪氣或玩梗，有人覺得是開玩笑，但有人真真切切地受到了傷害；還有些隱晦的“罵人黑話”，如用相同首字母的字替換原詞，“圈外人”一時(shí)難以分辨，且施暴者的“舉一反三”往往比系統(tǒng)屏蔽更快一步。

　　“我們只能根據(jù)行業(yè)共識(shí)和團(tuán)隊(duì)不斷摸索的經(jīng)驗(yàn)來(lái)判斷。”子豪告訴記者，“包括看評(píng)論數(shù)的量級(jí)，看這些謾罵的言論是不是都指向個(gè)人，還有言論的過(guò)激程度，受害者有沒有主動(dòng)舉報(bào)，以及考慮用戶是否屬于特殊群體。”

　　網(wǎng)暴越來(lái)越隱蔽，平臺(tái)如何進(jìn)一步精準(zhǔn)防范？

　　廖懷學(xué)律師指出，升級(jí)技術(shù)工具是答案。“判斷抹黑造謠虛假信息時(shí)，平臺(tái)可以利用數(shù)字水印追蹤溯源；在鎖定施暴者時(shí)，可以建立多維度賬號(hào)行為模型，綜合登錄時(shí)間、IP地址、發(fā)言頻率等異常分析，對(duì)高頻負(fù)面詞匯、異常情緒言論監(jiān)測(cè)預(yù)警。”

　　提供“全鏈條”關(guān)懷保護(hù)

　　除了建立健全事前預(yù)警機(jī)制，要強(qiáng)化對(duì)網(wǎng)暴的“全鏈條”管控治理，事中干預(yù)處置、事后關(guān)懷保護(hù)，也是平臺(tái)的重要責(zé)任。

　　“如果有用戶遭遇嚴(yán)重網(wǎng)暴，我們會(huì)代表抖音給用戶進(jìn)行電話外呼。”子豪向記者介紹，“有的用戶需要協(xié)助開啟‘一鍵防網(wǎng)暴’等功能減少傷害，還有用戶只是希望有人傾聽他們的聲音，獲得精神上的安慰。”

　　通過(guò)電話外呼，子豪曾給一位因鄰里糾紛而遭網(wǎng)暴的老人提供過(guò)幫助。對(duì)方向他倒了一肚子的苦水，說(shuō)最近自己睡覺睡不好，去公安局報(bào)警也未能立案。了解到老人不熟悉手機(jī)操作，子豪在電話里手把手教她開啟“陌生人不可以評(píng)論”“陌生人不可以私信”“互相關(guān)注的人可見”“批量舉報(bào)”……

　　包括抖音在內(nèi)，記者發(fā)現(xiàn)，多個(gè)平臺(tái)已上線“防網(wǎng)暴專區(qū)”，為那些感到自己遭受網(wǎng)暴的用戶提供幫助。

　　以小紅書為例，只要搜索“網(wǎng)暴”相關(guān)內(nèi)容，平臺(tái)自研的防網(wǎng)暴工具“小紅盾”便出現(xiàn)在醒目位置，引導(dǎo)用戶開啟一鍵防護(hù)，進(jìn)行線索上報(bào)，以及撥打平臺(tái)和北京師范大學(xué)合作的24小時(shí)“紅薯地?zé)峋€”，獲取專業(yè)法律、心理咨詢服務(wù)。

　　各平臺(tái)還推出支持批量取證舉報(bào)、分級(jí)處罰違規(guī)賬號(hào)、完善實(shí)名認(rèn)證體系以便利侵權(quán)人信息查詢等舉措，為用戶遭遇網(wǎng)暴后的維權(quán)減少阻礙。

　　平臺(tái)紛紛出手，背后是法規(guī)“劃好了重點(diǎn)”。《網(wǎng)絡(luò)暴力信息治理規(guī)定》特別設(shè)立了“保護(hù)機(jī)制”專章，要求平臺(tái)通過(guò)告知可采取的防護(hù)措施、提供網(wǎng)暴信息快捷取證功能、及時(shí)防止信息擴(kuò)散等手段，保護(hù)遭受網(wǎng)暴信息侵害用戶的合法權(quán)益，尤其是未成年人、老年人、殘疾人等特殊群體。

　　中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春留意到這一亮點(diǎn)，她指出：“重視為潛在受害人提供自我保護(hù)和救濟(jì)的工具，這一舉措是我國(guó)網(wǎng)絡(luò)暴力信息治理實(shí)踐中非常鮮明的創(chuàng)新實(shí)踐。”

　　除此之外，想從根源上終結(jié)網(wǎng)暴，平臺(tái)的用戶教育也不可或缺。

　　在抖音相關(guān)詞搜索結(jié)果界面，用戶被邀請(qǐng)加入反網(wǎng)暴倡議，承諾“尊重差異、善意假設(shè)、友善表達(dá)”，并向其他用戶展示自己的加入。自2023年7月上線以來(lái)，已有超過(guò)242萬(wàn)人加入該倡議。

　　2024年巴黎奧運(yùn)開幕前，為預(yù)防因賽事、運(yùn)動(dòng)員等引發(fā)的網(wǎng)暴，抖音還通過(guò)倡議提醒和動(dòng)畫短片的形式，號(hào)召大家理性觀賽；2024年8月，抖音上線全國(guó)首個(gè)反網(wǎng)暴微短劇《回旋鏢》，倡導(dǎo)公眾在網(wǎng)絡(luò)社區(qū)表達(dá)積極情感，理性發(fā)聲。

　　“我們敲下的每句話，都可能是飛向自己的回旋鏢。”短劇下，有網(wǎng)友這樣留言，“善語(yǔ)結(jié)善緣，我們的聲音可以改變世界。”

分享讓更多人看到