原標(biāo)題：新興技術(shù)如何助推網(wǎng)絡(luò)暴力信息治理與風(fēng)險(xiǎn)防控

來源：法治日報(bào)

原標(biāo)題：新興技術(shù)如何助推網(wǎng)絡(luò)暴力信息治理與風(fēng)險(xiǎn)防控

來源：法治日報(bào)

□ 黃蘭松 朱立志

長期以來，網(wǎng)絡(luò)暴力的信息治理常常被視為受害者與施暴者之間的對抗，互聯(lián)網(wǎng)平臺更多處于旁觀角色，依靠“避風(fēng)港”規(guī)則避免承擔(dān)責(zé)任。的確，初期互聯(lián)網(wǎng)平臺缺乏有效信息管控能力，未能充分履行治理義務(wù)。然而，隨著互聯(lián)網(wǎng)平臺產(chǎn)業(yè)的發(fā)展和人工智能等新興技術(shù)的快速進(jìn)步，越來越多的學(xué)者呼吁，平臺應(yīng)主動承擔(dān)起網(wǎng)絡(luò)暴力信息治理的主體責(zé)任。早期，由于信息量龐大且多樣，平臺難以對每條信息進(jìn)行逐一審核，導(dǎo)致網(wǎng)絡(luò)暴力信息的應(yīng)對滯后、難以預(yù)防。近年來，隨著人工智能特別是自然語言處理技術(shù)的突破，智能化識別與治理網(wǎng)絡(luò)暴力的潛力得到了前所未有的發(fā)展。

人工智能如何精準(zhǔn)打擊網(wǎng)絡(luò)暴力

網(wǎng)絡(luò)暴力信息通常以自然語言文本的形式傳播，語言處理技術(shù)以及語言大模型技術(shù)迅速發(fā)展，使得平臺對網(wǎng)絡(luò)暴力信息進(jìn)行自動化精準(zhǔn)識別成為可能。該技術(shù)也是人工智能在治理網(wǎng)絡(luò)暴力信息方面運(yùn)用最為廣泛的技術(shù)，已經(jīng)為大部分主流平臺運(yùn)用。在這些平臺上，用戶所發(fā)送的每一條帖子、評論以及私信等，都會被人工智能模型自動識別。如果信息涉及網(wǎng)絡(luò)暴力，平臺會自動向用戶發(fā)出提示，建議用戶修改表述或不要發(fā)送。對于部分難以識別的信息，平臺采用“人工智能預(yù)判+真人核實(shí)”的模式，兼顧效率與準(zhǔn)確性。然而，模型的識別能力受限于以往的案例和數(shù)據(jù)，且部分模型過于依賴“敏感詞識別技術(shù)”，不僅難以招架層出不窮的網(wǎng)暴形式，還可能造成錯(cuò)誤打擊，損害公民的表達(dá)權(quán)。

用大數(shù)據(jù)評估并管控潛在威脅

除了對平臺信息進(jìn)行普遍性監(jiān)控外，平臺還會采用危險(xiǎn)賬號監(jiān)測技術(shù)對高危賬號重點(diǎn)關(guān)注。在互聯(lián)網(wǎng)空間，用戶的行為偏好、群組關(guān)系、違規(guī)記錄、言論發(fā)表等都會被平臺獲取。平臺在這些信息的基礎(chǔ)上構(gòu)建起用戶畫像，評估用戶的危險(xiǎn)等級，降低高危賬號言論的曝光度，對其言論進(jìn)行嚴(yán)格審核，限制該類賬號的部分功能甚至進(jìn)行封號處理。其中，違規(guī)記錄是判斷賬號危險(xiǎn)等級的一大重要因素，大部分平臺會對多次違規(guī)的賬戶進(jìn)行更嚴(yán)厲的處罰。然而，該項(xiàng)技術(shù)卻有著較高的運(yùn)用門檻。首先在數(shù)據(jù)獲取方面，為構(gòu)建準(zhǔn)確的用戶畫像，平臺必須得到足夠的用戶數(shù)據(jù)，而中小平臺往往難以在短期內(nèi)獲得足夠的數(shù)據(jù)。其次在建立模型方面，如何為各類信息附加合理權(quán)重尚未形成共識，模型建立存在較大難度。

用積極聲音抵消網(wǎng)絡(luò)暴力負(fù)面效應(yīng)

韓國曾舉行“善意回帖”運(yùn)動，號召網(wǎng)民為他人寫下“肯定的、鼓勵(lì)的、給予勇氣和希望的善意留言”。根據(jù)群體極化理論，防止情緒極端化的有效方法是引入對立的觀點(diǎn)，需要有人提出新穎且具有說服力的論據(jù)，挑戰(zhàn)群體成員最初的偏好。該運(yùn)動本質(zhì)上是想用良性信息與有害信息對抗，消除“群體極化”，削弱網(wǎng)絡(luò)暴力信息的影響。在良性信息生成效率、數(shù)量、質(zhì)量等方面，人工智能具有極大的應(yīng)用潛力。此外，基于“沉默的螺旋”理論，一般網(wǎng)民容易受到已有情緒的影響。一旦網(wǎng)絡(luò)暴力形成，原本善意的聲音往往不敢表達(dá)，反而會加入網(wǎng)暴大軍。而人工智能不會受到情緒氛圍的影響，能夠持續(xù)提供積極的、建設(shè)性的內(nèi)容來平衡網(wǎng)絡(luò)生態(tài)，打破“沉默的螺旋”，減少負(fù)面情緒的傳播。然而，科技是把雙刃劍，也要警惕不法分子反向運(yùn)用該技術(shù)，批量生成惡意信息，發(fā)起、擴(kuò)大網(wǎng)絡(luò)暴力。

用科技化解言語沖突避免誤解升級

美國傳播學(xué)家艾伯特梅拉比曾提出一個(gè)著名的信息傳播表達(dá)式，即信息的全部表達(dá)=7%的語言文字+38%的聲音+55%的表情。一方面絕大多數(shù)互聯(lián)網(wǎng)信息都是依靠語言文字傳播，而語言文字僅能傳播少量信息。另一方面網(wǎng)絡(luò)節(jié)奏不斷加快，網(wǎng)民習(xí)慣于用更加簡潔的語言，大量語氣詞、禮貌用語被省略，語言表達(dá)顯得較為生硬。聲音、表情的缺失使得人們的真實(shí)意思在傳播過程中逐漸失真。一句簡單的玩笑可能被誤認(rèn)為冷嘲熱諷、抬杠，導(dǎo)致正常的表達(dá)在拉扯中上升為沖突甚至引發(fā)網(wǎng)絡(luò)暴力。語言風(fēng)格轉(zhuǎn)化技術(shù)的核心在于“識別——轉(zhuǎn)化”。當(dāng)人工智能發(fā)現(xiàn)用戶發(fā)表的內(nèi)容包含不友好信息時(shí)，可以通過替換詞匯、增添禮貌用語以及加入表情符號等手段，使表達(dá)變得溫和。從技術(shù)的角度來說，語言風(fēng)格轉(zhuǎn)化技術(shù)所需的情感詞典、語言處理以及語言大模型技術(shù)都已經(jīng)較為成熟，具有實(shí)施的可能性。從運(yùn)用的角度來說，該技術(shù)已經(jīng)在Reddit和Twitter等平臺運(yùn)用過，并取得良好成效，在國內(nèi)具有廣闊的運(yùn)用空間。

（作者單位：山東大學(xué)法學(xué)院）

想爆料？請登錄《陽光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網(wǎng)官方微博（@齊魯網(wǎng)）提供新聞線索。齊魯網(wǎng)廣告熱線0531-81695052，誠邀合作伙伴。