(題圖漫畫:潘紅宇)
“廣州限制外賣配送”“河南信陽(yáng)市中心體育館驚險(xiǎn)崩塌”“甘肅紅十字會(huì)收取160萬元暖手袋管理費(fèi)”……這些所謂“有圖有視有真相”的重磅“消息”,曾在網(wǎng)上廣泛傳播,引起大量網(wǎng)民關(guān)注。
令人大跌眼鏡的是,警方事后的調(diào)查發(fā)現(xiàn),這些聳人聽聞的“消息”,是不法分子使用AI制作的網(wǎng)絡(luò)謠言!盡管警方緊急辟謠、澄清事實(shí),可謠言已經(jīng)領(lǐng)跑真相一大截,讓很多人信以為真,給當(dāng)事方帶來極大困擾。
AI加持下的互聯(lián)網(wǎng),給人們生活場(chǎng)景的豐富、生產(chǎn)效率的提升帶來了全新機(jī)遇。但當(dāng)謠言披上AI的外衣時(shí),謠言和真相更難辨認(rèn),造謠的門檻和成本極大降低,傳播的效率和產(chǎn)生的影響成倍增加,成為亟需治理的一道網(wǎng)絡(luò)新課題。
1
近日,多地警方通報(bào)了一批利用AI造謠的典型案例。
去年12月,甘肅積石山發(fā)生6.2級(jí)地震,張某某利用AI軟件,編造了“甘肅紅十字會(huì)采購(gòu)暖手袋,收取160萬元管理費(fèi)”“甘肅執(zhí)法隊(duì)扣押救災(zāi)貨車”等不實(shí)信息,并通過多個(gè)網(wǎng)絡(luò)平臺(tái)進(jìn)行發(fā)布,對(duì)當(dāng)?shù)乜拐鹁葹?zāi)工作造成嚴(yán)重影響。
今年2月,杜某利用AI技術(shù),編造了“某著名女星命運(yùn)多舛、含恨離世”的短視頻,上傳網(wǎng)絡(luò)后引起廣泛傳播,嚴(yán)重影響了當(dāng)事人的生活和聲譽(yù)。
一份近期審結(jié)案件的材料顯示,不法分子利用AI技術(shù),以熱點(diǎn)新聞和隨機(jī)網(wǎng)絡(luò)視頻為素材,短時(shí)間內(nèi)就制作出約1萬條虛假視頻新聞,其中發(fā)布出去的20多條視頻,涉及多個(gè)省份,瀏覽量超過百萬。
清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份報(bào)告顯示,經(jīng)濟(jì)領(lǐng)域已成AI謠言的高發(fā)地,餐飲外賣、快遞配送等民生行業(yè)是AI謠言的重災(zāi)區(qū)。
2
當(dāng)網(wǎng)絡(luò)謠言遇上AI,后者低成本、高效率、操作簡(jiǎn)單的特點(diǎn),使謠言視頻的批量化生產(chǎn)成為可能。AI謠言的視頻形態(tài),也契合了部分網(wǎng)民“有圖有視頻就有真相”的認(rèn)知,使得AI謠言常常一經(jīng)上網(wǎng),就能迅速傳播。
從查獲的典型案例來看,“吸睛引流”“變現(xiàn)牟利”等,是不法分子屢屢提及的高頻詞。
自媒體時(shí)代,“注意力經(jīng)濟(jì)”為很多人提供了發(fā)家致富的機(jī)遇。但一些人信奉“流量至上”,為了流量,什么技術(shù)都敢用、什么手段都敢使,甚至把沖撞道德底線、踐踏法律紅線當(dāng)作“流量密碼”,獵奇、八卦、低俗、編造假新聞等等,都成為追求流量的工具。
AI造謠更衍生出一條條黑灰產(chǎn)業(yè)鏈。
去年國(guó)慶假期,“4歲女童海邊走失”發(fā)生后,上海警方發(fā)現(xiàn)十余個(gè)散布“走失女童曾被丟棄”等虛假信息的自媒體賬號(hào),并在進(jìn)一步偵查中打掉一個(gè)“水軍”團(tuán)伙。該團(tuán)伙借助AI技術(shù),批量制造不實(shí)帖文,大量轉(zhuǎn)發(fā)炒作,非法獲利4萬余元。
3
前述清華大學(xué)的研究報(bào)告,以80余件涉AI謠言案例進(jìn)行統(tǒng)計(jì),發(fā)現(xiàn)涉案所受處理當(dāng)中,占比最大的是行政處罰,包括罰款和行政拘留,約占一半;而實(shí)施刑事拘留和判刑的,不足兩成;其余則是封禁賬號(hào)、信息清理、批評(píng)教育等。
同謠言造成的破壞相比,不少網(wǎng)友認(rèn)為,懲處造謠的力度還不夠剛硬。只有進(jìn)一步完善法律法規(guī),實(shí)施更強(qiáng)有力的懲處,才能發(fā)揮震懾作用,遏制AI謠言黑灰產(chǎn)業(yè)蔓延勢(shì)頭。
AI謠言傳播的相關(guān)網(wǎng)絡(luò)平臺(tái),也不能忘記平臺(tái)的主體責(zé)任。加大人力、財(cái)力、技術(shù)等多方面投入,在內(nèi)容甄別、謠言攔截、防止擴(kuò)散等方面展現(xiàn)更多主動(dòng)作為,堅(jiān)決阻斷謠言傳播鏈條,切實(shí)肩負(fù)起社會(huì)責(zé)任。
走好群眾路線,發(fā)動(dòng)廣大網(wǎng)友,激發(fā)網(wǎng)友參與舉報(bào)AI謠言的熱情,共同筑起防范AI謠言傳播的銅墻鐵壁。
唯有如此,AI這種新生產(chǎn)工具才能揚(yáng)長(zhǎng)避短,不為謠言生產(chǎn)、傳播助紂為虐,而為社會(huì)發(fā)展進(jìn)步貢獻(xiàn)更多正向力量。