近期，多地公安機關(guān)發(fā)布了多起利用AI工具造謠的相關(guān)案件，如發(fā)布“西安突發(fā)爆炸”虛假新聞的賬號所屬機構，最高峰一天能用AI生成4000至7000篇假新聞，每天收入在1萬(wàn)元以上。
隨著(zhù)AI對自然語(yǔ)言處理和深度學(xué)習技術(shù)的發(fā)展，AI生成的虛假新聞也是越來(lái)越能“以假亂真”。選用大量與百姓生活密切相關(guān)的選題，加入夸張的故事情節和獵奇性成分，甚至模仿新聞加入“據報道”“相關(guān)部門(mén)提醒”等字眼來(lái)獲取關(guān)注和點(diǎn)贊。AI的介入使得謠言的生成和傳播更加高效，數量級和傳播力也大幅提升，特別是還配著(zhù)“有圖有真相”的圖片和音視頻，導致這類(lèi)假新聞讓公眾難以辨別。
AI技術(shù)作為一把雙刃劍，在幫助創(chuàng )作者創(chuàng )造更加豐富多元的內容的同時(shí)，也降低了內容生產(chǎn)的門(mén)檻，讓不法分子鉆了利用其制造謠言牟利的漏洞。這不僅與科技向善的初衷背道而馳，也攪混了清朗的網(wǎng)絡(luò )輿論場(chǎng)，因此必須警惕AI技術(shù)被濫用的風(fēng)險。
AI謠言的傳播速度和范圍都遠超傳統謠言，為了治理新型亂象，今年4月，中央網(wǎng)信辦發(fā)布專(zhuān)項行動(dòng)通知，要求使用AI等技術(shù)生成信息的，必須明確標注系技術(shù)生成。面對AI制造謠言技術(shù)的快速迭代，相關(guān)法律法規和監管措施也要與時(shí)俱進(jìn)。
AI技術(shù)終究只是工具，如何利用，還是取決于背后的主體。明確AI造謠責任主體的法律責任尤為重要，必須依靠法律依據對炮制謠言甚至借此牟利的不法分子予以嚴肅打擊及清理。
作為AI謠言的第一道關(guān)卡，平臺需盡到監管責任，激勵創(chuàng )作的同時(shí)遏制虛假信息的傳播，對信息來(lái)源多渠道進(jìn)行核實(shí)，對內容中夸張、情緒化等成分多加審核，合理強化違法成本。也應對網(wǎng)民們進(jìn)行網(wǎng)絡(luò )信息素養相關(guān)教育，提升對AI謠言的甄別能力，理性判斷網(wǎng)絡(luò )信息的真偽，不信謠、不傳謠?！叭穹粗{”，共同維護一個(gè)真實(shí)、可信、健康的公共秩序與網(wǎng)絡(luò )環(huán)境。
海報新聞評論員劉瑞琪
