據(jù)中央網(wǎng)信辦通報，2025年6月，網(wǎng)絡謠言主要聚焦社會熱點、災情事故、偽科普等領域，造謠者通過移花接木、AI生成、偽科學包裝等手段虛構或夸大事實，擾亂正常社會秩序。
通報特別提到了災情事故類謠言中，AI制假信息所產(chǎn)生的破壞力。有網(wǎng)民借機編造“湖南永州藍山縣特大暴雨致汽車被沖走”“福建南平建甌房道鎮(zhèn)路面嚴重積水”“烏魯木齊南山板房溝突發(fā)山洪”等虛假視頻和圖文。這類謠言不僅加劇社會恐慌情緒，還干擾正常防災救災秩序，可謂貽害無窮。
AI生成廣泛存在于信息傳播、內容創(chuàng)作等多個領域，在給工作生活帶來便利、豐富創(chuàng)作手段、拓展閱讀空間的同時，也給信息傳播造成了很大的困擾。偽造名人演講的深度合成視頻、以假亂真的“偽科普”文章，還有各種事發(fā)現(xiàn)場的照片視頻，AI制假信息憑借其高仿真度，正在消解公眾的信息甄別能力。
可以說，信息的造假問題已經(jīng)成為互聯(lián)網(wǎng)的一顆毒瘤，不治理將侵蝕網(wǎng)絡社會的信任基礎。無論是從哪方面看，都要求我們必須對AI內容進行嚴格區(qū)分，讓AI合成內容回歸它本來的面目。
面對AI合成造假的新問題，需要升級管理辦法。目前比較常用的防治辦法是進行標識，讓AI合成內容公之于眾，曬于陽光之下。當下，AI制假信息之所以能興風作浪，很大程度上就是因為它偽裝得好，別人看不穿看不透，在真假難辨間鉆空子。AI合成內容標識清楚了，這個空間自然也就消失了。
與此相關的法律法規(guī)正在完善。今年9月1日起施行制定的《人工智能生成合成內容標識辦法》進一步對如何標識作出了詳細規(guī)定，屆時，相關法律法規(guī)將一起形成組合拳，堵住AI合成內容治理漏洞。
同時，平臺應該進一步督促、約束作者嚴格執(zhí)行相關規(guī)定，建立起一套標識上可溯源、技術上可反制、法律責任界定上清晰明確的監(jiān)管機制，讓平臺算法的抓取和推薦成為網(wǎng)絡空間善治的模范，而不是謠言傳播的幫兇。此外，AI模型公司也該積極參與治理，模型公司有必要在技術層面嵌入不可篡改的標識模塊。
歷史經(jīng)驗表明，每次技術革命都伴隨著治理模式的迭代。從印刷品時代的知識產(chǎn)權保護，到互聯(lián)網(wǎng)時代的網(wǎng)絡空間治理，人類始終在尋找創(chuàng)新與秩序的平衡點?；ヂ?lián)網(wǎng)社會的基礎是誠信，只有守住真實傳播的底線，互聯(lián)網(wǎng)才能在技術創(chuàng)新中保持旺盛的生命力。 （高路）
編輯：譚鵬
