□ 侯莎莎

　　“有圖有真相？”未必。

　　伴隨著人工智能（AI）技術的發(fā)展，制造和傳播網絡謠言的手段也在不斷演進。AI換臉、深度合成技術被一些不法分子用來炮制謠言、吸粉引流、非法牟利，嚴重擾亂了社會秩序。

　　2024年國慶節(jié)期間，大量使用AI技術偽造的“雷軍”配音視頻廣泛傳播，內容涉及對國慶堵車、調休、游戲等熱門話題的吐槽，甚至包含低俗謾罵等不當言論。雷軍在2025年全國兩會期間表示，此類AI換臉和擬聲技術濫用已成為違法侵權的重災區(qū)。

　　類似事件并非個例。近期，一則“某超一線男星澳門賭博輸10億元”的謠言在網絡上迅速傳播。后經公安網安部門查明，這是網民徐某強使用軟件“某書”中AI智慧生成功能炮制的謠言。

　　這些謠言的共同特點是：利用公眾對明星、民生、健康等熱點話題的關注，通過AI生成看似有理有據(jù)的內容，混淆視聽、收割流量。

　　分析AI謠言泛濫的原因，一是AI造謠成本低、識別難。在AI技術的加持下，造謠者只需輸入簡單指令，就能快速生成逼真的謠言內容。二是AI生成合成的謠言借助了豐富的大模型語料庫，往往具有較高的迷惑性，使人難辨真?zhèn)巍?/p>

　　在生成式人工智能時代，我們面臨著更為嚴峻的謠言治理挑戰(zhàn)，亟需采取有效措施加以應對。

　　《互聯(lián)網信息服務深度合成管理規(guī)定》明確規(guī)定：深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識。這表明，AI生成內容強制標識在政策層面已經達成了共識，并被納入治理軌道。

　　用AI技術對抗AI謠言。利用自然語言處理和機器學習算法，配合大數(shù)據(jù)，進行網絡分析和源頭追溯，從文本來源可信度、語義一致性等特征，快速辨別可疑信息，加以標記或刪除；緊跟技術發(fā)展，構建人工智能辟謠新模式，建立輿情監(jiān)測系統(tǒng)，及時預警并采取措施，為網絡謠言傳播加上一道有力的“防火墻”。

　　抵制AI謠言除了依靠技術手段，還需政府、信息平臺、公眾共同努力，加強監(jiān)管和協(xié)作，如此，才能共同維護網絡空間秩序和安全。

　　政府、信息平臺要在AI風險管理機制、倫理標準認證等方面進行探索，幫助AI設計者、開發(fā)者、評估者更好管理AI運用過程中可能出現(xiàn)的風險。

　　信息平臺要落實主體責任。建立完善的審核機制，對AI生成內容進行嚴格把關。提高對未標注AI提示信息的合成內容、被篡改短視頻的檢測識別能力，做到精準監(jiān)測和干預；加強對平臺用戶的管理，對違規(guī)發(fā)布AI謠言的用戶及時處理。

　　對于網友而言，了解AI技術的基本原理和應用范圍，增強對虛假信息的警惕性及鑒別力也至關重要。技術向善，始于你我。讓我們每一個人理性駕馭AI，用法律守護底線，共同維護清朗網絡空間。