破“AI謠言”，護人工智能向善
來源： 掌上淮安
2025-08-21 17:45:00
當前，AI（人工智能）迅速發(fā)展，給人們的生產(chǎn)生活帶來諸多便利。但AI也被用于制作發(fā)布謠言、不實信息，可能對部分群眾造成困擾。以全鏈條的“AI治理”跑贏“AI謠言”，推動人工智能向上向善、行穩(wěn)致遠，已然成為數(shù)字文明建設的重要課題。
從“暴雨引發(fā)山體滑坡”的偽造視頻到“核電站泄漏”的AI生成新聞稿，“AI謠言”表現(xiàn)形式多樣，讓不少群眾一度信以為真。AI技術的迅猛發(fā)展，讓卓有成效的網(wǎng)絡謠言治理面臨新的挑戰(zhàn)。今年4月，中央網(wǎng)信辦部署開展“清朗·整治AI技術濫用”專項行動，聚焦利用AI制作發(fā)布謠言、不實信息等亂象開展重點整治。而在專項行動的集中整治之外，仍需以全方位、全鏈條治理，久久為功引領技術向善。
破“AI謠言”，首先要破“AI幻覺”。AI大模型因訓練語料不足產(chǎn)生的“幻覺”，將片面信息放大為荒誕內容；不法分子利用技術漏洞，進行需求分析、內容生產(chǎn)并精準投放大量虛假信息。開發(fā)端應對訓練數(shù)據(jù)進行嚴格篩選、擴充和校正，持續(xù)優(yōu)化算法，從源頭上減少“幻覺”產(chǎn)生的可能性。公眾在面對AI生成信息時，也應保持理性和警惕，學會質疑和分析，不被虛假信息所迷惑。
法治利劍是破除謠言迷霧的關鍵。中央網(wǎng)信辦開展“清朗·整治AI技術濫用”專項行動，彰顯出治理技術濫用的堅定決心。從《生成式AI服務管理辦法》到《人工智能生成合成內容標識辦法》，制度籠子正在扎緊。但法律威懾力的真正釋放，在于執(zhí)行。對惡意編造者依法追責，建立平臺內容溯源機制，完善“AI幻覺”引發(fā)的無意謠言技術糾錯體系，構建起全鏈條免疫系統(tǒng)，才能精準擊殺“AI謠言”病毒。
技術反制與協(xié)同聯(lián)動是治理的雙翼。數(shù)字水印技術為合成內容打上“電子身份證”，區(qū)塊鏈存證構建信息溯源鏈，這些技術手段讓謠言無處遁形。但技術治理不能止步于“以彼之矛攻彼之盾”，更要推動平臺主體建立AI內容審核標準，對疑似合成信息進行標注限流，將倫理審查嵌入算法設計。相關部門也應加強網(wǎng)絡平臺監(jiān)管力度，嚴厲打擊發(fā)布虛假信息的賬號，對涉案人員實施處罰，并封禁其賬號。
公眾媒介素養(yǎng)則是阻斷謠言傳播的最后一道防線。AI不應成為謠言的“背鍋俠”，技術的價值最終取決于使用者的道德水準。當AI工具讓造謠門檻降低至“一句話生成”，提升公眾的“數(shù)字免疫力”尤為重要。這需要進一步推廣AI生成內容檢測工具，提高公眾對虛假信息的辨別能力，并將媒介素養(yǎng)納入國民教育體系，構建“技術+教育”的雙重防線，培養(yǎng)“不造謠、不信謠、不傳謠”的數(shù)字公民意識。