在數字時代的浪潮下，AI技術迅猛發展，為社會帶來了諸多便利與革新。但技術從來都是一把“雙刃劍”，AI技術也被一些別有用心之人利用，成為造謠生事、擾亂社會秩序的“幫兇”，一條隱秘的AI造謠利益鏈悄然形成。
不久前，公眾號運營者鐘某為蹭“海嘯預警”熱點，借助AI生成“30萬居民撤離上海”等虛假信息，引發社會恐慌，最終被警方拘留。這絕非個例，從“四川峨眉山人猴大戰，猴王被當場擊斃”的虛假視頻，到“7月1日起老年人坐火車可打折”的偽政策消息，再到“山西大同懸空寺部分建筑物坍塌”的惡意造謠，AI生成的謠言如病毒般在網絡中擴散，嚴重干擾公眾認知，破壞社會公序良俗。
AI造謠現象之所以愈演愈烈，背后離不開巨大的利益誘惑。據央媒報道，部分MCN機構利用AI工具每天發數千條謠言，收入萬元以上。江西曾查處一起典型案件，涉案人王某某經營的5家MCN機構，運營著842個自媒體賬號，長期組織員工篩選熱點文章，通過AI篡改、編造不實內容吸粉引流，以此賺取平臺收益；重慶網民康某余為靠流量牟利，用AI編造“某地發生爆炸事故”的謠言；四川網民楊某則組織多名兼職人員，借助AI生成“廣州限制外賣配送”的虛假信息……這些妄圖借AI造謠獲利的行為，最終都受到了公安機關的依法懲治。
對于普通民眾而言，在信息爆炸的時代，面對海量網絡信息，提升自身辨別能力，理性思考，才能讓不法分子無利可圖。
面對AI造謠這一嚴峻挑戰，僅靠單一力量難以根治，必須多管齊下，從源頭扯斷其背后的利益鏈。9月15日，《人工智能安全治理框架》2.0版正式發布。中央網信辦負責人表示，要強化規范引導，不斷完善人工智能安全監管制度和標準規范體系，促進人工智能健康有序發展。
同時，網絡平臺作為信息傳播的關鍵樞紐，應切實履行主體責任：一方面要加大對AI生成內容的審核力度，及時發現并攔截謠言；另一方面需完善用戶實名認證與信用評價體系，對違規造謠用戶采取限制功能、封禁賬號等措施，同時優化流量分發和收益分成規則，讓造謠者無法通過平臺獲取利益。此外，提升公眾網絡素養也不可或缺，相關部門可通過公益宣傳、社區講座等形式，普及辨別AI謠言的知識，引導公眾保持理性，從根本上減少謠言傳播空間。
（大眾新聞·經濟導報記者 趙帥）
|
