前幾天，一則“政府工作人員因買方便面被通報”的消息甚囂塵上。公安網安部門查明，該內容均屬虛構，系曹某林為博眼球利用AI憑空捏造。目前，曹某林已被屬地公安機關依法采取刑事強制措施。
“厲行節約、反對浪費”本是社會共識，也是正風肅紀的抓手，流量投機分子偏偏炮制謠言碰瓷，人為制造“低級黑”。從現實影響看，這一荒誕謠言還真迷惑了一些人，對相關工作造成了一定干擾。如今造謠者被刑拘，再度警示各方：造謠生事不僅缺德，更是違法，必然付出代價。
更值得一提的是，上述謠言又是“AI生成”。近兩年來，AI謠言頻出，且明顯侵入時事政治等硬新聞領域，并展現出幾個典型特性。
其一，成本極低，造謠趨于工業化。以往，為了抓人眼球，造謠者還要費些心思編造拼接，刺激情緒。如今，敲敲鍵盤就可批量生產不實內容。一鍵生成、坐收流量，在AI助力下，一個人就可以是一支“水軍”。有報道顯示，某家MCN機構用AI生成文章和圖片，最高峰一天能生成4000至7000篇。
其二，能力極強，“出品”有模有樣。從惡搞名人，到捏造熱點，再到“改寫”歷史，各個領域AI都能信手拈來。往往只需要一個指令，其就能將文字、聲音、圖像和視頻等深度融合。基于強大的生成能力，很多“AI謠言”已然能“以假亂真”。
其三，“效果”極佳，造謠“一本萬利”。由于沖擊力強、迷惑性高，不少虛假信息竟能產出百萬、千萬量級的瀏覽量。網絡造謠的門檻與成本之低，效率與收益之高，破壞與影響之大，讓人細思極恐。
謠言之害，不必多言。而當技術加持作惡，“網絡傳播的坍塌”就不再是危言聳聽。
這些年，監管部門也一直在升級對AI謠言的治理。比如，相關規定明確提出，要對AI生成內容作出鮮明標識。不過，從現實來看，不少平臺對AI生成的信息要么沒有提示，要么字體極小，有的審核機制滯后甚至“先發后審”，給謠言傳播留下了較大空間。再看技術層面，多個平臺上線AI檢測工具，嘗試用“魔法打敗魔法”。但對于海量生產的UGC內容而言，AI測假的能力看上去還沒能跟上需求。總體來看，制度完善“提速”，治理手段“提智”，方向肯定沒錯，關鍵是如何做好落實。
AI技術日日加速迭代，這也意味著治理AI造謠必須加緊腳步，治理手段和路徑都須更具前瞻性。加大資源與技術投入，盡快形成治理合力，才能防止AI工具淪為謠言的“黑箱”。
前幾天，一則“政府工作人員因買方便面被通報”的消息甚囂塵上。公安網安部門查明，該內容均屬虛構，系曹某林為博眼球利用AI憑空捏造。目前，曹某林已被屬地公安機關依法采取刑事強制措施。
“厲行節約、反對浪費”本是社會共識，也是正風肅紀的抓手，流量投機分子偏偏炮制謠言碰瓷，人為制造“低級黑”。從現實影響看，這一荒誕謠言還真迷惑了一些人，對相關工作造成了一定干擾。如今造謠者被刑拘，再度警示各方：造謠生事不僅缺德，更是違法，必然付出代價。
更值得一提的是，上述謠言又是“AI生成”。近兩年來，AI謠言頻出，且明顯侵入時事政治等硬新聞領域，并展現出幾個典型特性。
其一，成本極低，造謠趨于工業化。以往，為了抓人眼球，造謠者還要費些心思編造拼接，刺激情緒。如今，敲敲鍵盤就可批量生產不實內容。一鍵生成、坐收流量，在AI助力下，一個人就可以是一支“水軍”。有報道顯示，某家MCN機構用AI生成文章和圖片，最高峰一天能生成4000至7000篇。
其二，能力極強，“出品”有模有樣。從惡搞名人，到捏造熱點，再到“改寫”歷史，各個領域AI都能信手拈來。往往只需要一個指令，其就能將文字、聲音、圖像和視頻等深度融合。基于強大的生成能力，很多“AI謠言”已然能“以假亂真”。
其三，“效果”極佳，造謠“一本萬利”。由于沖擊力強、迷惑性高，不少虛假信息竟能產出百萬、千萬量級的瀏覽量。網絡造謠的門檻與成本之低，效率與收益之高，破壞與影響之大，讓人細思極恐。
謠言之害，不必多言。而當技術加持作惡，“網絡傳播的坍塌”就不再是危言聳聽。
這些年，監管部門也一直在升級對AI謠言的治理。比如，相關規定明確提出，要對AI生成內容作出鮮明標識。不過，從現實來看，不少平臺對AI生成的信息要么沒有提示，要么字體極小，有的審核機制滯后甚至“先發后審”，給謠言傳播留下了較大空間。再看技術層面，多個平臺上線AI檢測工具，嘗試用“魔法打敗魔法”。但對于海量生產的UGC內容而言，AI測假的能力看上去還沒能跟上需求。總體來看，制度完善“提速”，治理手段“提智”，方向肯定沒錯，關鍵是如何做好落實。
AI技術日日加速迭代，這也意味著治理AI造謠必須加緊腳步，治理手段和路徑都須更具前瞻性。加大資源與技術投入，盡快形成治理合力，才能防止AI工具淪為謠言的“黑箱”。
本文鏈接：http://m.9105763.cn/v-146-2527.html警惕AI成為謠言工廠
相關文章：
滲入鄉土，AI是一粒怎樣的種子06-04
理想與信念的好句好段摘抄10-11
蔡康永經典語錄08-31
經典工作事業順利祝詞08-28
2024年行政部門工作總結與計劃 行政部門工作總結(7篇)09-02
骨折事故賠償協議書11-30
全國助殘日演講稿05-26
大班幼兒育兒的心得體會03-19
母親節有感句子12-28
義賣的感想10-17
假如我被克隆了作文12-05
紅海灘作文09-06
九年級開學班主任給新生的寄語08-31
我的課余生活初二作文07-23
山西歷年三本分數線是多少10-24
《同曹三御史行泛湖歸越》作品鑒賞11-02
待人接物的基本禮儀08-02