AI技術(shù)正在逐漸改變我們的生活方式，提升工作效率,，為解決問題提供新途徑,。但與此同時(shí)，個(gè)別人在利用AI技術(shù)時(shí)走向迷途,，借助AI工具生產(chǎn)仿真度高的虛假信息,，在網(wǎng)絡(luò)上迅速傳播。3月20日,，太原網(wǎng)警提醒廣大網(wǎng)民,，以理性駕馭AI，用法律守護(hù)底線,，攜手傳遞正能量,，勿讓“神器”變“兇器”。
3月10日以來,，一則“有頂流明星在澳門輸了10億”的信息在互聯(lián)網(wǎng)平臺(tái)傳播,，引發(fā)網(wǎng)民熱議和各種猜測(cè)，相關(guān)話題頻繁登上社交媒體熱搜熱榜,。
公安網(wǎng)安部門查明,，網(wǎng)民徐某強(qiáng)(男，36歲)為博取流量,、牟取非法利益,，于2025年3月10日10時(shí)，使用軟件“某書”中AI智慧生成功能,，輸入社會(huì)熱點(diǎn)詞制作了標(biāo)題為“頂流明星被曝境外豪賭輸光10億身家引發(fā)輿論海嘯”的謠言信息,，并通過互聯(lián)網(wǎng)平臺(tái)對(duì)外發(fā)布，造成謠言迅速傳播擴(kuò)散,，引發(fā)大量網(wǎng)民議論,，誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜,，嚴(yán)重?cái)_亂公共秩序,。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)，對(duì)徐某強(qiáng)處以行政拘留8日的處罰,。
隨著科技的發(fā)展,，利用AI發(fā)布虛假信息“博眼球”屢見不鮮,。有人偽造熱點(diǎn)事件，用AI生成“某地重大事故”圖文或者視頻,，再配上煽動(dòng)性的標(biāo)題博流量；有人捏造名人言論,，篡改語音,、合成視頻，假借權(quán)威人士發(fā)布虛假政策解讀,；有人炮制偽科普,，利用AI生成“科學(xué)數(shù)據(jù)”，兜售偽劣產(chǎn)品(如“AI檢測(cè)抗癌神藥”),；甚至有人嫁接虛假證據(jù),，將無關(guān)圖片通過AI換臉或者換背景，捏造“維權(quán)證據(jù)”“聊天記錄”,。
作為一種新型謠言傳播趨勢(shì)與犯罪手段,，“AI造謠”擾亂了輿論秩序，危害經(jīng)濟(jì)和社會(huì)平穩(wěn)運(yùn)行,，給網(wǎng)絡(luò)謠言治理帶來了新挑戰(zhàn),。2024年，山西公安組織“凈網(wǎng)”專項(xiàng)行動(dòng),，嚴(yán)打網(wǎng)絡(luò)違法犯罪,，偵辦涉網(wǎng)案件3200余起；開展打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng),，偵辦網(wǎng)絡(luò)謠言案件400余起,，清理網(wǎng)絡(luò)謠言信息2600余條，關(guān)停違法違規(guī)賬號(hào)9700余個(gè),；始終保持打擊侵犯公民個(gè)人信息犯罪高壓態(tài)勢(shì),，偵破案件110余起，網(wǎng)絡(luò)空間更加清朗有序,。這體現(xiàn)了公安機(jī)關(guān)打擊“AI造謠”毫不手軟的態(tài)度,，以及護(hù)航經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展的堅(jiān)定決心。
作為普通網(wǎng)民,，如何識(shí)別AI謠言,？網(wǎng)警教你四步識(shí)別：首先是查源頭，警惕無明確作者,、無正規(guī)信源的內(nèi)容,，AI生成信息常偽裝成“網(wǎng)友投稿”“內(nèi)部消息”；其次要看細(xì)節(jié),，如果是AI圖像,，觀察人物手指數(shù)量有無異常,，光影是否自然等，如果是AI視頻,，則需注意人物口型與聲音是否同步,、背景是否模糊扭曲等；再次是驗(yàn)邏輯,，AI生成謠言常出現(xiàn)時(shí)間矛盾,，如2024年的政策，引用的卻是2025年的數(shù)據(jù),，出現(xiàn)地名錯(cuò)誤等,；最后要用工具，關(guān)注“公安部網(wǎng)安局”新媒體賬號(hào)打謠信息,，或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)”“騰訊較真”等渠道一鍵驗(yàn)證,。
太原網(wǎng)警在此提醒：互聯(lián)網(wǎng)并非法外之地，要嚴(yán)守法律紅線,，不利用AI偽造公文,、證件，不生成謠言,、暴力等違法信息,。遇到所謂的“爆炸性新聞”，不輕信,、不轉(zhuǎn)發(fā),、不擴(kuò)散。通過官方平臺(tái)驗(yàn)證信息,，發(fā)現(xiàn)AI謠言立即舉報(bào),，保存證據(jù)協(xié)助溯源。使用者應(yīng)主動(dòng)標(biāo)注AI生成內(nèi)容,，人人爭做“謠言粉碎者”,，共同維護(hù)清朗網(wǎng)絡(luò)空間。
