近年來，AI技術(shù)飛速發(fā)展，給人們的生活帶來諸多便利，但它也成了一些人傳播虛假信息的“幫兇”，潛藏的風(fēng)險不容小覷。
2025年4月15日，杭州濱江公安分局發(fā)布通報，謝某某為博流量，用AI生成工具編造“4月7日凌晨濱江區(qū)發(fā)生惡性案件”的虛假案情，深度編輯后發(fā)在社交平臺。這種行為嚴(yán)重?cái)_亂社會秩序，警方依法對其行政處罰，并責(zé)令刪除不實(shí)信息。
杭州這起案例并非個例，AI虛假信息制造已成為一個愈發(fā)嚴(yán)重的社會問題。2024年公安部通報過一起極具典型性的案件，某MCN機(jī)構(gòu)運(yùn)營著多達(dá)842個自媒體賬號，他們組織團(tuán)隊(duì)利用AI工具，如同工廠流水線一般，一天就能批量生成4000-7000篇網(wǎng)絡(luò)虛假信息。
想象一下，海量的虛假內(nèi)容在網(wǎng)絡(luò)這個大染缸里肆意擴(kuò)散，它們或誤導(dǎo)公眾對熱點(diǎn)事件的認(rèn)知，或歪曲事實(shí)、挑起輿論爭端，對網(wǎng)絡(luò)生態(tài)環(huán)境造成了難以估量的破壞。
這些利用AI制造的虛假信息，往往具有很強(qiáng)的迷惑性。AI技術(shù)的日益成熟，使得謠言制造者能夠輕松模仿真實(shí)人物的聲音、外貌，甚至是行為模式和語言邏輯。他們圍繞熱點(diǎn)事件或敏感話題，編造出聳人聽聞的情節(jié)，或是以當(dāng)事人的口吻發(fā)表夸張言論，配上看似真實(shí)的圖片、視頻，普通民眾僅憑肉眼和常識，極難分辨其中真?zhèn)危圆涣粢饩蜁徽`導(dǎo)。
在這樣的背景下，我們必須提高對AI虛假信息的辨別能力。杭州網(wǎng)數(shù)據(jù)酷新聞工作室推出了H5互動游戲“火眼金睛識AI”，系統(tǒng)會隨機(jī)給出10道判斷題，讓用戶判斷展示的圖片究竟是AI生成，還是真實(shí)照片。
掃碼測一測
用戶可以從細(xì)節(jié)、光影、時空矛盾等關(guān)鍵方面入手判斷，多加觀察，提升辨別AI生成內(nèi)容的技巧。從辨別圖片延伸至視頻、新聞也是同樣的邏輯，比如，在一些AI生成的虛假圖片中，人物的手指數(shù)量可能會出現(xiàn)異常，光影效果也不自然；AI合成的視頻里，人物的口型與聲音可能對不上，背景也會出現(xiàn)模糊、扭曲等情況。此外，AI生成的謠言在邏輯上也常常漏洞百出，出現(xiàn)時間矛盾，像提到2024年的政策，卻引用2025年的數(shù)據(jù)，或是出現(xiàn)地名錯誤等低級失誤。
AI虛假信息的泛濫對社會秩序和公眾認(rèn)知造成了嚴(yán)重干擾，我們必須提高警惕，積極應(yīng)對。在這場與AI虛假信息的博弈背后，我們還需深入思考更多值得警惕的問題，推薦閱讀評論文章《人工智能狂潮下，我們應(yīng)該警惕什么？》，讓我們對AI技術(shù)的發(fā)展有更全面、更理性的認(rèn)識。
鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標(biāo)記有誤，請第一時間聯(lián)系我們修改或刪除，多謝。
