四川依法查處10起利用AI軟件造謠典型案例

近年來(lái)

隨著人工智能技術(shù)（AI）的高速發(fā)展

一些不法分子

利用AI的文本和圖像生成功能

編造虛假信息

使“AI類(lèi)網(wǎng)絡(luò)謠言”滋生擴(kuò)散

破壞網(wǎng)絡(luò)生態(tài)，擾亂社會(huì)秩序

今日

四川網(wǎng)警公布10起AI造謠典型案例

一起來(lái)看看

↓↓↓

??案例一

??利用AI軟件編造“山體滑坡致8人遇難”網(wǎng)絡(luò)謠言

??2024年1月23日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱(chēng)：“云南山體滑坡災(zāi)害 已致8人遇難”。經(jīng)查，違法行為人楊某某為獲取流量牟利，搜集網(wǎng)絡(luò)上的相關(guān)信息后，利用AI軟件生成了“云南山體滑坡災(zāi)害 已致8人遇難”的虛假新聞信息，并發(fā)布在網(wǎng)絡(luò)平臺(tái)上，造成不良社會(huì)影響。目前，四川廣元公安機(jī)關(guān)已依法對(duì)楊某某進(jìn)行行政處罰。

??案例二

??利用AI軟件編造“喜德縣地震”網(wǎng)絡(luò)謠言

??2024年6月9日，有網(wǎng)民在某視頻平臺(tái)發(fā)布視頻稱(chēng)，“5月27日，四川省涼山彝族自治州發(fā)生5.0級(jí)地震，震中位于喜德縣，地震波以每小時(shí)80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡，災(zāi)情嚴(yán)重”。經(jīng)查，5月27日涼山發(fā)生5.0級(jí)地震，震中位于木里縣，無(wú)人員傷亡，部分房屋受損，違法行為人羅某某為吸引眼球、獲取流量，利用AI軟件生成虛假地震災(zāi)情圖片，并在某短視頻平臺(tái)散布不實(shí)信息。目前，四川涼山公安機(jī)關(guān)已依法對(duì)羅某某進(jìn)行行政處罰。

??案例三

??利用AI軟件編造“巴中警民對(duì)峙”網(wǎng)絡(luò)謠言

??2024年5月18日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱(chēng)：”巴中市最近上演了一場(chǎng)令人驚心動(dòng)魄的事件，一輛運(yùn)鈔車(chē)遭到踢爆，警民雙方展開(kāi)了一場(chǎng)激烈的對(duì)峙”。經(jīng)查，4月30日上午9時(shí)許，在四川巴中的一輛運(yùn)鈔車(chē)因在公交車(chē)站牌處占道停留，交警發(fā)現(xiàn)后請(qǐng)運(yùn)鈔車(chē)駛離。違法人員尚某某在網(wǎng)上獲悉相關(guān)圖片后，為吸引眼球，獲取流量和利益，帶著僥幸心理，在未經(jīng)核實(shí)的情況下使用“AI千文”生成標(biāo)題為《一場(chǎng)驚心動(dòng)魄的"鈔票大戰(zhàn)"巴中市警民對(duì)峙引發(fā)轟動(dòng)誰(shuí)將成為勝利者》的虛假信息并發(fā)布，誤導(dǎo)網(wǎng)民，引發(fā)社會(huì)恐慌，擾亂公共秩序。目前，四川巴中公安機(jī)關(guān)已依法對(duì)尚某某進(jìn)行行政處罰。

??案例四

??利用AI軟件編造“九旬老人遭兒女遺棄”網(wǎng)絡(luò)謠言

??2024年6月24日，有網(wǎng)民在某平臺(tái)發(fā)布一則題為成都市新都區(qū)大豐街道“九旬老人遭兒女遺棄，流浪乞討多年成‘皮包骨’”的文章。經(jīng)查，文章中的圖片來(lái)源于某外國(guó)博主救助外國(guó)流浪老人的視頻，而文章中的這位“李老頭”也遠(yuǎn)在大洋彼岸，違法行為人張某為了吸引流量、博取關(guān)注，在家中借助AI程序，結(jié)合自己的“所思所想”編造并發(fā)布了這篇虛假文章。目前，四川成都公安機(jī)關(guān)已依法對(duì)張某進(jìn)行行政處罰。

??案例五

??利用AI軟件編造“4月大女?huà)氡贿z棄”網(wǎng)絡(luò)謠言

??2024年1月12日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱(chēng)：“一則令人心痛的新聞在貴州省貴陽(yáng)市花溪區(qū)傳開(kāi)，一個(gè)僅僅4個(gè)月大的女?huà)氡贿z棄在超市角落”。經(jīng)查，違法行為人周某開(kāi)發(fā)了可自動(dòng)編撰文章的“翠綠筆墨”AI工具和配套管理系統(tǒng)，并招募志愿者創(chuàng)建工作群，要求志愿者提供平臺(tái)賬號(hào)，由其開(kāi)發(fā)的管理系統(tǒng)代為登錄賬號(hào)，周某再利用AI工具自動(dòng)生成相關(guān)文章，通過(guò)管理系統(tǒng)自動(dòng)保存到志愿者平臺(tái)賬號(hào)的“草稿箱”中，通過(guò)工作群發(fā)布任務(wù)，由志愿者通過(guò)手機(jī)從“草稿箱”中手動(dòng)發(fā)布，2023年11月以來(lái)，周某通過(guò)招募獲取相關(guān)賬號(hào)300余個(gè)（均已關(guān)停），利用AI工具編造信息約42萬(wàn)余條（均已清除）。目前，四川達(dá)州公安機(jī)關(guān)已依法對(duì)周某進(jìn)行行政處罰。

??案例六

??利用AI編造“成都公交車(chē)失控”網(wǎng)絡(luò)謠言

??2023年11月20日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱(chēng)：“四川成都公交車(chē)失控沖入河中”。經(jīng)查，違法行為人陳某看到“重慶公交車(chē)失控墜河10死2傷”的新聞后，為吸引眼球、博取流量，通過(guò)AI軟件合成，將內(nèi)容篡改為“成都龍泉驛公交車(chē)失控墜河10死2傷”后發(fā)布到互聯(lián)網(wǎng)，產(chǎn)生不良社會(huì)影響。目前，四川成都公安機(jī)關(guān)已依法對(duì)陳某進(jìn)行行政處罰。

??案例七

??利用AI軟件編造“地下熱管道破裂”網(wǎng)絡(luò)謠言

??2023年12月27日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱(chēng)："西安市鄠邑區(qū)地下涌出熱水、疑是地下熱管道破裂引發(fā)”。經(jīng)查，違法行為人王某、柳某為賺取平臺(tái)獎(jiǎng)勵(lì)，利用AI軟件自動(dòng)生成“西安鄠邑區(qū)地下熱管道破裂”的文章，并與河南省商丘網(wǎng)發(fā)布的“商丘一熱管道破裂”圖片進(jìn)行嫁接，發(fā)布在網(wǎng)絡(luò)平臺(tái)上，引發(fā)大量網(wǎng)民關(guān)注，造成不良社會(huì)影響。目前，四川綿陽(yáng)公安機(jī)關(guān)已依法對(duì)王某、柳某進(jìn)行行政處罰。

??案例八

??利用AI編造“建筑工地事故”網(wǎng)絡(luò)謠言

??2023年11月28日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱(chēng)：“成都龍泉驛區(qū)一工地上，四名工人使用腳手架高空作業(yè)觸碰高壓線不幸身亡”。經(jīng)查，違法行為人朱某在互聯(lián)網(wǎng)看到“四川達(dá)州渠縣使用腳手架高空作業(yè)觸碰高壓線造成四人死亡”的新聞后，為吸引眼球、博取流量，通過(guò)AI軟件合成，將事故地點(diǎn)篡改為成都龍泉驛區(qū)后發(fā)布到互聯(lián)網(wǎng)，產(chǎn)生不良社會(huì)影響。目前，四川成都公安機(jī)關(guān)已依法對(duì)朱某進(jìn)行行政處罰。

??案例九

??利用AI軟件編造“嫖娼突發(fā)心臟病死亡”網(wǎng)絡(luò)謠言

??2024年5月11日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱(chēng)：“涼山西昌有一男子因嫖娼突發(fā)心臟病死亡，其家屬向兩名賣(mài)淫女和賓館老板尋求賠償”。經(jīng)查，違法行為人吉某某為吸引流量通過(guò)AI工具“智普清言”炮制該虛假文章并發(fā)布，造成不良影響。目前，四川涼山公安機(jī)關(guān)已依法對(duì)吉某某進(jìn)行行政處罰。

??案例十

??利用AI軟件編造“虛假橫幅”網(wǎng)絡(luò)謠言

??2024年4月，有網(wǎng)民在某平臺(tái)發(fā)布“成都市郫都區(qū)德源鎮(zhèn)某某開(kāi)發(fā)區(qū)奠基儀式”的視頻。5月，該網(wǎng)民又發(fā)布一掛有“讓全村都懷上二胎，是村支書(shū)不可推卸的責(zé)任”橫幅的圖片視頻。經(jīng)查，以上視頻為AI編輯生成，均為不實(shí)信息。目前，四川成都公安機(jī)關(guān)已依法對(duì)王某進(jìn)行行政處罰。