公安部网安局 2024年09月30日 14:01 北京
近年来，利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图有真相”的常规认知，让人难辨真假。为维护网络清朗空间，重庆警方在“净网2024”专项行动期间，持续加大对利用AI工具造谣的打击整治力度，发现一起处理一起，现公布5起典型案例。
1.两江新区公安分局依法查处王某利用AI工具编造“某服务点遭暴力袭击”网络谣言案
2024年1月，两江新区网民王某（男，48岁）在网络平台发布一篇题为《曝光！某地农村消费合作社服务点暴力袭击，存款难题严重困扰》的帖文，该帖文一经发布，迅速引发网民关注和议论，影响恶劣。全文以新闻报道的口吻称“某市一家农村消费合作社服务点被敌对势力以暴力手段进入，工作人员和顾客被残暴袭击”。公安机关查明，王某为赚取流量，利用AI工具编造虚假新闻，扰乱公共秩序，造成不良社会影响。王某对违法行为供认不讳，两江新区公安分局已依法对王某处以行政处罚。
2.涪陵区公安局依法查处余某某利用AI工具编造“某地一银行遭劫匪袭击”网络谣言案
2024年3月，涪陵区网民余某某（男，26岁）在网络平台发布一篇题为《某地一银行遭劫匪袭击！警方通报案情，抓获嫌疑人的故事曝光》的帖文。该帖文一经发布，迅速引发网民关注和议论，影响恶劣。公安机关查明，余某某为博取关注、赚取流量，利用AI工具自动创作文章，编造了上述谣言信息。余某某对违法行为供认不讳，涪陵区公安局已依法对余某某处以行政处罚。
3.武隆区公安局依法查处刘某利用AI工具编造“北方一城市某工厂被大风夷为平地，多人死伤”网络谣言案
2024年4月，武隆区网民刘某（男，20岁）在网络平台发布一则《北方一城市某工厂被大风夷为平地，造成2人当场死亡，3人受伤》的帖文，该帖文一经发布，迅速引发网民关注和议论，影响恶劣。公安机关查明，刘某为赚取流量，利用AI工具编造虚假新闻，扰乱公共秩序，造成不良社会影响。刘某对违法行为供认不讳，武隆区公安局已依法对刘某处以行政处罚。
4.奉节县公安局依法查处徐某某利用AI工具编造虚假交通违法处理单网络谣言案
2024年7月，奉节县网民徐某某（男，40岁）在短视频平台散布一张交通违法处理单的图片，配文称，“处罚依据为：左手握方向盘，右手摸副驾驶大腿”，该信息引发网民关注和议论，影响恶劣。公安机关查明，徐某某为博取关注、赚取流量，利用AI软件炮制虚假交通违法处理单，扰乱公共秩序，造成不良社会影响。徐某某对违法行为供认不讳，奉节县公安局已依法对徐某某处以行政处罚。
5.合川区公安局依法查处石某利用AI工具编造虚假交通违法处理单网络谣言案
2024年7月，合川区网民石某（男，45岁）在某短视频平台上发布一张交通违法处理单的图片，配文称，“开车时向女交警吹口哨，被罚款200块扣11分”。该视频引发大量网民关注和议论。公安机关查明，石某为博取关注，利用AI软件炮制虚假交通违法处理单，扰乱公共秩序，造成不良社会影响。石某对违法行为供认不讳，合川区公安局已依法对石某处以行政处罚。
素材
重庆网警
