“截屏造假”“张冠李戴”,正在成为一种低成本的、危害巨大的制造、传播谣言的手段,值得高度警惕。尤其当网络与现实生活高度契合,网民看到某些无权威来源信息后无法分辨真伪,层层传播后更将其推波助澜。于是,一条条无中生有的信息经过不法分子“包装”后,伪装成“热点新闻”传播,形成恶劣社会影响。
2024年是打击整治网络谣言专项行动年,公安部部署全国公安机关开展为期一年的专项行动。截至11月26日,上海公安机关累计查处网络谣言案件1464起,打掉“网络水军”团伙47个,清理网络谣言信息57万余条,关停违法账号5.5万余个,行政处罚相关单位63家。
出于炫耀心理制造“向寺庙借款”的谣言
2024年7月2日,一张所谓“网易新闻”发布的主要内容为“上海财政紧张 向寺庙借款100亿”的文字图片在各大网络平台快速传播,引起网民广泛关注,一度登上热搜。
上海警方第一时间对该信息进行核查,在确认是谣言后,会同属地公安机关对谣言发布者依法予以处罚,并同步协调本市媒体、具有一定影响力的本土网络大V发布事件真相,快速、精准击碎网络谣言,还原事实。
经查,犯罪嫌疑人孙某时常吹嘘自己能够得到“内部消息”,以营造自己“消息灵通”以及“人脉宽广”的人设。为了给自己的人设增加可信度,其使用图片编辑软件,将自己捕风捉影的信息与知名平台的报头拼接后发给他人,试图证实自己消息来源的可靠性。
澎湃新闻记者注意到,相比以往“网络水军”犯罪团伙,“向寺庙借款”造谣者为个人,并且通报中未提及其有不法获利。上海市公安局网安总队告诉记者,不像“网络水军”有利可图,“个人制造谣言的目的一般是出于炫耀心理,往往通过发布一些未经证实的‘内幕信息’彰显自己的‘消息灵通’等”。
“从办案角度来说,一些蹭社会热点、有一定‘背景’、有细节描述的谣言容易引起社会关注。以‘向寺庙借款’案为例,从‘政府向寺庙借款’这样极具话题性的角度,辅以‘财政局一位不愿透露姓名的工作人员’和嫁接‘网易’背景突出‘真实性’,并列举了借款细节,进一步增加了谣言的‘真实性’。”网安总队表示。
AI生成的假消息具有哪些特点
除了个人造谣者,撰写、发布不实帖文以从中牟利的“网络水军”也屡打不绝,其提供的“服务”也愈发多样化和精细化。
近期,上海警方经过缜密侦查,全链条捣毁一个“网络水军”犯罪团伙,抓获犯罪嫌疑人11人,涉案金额达200余万元。
澎湃新闻记者从上海市公安局获悉,该团伙对外声称其业务为企业品牌形象优化,实则提供处置虚假帖文信息服务(部分文章由AI生成)。其根据客户要求,撰写不实文章,交给外包公司在各大互联网平台予以发布,意图稀释负面舆情、下沉负面帖文,虚增指定产品的影响力、曝光度、好评度,扰乱正常市场秩序。
记者注意到,相比传统的“网络水军”,该团伙使用了AI生成文章。AI生成的假消息该如何辨别,其又呈现出哪些特点?
网安总队告诉记者,目前AI生成的假消息的主要特征是标题“吸睛”,帖文采用“三段论”。“为吸引网民点击,网络水军通常使用‘标题党’‘震惊体’作为标题开头,如‘骇人听闻’‘丢人现眼’等较为夸张的形容词。在格式上,往往是‘三段式’文章,常常会出现文不对题,词不达意的情况。”
互联网作为社会公众获取信息的重要途径之一,网络信息的真实、可信是构建清朗网络空间的基础。面对纷繁复杂的网络信息,受众又该如何提高辨识能力?
网安总队介绍,对于热点事件,不法分子往往会在大众关心的公共事件中添加细节、歪曲事实,“所以即使有图有视频的信息也不能轻易相信,希望广大网友要保持理性,通过官方信息了解情况,辨别真伪。”
面对五花八门的网络信息,我们可能无法辨别真伪。但至少我们可以做到不推波助澜,“让子弹飞一会儿”。
编辑 高原 审读 张蕾 二审 周梦璇 三审 彭健