跟踪错误信息的组织NewsGuard12月18日发布报告称，自5月以来，托管人工智能创建的虚假文章的网站增加了1000%以上，从49个网站激增至600多个。

NewsGuard的一项调查发现，一篇由人工智能生成的文章讲述了有关以色列总理本杰明·内塔尼亚胡精神科医生的假故事，声称他已经去世，并留下一张纸条，暗示内塔尼亚胡参与其中。这位精神科医生似乎是虚构的，但该说法出现在伊朗电视节目中，并在阿拉伯语、英语和印度尼西亚语媒体的网站上转载，在社交平台TikTok、Reddit和Instagram上被用户传播。

伊朗国营电视台援引不可靠的人工智能生成的英文新闻网站GlobalVillageSpace.com来宣扬内塔尼亚胡的“精神科医生”自杀的错误说法。图片来源：NewsGuard

错误信息专家表示，这些网站的快速增长在2024年的各个选举前夕尤其令人担忧。“其中一些网站每天会生成数百甚至数千篇文章。”进行调查的NewsGuard研究员杰克·布鲁斯特（Jack Brewster）对媒体表示，“这就是为什么我们称其为下一个大型的错误信息超级传播者。”

今年9月，斯洛伐克进步党领袖米哈尔·西梅奇卡（Michal Šimečka）在选民投票前几天发现，他的声音被克隆，说出了他从未说过的有争议的话。两周后，英国工党领袖似乎被录下了在X（前身为Twitter）上斥责一名工作人员的充满脏话的长篇大论的录音。越来越多的网站，例如使用“iBusiness Day”或“爱尔兰热门新闻”等通用名称发布假新闻，使其看起来很真实。

将真实新闻和人工智能生成的新闻放在一起，会让欺骗性的故事更加可信。媒体和人工智能专家表示，类似“地球村空间”的网站可能会在2024年各种选举期间激增，成为传播错误信息的有效方式。

创建这些网站的动机各不相同。有些是为了动摇政治信仰或造成严重破坏。布鲁斯特说，还有一些网站大量生产两极分化的内容来吸引点击并获取广告收入。但他补充说，增强虚假内容的能力是一个重大的安全风险。

在国内，AI假新闻现象也时有发生。

今年2月中旬，网上曾流传出一则 “某市政府3月1日取消机动车依尾号限行”的消息，经警方调查后发现，这竟是当地某小区业主随手用AI大语言模型生成的假新闻；5月16日凌晨，某市一鸡排店门前，杨某、刘某、耿某与邻桌李某发生口角争执，双方使用啤酒瓶、塑料啤酒框等斗殴，均受轻伤。视频流传到网络后迅速引发关注，但一名男子陈某看到后，利用AI大语言模型生成并发布“某鸡排店惊现血案，男子用砖头砸死女子”的不实信息。经查，公安机关认定陈某恶意夸大、编造信息以博取流量，已依法对其采取刑事强制措施。

视频截图

迄今为止，NewsGuard的团队已识别出614个不可靠的人工智能生成的新闻和信息网站，标记为“UAINS”，涵盖15种语言：阿拉伯语、中文、捷克语、荷兰语、英语、法语、德语、印度尼西亚语、意大利语、韩语、葡萄牙语、西班牙语、他加禄语、泰语和土耳其语。

如何识别AI假新闻？NewsGuard建议读者警惕以下几点：

• 错误事实和语言风格：机器人生成的新闻往往包含事实错误和与人类记者不同的语言风格，例如重复使用特定的术语或句式。

• 新闻发布频率：真正的新闻网站不会每天发布大量新闻，而虚假新闻网站则为了吸引流量，不惜制造大量虚假内容。

• 缺乏编辑监督：正规新闻网站通常会经过编辑的严格审核，而虚假新闻网站则缺少这种监督机制。

NewsGuard认为，未来虽然许多新闻网站会利用 AI 工具辅助内容生产，但它们不会像现在这些虚假网站一样毫无顾忌地大量产出不经核查的信息。

（综合来源：澎湃新闻、每日经济新闻、@平安郑州、IT之家）

编辑 刘悦凌 审读 郭建华 二审 李怡天 三审 万晖