“拜登”来电干扰大选？美国提议用AI生成语音拨打机器人电话非法

针对近期美国发生多起AI深度造假事件，当地时间2月1日，美国联邦通信委员会（FCC）主席杰西卡·罗森沃塞尔（Jessica Rosenworcel）提议，将使用AI生成的语音拨打机器人电话（robocall）定为非法。

机器人电话（robocall）也被称为预录电话，使用计算机控制的自动拨号器来发出预先录制好的信息，就像机器人一样，一般以推销或传播某种信息为目的，频繁骚扰手机用户。

美国联邦通信委员会表示，机器人电话中用人工智能生成的声音“在过去几年中不断升级”，并且“有可能通过模仿名人、政治候选人和亲密家庭成员的声音来制造错误信息迷惑消费者”。

罗森沃塞尔表示，她提出的宣告式裁决（Declaratory Ruling）将“根据现行法律认定这种新兴技术是非法的，这将为我们在全国各州总检察长办公室的合作伙伴提供新的工具，他们可以利用这些工具打击骗局，保护消费者。”报道称，委员们将在未来几周内对该提案进行表决。

此前，人工智能生成的虚假信息已多次干扰美国政治活动。

当地时间1月21日，美国的一些选民们曾接到一个类似拜登声音的电话，要求选民“把你的票留到11月选举”，理由是1月23日投票的人没法再参与届时的总统选举投票。电话还特意用了拜登的口头禅“真是一派胡言”。据美联社报道，电话说法不实。

此外，在2023年2月举行的芝加哥市长选举第一轮投票前夕，社交媒体上出现了一段关于候选人保罗·瓦拉斯的视频，伪造瓦拉斯的声音发表言论，声称“警察随随便便就可以射杀嫌疑人”，并呼吁削减警察经费。在瓦拉斯向社交媒体平台发出投诉之后，社交媒体删除了这段视频，但该视频在下架前已经被浏览了数千次。

语音克隆初创公司ElevenLabs证实，伪造的拜登语音是由该公司提供的工具生成。目前，ElevenLabs已暂停利用深度造假技术发布信息的账户。

据澎湃新闻报道，互联网安全组织“网络尖刀”的一位匿名技术专家表示，深度造假技术制作的内容在视觉、听觉上非常逼真，很难单凭肉眼或传统的技术手段辨别真伪。攻击者可以利用技术手段隐藏深度造假的痕迹和特征，使其难以被检测到。现在互联网上存在大量图片和视频数据，这些数据用于训练深度学习模型，从而也被深度造假技术利用，“可用的数据集越多，模型的质量就越高，深度造假的结果离真人越近。”

那么，在传播过程中如何加强对此类视频的监管呢？

中国社会科学院大学互联网法治研究中心执行主任刘晓春建议，语音克隆公司研发App时，对于跟名人有关、误导性较强、传播风险较大的视频，可以在传播过程中加强显性标识的设计，明确标明这是一个合成内容，提醒受众。

（综合来源：新华社、央视新闻、澎湃新闻）

编辑 秦涵 审读 郭建华 二审 张玉洁 三审 江晓蚕