美国知名歌手泰勒·斯威夫特成为了AI深度伪造的受害者，近日，大量由人工智能生成的泰勒虚假色情、血腥照片在多个社交平台疯传，浏览量已超过千万，引发社交媒体震动，这也引发了美国白宫的注意。

图源：泰勒·斯威夫特网站

1月26日，白宫对此作出回应，称表示“担忧”，并敦促美国国会立法打击此类行为。

深度伪造的“泰勒·斯威夫特”在网上疯传

泰勒团队或将起诉相关网站

据紫牛新闻，这些深度伪造的泰勒照片是由某人或某些人使用AI生成并上传到了一家不良网站上，这一网站上充斥了众多以名人为主角的不雅照，虚假照片很快传播到了主流社交媒体并在网友之间迅速传播。

目前部分参与传播的账号已被社交平台封禁，各社交平台也在清除流传的图片，但是漏网之鱼依然存在，有人自建网站或者通过匿名群组售卖这些深度伪造的照片。

据九派新闻报道，泰勒·斯威夫特正在考虑对生成这些图片的网站采取法律行动。“X”平台表示正在“积极删除相关图片”。

Facebook方面，母公司Meta一名发言人称：这些内容违反了我们的政策，我们正在将其从我们的平台上删除，并对发布该内容的账户采取行动。

在26日白宫记者会上，发言人让-皮埃尔被问及此事时表示，“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”

并非泰勒斯威夫特第一次受害

实际上这不是泰勒第一次成为AI深度伪造的受害者，就在不久前，有人使用人工智能技术仿造了她的声音和形象来为商品进行推广，让消费者误以为这是泰勒代言的商品。

AI生成的泰勒·斯威夫特推销Le Creuset炊具视频

据每日经济新闻，涉事公司对此迅速做出回应称，Taylor Swift没有参与任何消费者赠品活动，所有关于产品促销的活动均来自官方社交活动。AI“深度造假”技术合成了她的声音，并将声音与她的形象和Le Creuset广告片段拼凑在一起。

当受害者被引导至虚假网站后，会被要求支付9.96美元的运费。但号称免费送的厨具不会真的送出去。

AI深度伪造技术引大众不安

在粉丝们为泰勒的遭遇而深感愤怒的同时，更多网民则传达出了对AI深度伪造技术的发展感到强烈不安的声音。

据紫牛新闻，从2023年起，国内已发生多起AI深度伪造诈骗案件，中招率相当高，叫人防不胜防，也已出现了多起利用AI技术造黄谣、传播不良信息的恶性事件。

面对以假乱真的AI伪造技术，国内外的专家学者、相关领域的企业机构也想过不少应对办法，比如在2023年12月，一款名为mist的隐形图片水印在网上开源发布，该水印用于抵抗AI模型对图片的训练和抓取，这一水印能够极大程度干扰AI模型，使之生成的图片遭受不同程度的破坏。

此外，也有开发者建议让AI生成平台、公司给相关的AI生成软件加上隐形水印机制，以快速识别AI并进行溯源，各个社交平台也应以技术手段加强对于疑似AI生成图、文、视频内容的识别功能。

在国内抖音、小红书等平台也已对疑似为AI生成的图文视频内容进行标识以提示用户小心分辨真假。

（来源：紫牛新闻、九派新闻、极目新闻、每日经济新闻、微博评论）

编辑 黄力雯 审读 郭建华 二审 李怡天 三审 万晖