AI换脸是怎么做到的?安全吗?专家提醒:小心这些暗藏风险
深圳晚报记者 白 雪 实习生 刘 玥
2023-08-06 08:42

目前,AI换脸技术日渐成熟,不少开发平台抓住这一机遇,推出各类AI换脸小程序和应用,掀起了一股“换脸”热潮。

其中一款名为“45AI”的小程序无需用户亲临照相馆,花费9.9元,就能获得一组经过AI换脸处理的芭比风格写真照片,其生成的照片有着粉色照片背景、皇冠发饰以及精致的芭比妆容,让消费者体验一把当真人芭比的感觉。

据深晚记者了解,“45AI”的使用者多为女性,有些用户甚至不惜排队等候数天。大量用户挤入,一度导致服务器瘫痪。小红书用户刘女士表示,她出于好奇心也用自己的照片生成了一张芭比照,虽然照片中的表情有些生硬,但照片中芭比公主的妆容,让她觉得很惊艳,仿佛自己就置身于芭比世界中。

市场上涌出10余款AI生成式图片应用

在芭比换脸爆火之前,市面上已陆续出现了与AI相关的图片工具,比如消费者熟悉的App美图秀秀,其中也存在AI相关功能,但由于AI生成技术的不完善,会出现人脸不真实、画面不够清晰、和本人不相似等情况。目前随着AI技术成熟,美图秀秀也上线了7款AI方向产品,可以进行AI绘画、AI扩图等。

目前AI大模型技术的成熟,涌现了超过十款AI生成式图片应用。这些软件大致可以分为两类,一类是以妙鸭相机、“45AI”为代表的AI换脸工具,另一类是以Midjourney为代表的AI绘画、绘图工具。

“我需要上传至少20张不同表情和发型的照片,花费9.9元再等候6个多小时就可以看到照片了。”使用过妙鸭AI的自媒体博主高女士向深晚记者介绍,她在微信朋友圈看到了其他朋友用妙鸭小程序生成的照片,她便抱着好奇的心态尝试使用。高女士比较满意妙鸭相机生成的照片效果,认为这些照片和本人很像。“不过还是有点AI感,没有真人灵动。”

为了测试这些AI生成式图片应用的水平,深晚记者采访了一位使用过多种AI换脸工具的用户杜女士,她一共测评过四款可以支持AI换脸的工具,分别是Midjourney、Faceplay、B612、妙鸭小程序。

杜女士介绍,不同的AI换脸工具所提供的服务和风格效果不同,价格不一。这是因为这些应用底层AI模型不同,参数量不同,训练数据集也有较大差异,所以各个应用生成的照片特点也有所不同。例如Midjourney,用于训练的数据集来自各个种族,所以可能并未针对亚洲面孔做出特殊微调,故而性价比可能相对不高。

AI大模型相关技术的进化催生换脸行业

这些应用是如何通过AI技术实现换脸的呢?那就要从人脸识别开始说起。智搜首席科学家、清华大学深圳国际研究生院副教授郑海涛接受深晚记者采访时表示:“AI换脸技术本质上就是采用深度学习的技术对图像进行分析和处理,它的学习技术本身是一种基于神经网络的技术,通过神经网络再基于分布的规律和用户要求将图像重新排布拟合。”

AI换脸的基本步骤第一步是对图像关键点的识别和检测,包括照片中的眼睛、鼻子、嘴巴以及耳朵等五官,以及照片中关键点的形状和位置等信息。据郑海涛介绍,图像关键点检测的准确性,取决了生成的照片与本人的相似度。第二步则是对面部进行预处理,剔除原照片关键点之外的噪音数据,再结合需求在关键点不变的前提下填充新的噪音数据,也就实现了换脸。

AI换脸的难点就是精准还原面部细节,对此,合成新的图片还需要进行大量的对抗训练。郑海涛表示,对抗训练是从人脸识别进入人脸生成阶段的关键要素,在人脸照片生成后,判别器会通过无限次循环来判别原来的关键信息是否丢失,当判别高达99%之后才会输出新照片。

AI人脸出图的速度与对抗训练时长、服务器承载量相关。而衡量一张换脸照片是否逼真、自然的关键因素,就是是否能够找到对抗训练中合适的判别函数,因此AI换脸应用往往需要用户提供大量真实人脸照片,才能找到合适的判别函数保证图片精美度。

目前,AI大模型相关技术不断成熟,突破了以前只停留在图像识别层面的传统算法。图像生成层面成为重头戏。“如今AI换脸的生成技术的成熟发展,可以将判别式的标准逐渐逼近人们想要的东西。”郑海涛说,因此市面上才出现了成熟的AI换脸产品,进而受到大家的广泛关注。

用户应增加对AI换脸工具的警惕性

AI换脸相关应用火爆的商业逻辑是消费者对个性化服务的追求。“个性化服务已然成为了当今的消费趋势,而AI的推广与应用正好就满足了这种强烈的个性化需求。”郑海涛说。

以往传统的商业消费模式,都是先生产后匹配需求,先生产后售卖,然而这种模式就容易出现浪费和丢弃。目前无论是爆红的AI绘画还是ChatGpt应用,都是采用AI技术对用户的个性化需求进行定位,然后去匹配和满足用户,更加精确、更加个性化。

在AI换脸爆火的背后,仍需警惕肖像权的滥用。据深晚记者了解,妙鸭要求用户上传大量个人照片,包括五官清晰的正面照,但最初的用户协议却规定“您特此授权我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可”。对用户人脸信息数据储存和使用提出了强势要求,而后虽然妙鸭自动删除了上述信息,但也证明目前AI换脸应用的用户协议仍存在一系列不合理的规定及漏洞。

目前,认真阅读用户协议的用户占比较少。中国青年报社社会调查中心对1561名受访者进行的一项调查显示,70.9%受访者很少或从没阅读过App用户协议/隐私协议,但这些用户协议可能会存在第三方应用利用用户肖像进行滥用、售卖或进行欺骗勒索的条款,需要用户谨慎对待。

另一方面,AI换脸技术也有风险引起社会伦理问题,比如利用AI换脸技术,恶意用户可以伪造他人面部表情和言行,制造虚假视频或图片,导致虚假信息的传播。近期,就有不法分子使用AI换脸工具制作虚假色情视频内容,此类现象也引发了大量用户对于AI换脸工具的警惕性。

郑海涛表示,AI换脸技术带来了许多创新和便利,但也存在一系列风险和挑战。加强技术研发和监管,制定相关法律法规,提高公众对于AI换脸技术的认知和警惕才是成为规避风险最好的利刃。

(受访者供图)

(原标题《用一张照片轻松拥有无数“分身” 专家解密AI换脸技术原理 满足个性化需求但也暗藏风险》)

编辑 秦涵 审读 刘春生 二审 张雪松 三审 詹婉容

(作者:深圳晚报记者 白 雪 实习生 刘 玥)
免责声明
未经许可或明确书面授权,任何人不得复制、转载、摘编、修改、链接读特客户端内容
推荐阅读
读特热榜
IN视频
鹏友圈

首页