随着AI技术的发展，电信诈骗分子或通过AI换脸、模拟变声等，假冒熟人进行诈骗。

天眼查知识产权信息显示，我国已有140余项“换脸”相关专利申请，其中60余项已获授权，包括“一种视频换脸的处理方法、相关装置及存储介质”“一种直播换脸交互实现方法、存储介质、设备及系统”“用于训练换脸模型的方法和设备”“人脸模型训练方法、换脸方法、装置和电子设备”“高保真换脸方法、系统、设备及存储介质”等，申请人包括科技公司、传媒公司、多所高校及自然人等。

近期在香港就发生过一起多人“AI换脸”诈骗案例，涉案金额高达2亿港元。在该起案件中，一家跨国公司香港分部的职员，受邀参加总部首席财务官发起的多人的视频会议。并按照要求，前后转账多次，将2亿港元转账到5个本地银行账户内，其后向总部查询方知受骗。警方调查得知，这起案件中，所谓的视频会议中，只有受害者一人为“真人”，其余所谓参会人员，全部是经过AI换脸后的诈骗人员。

中国网络空间安全协会人工智能安全治理专委会专家薛智慧介绍，AI换脸过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。其背后最核心的包括三个部分，首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次，将这些特征与目标人脸图像进行匹配、替换、融合。最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假换脸视频。

有记者实测，快速AI“换脸”仅通过一张照片就可完成。技术人员首先用手机给记者拍了一张脸部照片，导入到AI人工智能软件后，让记者惊讶的是，虽然电脑摄像头前的是技术人员，但是输出的确是记者的照片，几乎可以说是“一键换脸”，不需要复杂的环境和解压操作。

更令人惊讶的是，随着技术人员面部表情变化，照片上记者的脸也跟着一起发生了相应变化。

如今，随着Sora的问世，已经可以用更少的人脸数据构造高逼真的特定人脸模型。对此，业内专家表示，技术发展让AI换脸技术的门槛变得越来越低。而这类技术的普及，也会导致深度伪造内容更加泛滥，进而增加被用于诈骗、色情等违法犯罪活动的风险和隐患。

举个简单的例子，骗子利用新技术生成一个你的熟人出现“意外事故”的视频和正在医院被推入抢救室的视频，同时再利用特殊方式恶意造成当事人电话占线，社交账号被盗，这时再打电话索要“手术费”。或许这一系列操作下来，被诈骗的人可能很容易就上当受骗。

中国计算机学会安全专业委员会数字经济与安全工作组成员方宇表示，实际上目前一些深度伪造的实时视频还是可以通过一些方式去进行一些验证。比如我们可以要求对方在视频对话的时候，在脸部的面前通过挥手的方式，去进行识别。因为实时伪造的视频必须要对这个视频进行实时的生成和处理以及AI换脸，那么在挥手的过程中，就会造成面部数据的干扰，最终伪造的人脸效果会产生一定的抖动或者是一些闪现、异常的情况。

中国科技大学网络空间安全学院执行院长俞能海也提醒大家，可以让对方摁鼻子、摁脸，观察其面部变化。

面临信息安全隐患，普通人也并非束手无策。苏州大学未来科学与工程学院副院长王进提醒，“最关键的是提高警惕性，保护个人隐私。比如不随意在网上或朋友圈发布包含自己人脸的图片，不要随意在一些非官方的网站上提交照片、把个人照片发给不熟悉的人等。同时，还要警惕虚假中奖信息和钓鱼网站，不点击可疑链接、下载不明附件等，也要注意防范自己的电子设备被非法改装成偷拍设备。”

（综合来源：央视新闻 金融界 中国江苏网 看看新闻Knews ）

编辑 周梦璇 审读 张蕾 二审 李怡天 三审 刘思敏