刘晓庆紧急回应！雷军、刘德华也曾是受害者

幸福福田

03-04 14:00

摘要

AI深度合成音视频侵权现象愈演愈烈。

昨天（3月3日）下午
有网友向演员刘晓庆求证
视频里的是不是真的她：
“@刘晓庆，我看到一个微信视频号
发了很多你的视频
好像是AI生成的，是假冒的吧？”
图片
图片
随后
刘晓庆转发并回复：
↓↓↓
“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”

ef87239402d13d63929c9f4843206a4.jpg

有媒体第一时间
尝试搜索该视频号
已无法搜索到
网友评论

b298303024524477106a193b3b2ae38.jpg

afcd7331d539f2bc0c56f5afbc162dc.jpg

1d4587c944b103905e2e7f613ec3a9a.jpg

AI合成名人音视频乱象频出

从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货，甚至还有不法分子利用AI深度合成视频，进行诈骗。过去一年，AI深度合成音视频侵权现象愈演愈烈。
此前就有网友曾利用AI制作的刘德华声音，为自己博取流量，刘德华电影公司还紧急发布声明提醒网民，不要落入伪造刘德华声音的AI语音合成技术骗局。近日有媒体调查发现，实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。
法律专家表示，如果未经本人或版权方同意，就用AI合成制作其音视频，可以判断为侵权行为，应当承担法律责任。

图片

而相应的深度合成软件在网络上下载并不算难，还有一些网络主播会开直播教网友如何使用。
图片
专家表示此类软件目前在网络上有数十种，不过不论换声还是换脸软件，不同的场景需要调整相应的参数，步骤较多，属于半专业软件，有一定的技术门槛，所以不被网民熟知。但是目前在短视频平台有众多主播在教网民使用相关软件。

业界人士：

不能放任AI为所欲为一骗再骗

业界人士认为，当前AI技术发展来到螺旋式上升的拐点，未来几年技术迭代将会按月计算。合成技术门槛持续降低，逐渐向低算力、小样本学习方向演进，利用手机终端即可完成。同时，随着AI技术加持，正逐步由面部合成向全身、3D合成发展，效果更加逼真。

也就是说，今后依靠一部手机，就能轻松合成一个覆盖全身的假视频，迷惑指数直线上升。

2024年人工智能安全报告显示，2023年基于AI的深度伪造欺诈增长了3000%，若不能有效打击，这个数字必然会继续飙升。

“有图有视频，就是没有真相”，这将成为信息传播的灾难。如果与AI共存将是未来生活的常态，那么有效治理、打击犯罪必须大幅加码，不能放任AI为所欲为、一骗再骗。

图片

图源：人民日报

政协委员建议

加强对AI生成虚假信息治理

近日，也有政协委员针对AI生成虚假信息治理表达了自己的关切。
全国政协委员、四川大学华西医院教授甘华田表示，今年全国两会期间，他拟提出加强对AI生成虚假信息治理的建议。近些年，通过AI技术深度伪造视频、政府公告、企业声明、名人言论、虚假金融信息等行为，已严重干扰了公众的判断，损害了社会的公信力和稳定。这类虚假信息不仅误导消费者，还可能对社会秩序、国家安全甚至人民群众的生命财产安全构成威胁。然而我国现行法律对AI生成内容的监管责任界定模糊，相关法律滞后，平台审核技术能力不足，违法成本低，治理难度大。因此，加强对AI生成虚假信息的治理和打击力度，已成为当前亟待解决的问题。
国家网信办已发布
相关征求意见稿
去年9月，国家网信办已经发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求从视频制作和发布的源头做好信息管理。

该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，还明确了两类标识所应当适用的场景，将《深度合成规定》第十七条所提出的“显著标识”与“显式标识”建立了直接的对应关系。此外，根据不同人工智能生成合成内容的载体与形式（如文本、音频、图片等），该办法还罗列与说明了部署各类显式标识的部署位置和隐式标识所应当包含的信息要素。

据了解，该办法仍然逐步完善的过程中。随着《人工智能生成合成内容标识办法》正式落地，将为社会公众带来一个更加健康、透明和负责任的人工智能应用环境。

图片AI仿冒名人乱象频发

你遇到过吗？
欢迎评论区交流~

-END-

编辑 | 谢欣

校对 | 廖静文、蔡诗妍、杨迪雅、彭融

审校 | 兰永久

监制 | 余治国

信息来源 | 央视新闻、中国新闻网、杭州交通918

免责声明
本文由【读特】深圳号入驻单位发布，不代表【读特】的观点和立场。如有侵权，请联系我们核实后删除！联系邮箱：2207482831@qq.com 。
报料

读特热榜

IN视频

查看更多

鹏友圈

查看更多
iPhone客户端 安卓客户端

关于读特

首页