晶报特别报道|AI“复活”逝者,游走在法律与道德的边界
晶报记者 邹振民 余梓宏
03-20 07:24
收录于专题:晶报·特别报道

晶报

阳光媒体 非常新闻

近日,有网友用人工智能技术(AI)生成视频和声音“复活”已故歌星李玟,相关话题迅速冲上热搜。视频中的“李玟”坐在镜头前对粉丝们说:“我知道你们可能会感到惊讶甚至有些不真实,但请相信我,这是一个充满着爱和感激的时刻……”视频一出,有网友评论:“听到你说话的那一刻,眼泪都出来了,此刻很希望是你真实的还存在……”也有网友表示不赞同这种做法,认为用这种方式出现并不是她本人的意愿。

更早之前,一则知名音乐人包小柏用AI“复活”爱女的新闻也冲上了热搜,包小柏在受访时称,经过反复尝试、训练后,他如愿复刻出了“数字女儿”,不仅可以即时回应对话,前阵子老婆生日时,“女儿”还为妈妈唱了一首生日歌。

随着人工智能技术的飞速发展,“AI复活逝者”这一技术应用也迅速得到了网友们的关注。所谓的AI“复活”逝者,即利用人工智能技术,将逝者生前的相关数据,比如影像资料等输入到AI算法模型之中,模拟生成出一个数字形象,让其具备逝者生前的形象和记忆,还能沟通交流,实现数字世界里的“复活”。

有网友表示,如果能借助AI技术和逝去的亲人“再见一面”,说上几句话,也许能弥补很多的遗憾。但也有网友表示无法接受这样的方式,“是对逝者亲人的再次伤害”。

实际上,用AI“复活”逝者早已在多个电商交易平台流行,有不少商家称,只需要一张图片和一段音频,就能实现逝者“复活”。

AI“复活”逝者这事到底靠不靠谱?其在法律与道德层面是否完全站得住脚?晶报记者日前进行了多方采访。

图源:视觉中国

99元能与逝去亲人再见一面?

最近,AI复活技术成了一门生意。在一些电商平台上,AI“复活”的商品标价从几十元到上百元乃至数千元不等。据报道,江苏南京某技术团队在半年多时间内帮助600多个家庭实现“在线团圆”。

“复活AI亲人,和想念的人说说话,TA只是换了一种方式陪伴你,让数字生命永生!”记者在各大电商平台搜索发现,有不少商家称能实现AI复活亲人,而价格分为多个档次。

比如“音容方案”,需要提供一张亲人照片和一段亲人说话文案,即可生成一段亲人说话的视频,如果能提供音频资料,还能一比一还原亲人说话声音音色,价格在99元至499元不等;“音留方案”,提供亲人的音频数据、生活习惯以及记忆,通过大模型训练还原亲人的一举一动,可以随时对话沟通,价格需要1699元;“音迹方案”,提供亲人的音频数据、说话习惯及所知的记忆,可通过技术手段复活亲人,并通过深度学习对亲人进行建模,通过神经元意识上传记忆并模拟亲人沟通习惯,实现亲人在数字世界的“复活”,价格为5200元。

▲AI“复活”逝者已成为一门生意。网络截图

记者随机联系了电商平台上的一位商家,他表示,如果要AI“复活”亲人,需要先提供亲人照片或视频音频,付百分之三十的订金,十天内可以完成亲人视频的生成,效果不好可以再更改。至于能否实现与逝者的“实时互动”,该商家则表示很难实现,“需要后台数据AI大模型支持,费用高。”

如果泄露亲人的隐私去生成视频,是否会产生诈骗等风险?记者提出自己的担忧。对此,商家表示,生成的视频会注明是“仅供复活亲人使用视频”。记者多次表示要签署合同协议,该商家则多次回避该问题,并称自己是小公司,也回避了与记者在线下见面,称费用可以通过微信支付。最终交易未能达成。

记者采访了几位市民,有的表示愿意尝试AI“复活”逝者。市民李女士表示,自己的爷爷是2020年去世的,一直很遗憾没能见上他最后一面,如果能听到他讲几句话,也算得上是一种慰藉了。市民张女士表示,自己很想念外婆,外婆生前留下的相片和视频不多,如果能利用AI让外婆“复活”,留下更多的纪念,自己很愿意尝试。

市民黄女士则认为自己不会去尝试利用相关技术:“假的就是假的,生老病死是自然规律,学习如何接受是每个人的必修课,面对一个虚拟的算法模拟出来的假象,只会不断提醒你真实的存在已经逝去,看着都徒增悲伤,更别说和这个AI交流互动了。”

怎样才算真正的“复活”?

当走进一个房间里,一位已故多年的香港著名歌星突然以全息影像的方式栩栩如生地出现,跟你身处在同一空间之中,并开始激情演唱自己的成名曲目……这样的场景着实让人恍如隔世。日前晶报记者在位于深圳市龙华区的云视图研公司看到了这一幕。

据云视图研负责人汪文才介绍,团队自主研发了全息三维裸眼显示技术及全息数字人像技术,从2019年开始,他们就已经有了利用这些技术“复活”逝者的想法,但当时主要是利用生前采集的方式来实现逝者的数字复原。到了2021年,生成式AI的概念开始蓬勃发展以后,他们意识到, 或许还能突破原来只能存储固定片段的局限,通过接入AI生成技术实现与逝者的互动问答,达到“数字永生”。

“这段时间的确收到了很多的咨询”,在汪文才看来,“数字永生”有着非常广阔的应用前景。据他介绍,此前有一个客户,弟弟意外去世,母亲和父亲已经八十多岁高龄了,身上都有不同程度的疾病,尤其是父亲还患有心脏病,因为担心父母承受不了弟弟去世的打击,他选择了隐瞒父母。后来这位客户找到了云视图研团队,希望能利用技术“复活”弟弟,让他父母通过打电话的方式“确认”弟弟还在。“那时候不仅成本非常高,而且技术成熟度不高,容易出现瑕疵,为了老人着想,我们最终还是婉拒了客户的这项请求。”

▲全息技术如同“灵魂出窍”,它或许将成为AI“复活”逝者的关键技术。受访者供图

还有一位女性客户因为丈夫离世,无法从悲伤的情绪中走出来,希望能数字复原丈夫。但因为没有留下丈夫清晰可辨的音频资料和有足够分辨率的视频,不符合技术标准,同时费用也要达到将近2万元,因此也被汪文才团队婉拒了。

汪文才透露,目前云视图研已经有相关技术落地,不仅能通过逝者的照片生成可以说话的视频,还能实现声音的克隆。并且成本已经大大降低,如照片生成视频一分钟大约1500元、声音克隆大约500元一分钟。但汪文才坦承,目前在实时对话的体验上仍然不尽如人意,“需要高算力,成本非常高,目前还不具备商业化的价值。”

汪文才认为,AI复活逝者属于人工智能一个相对细分的领域,从宏观的角度来看,目前行业并没有明确的复活标准和形式。而现阶段的AI“复活”还处于实验室阶段,市面上大部分的AI“复活”都只是机器和代码在模拟,而且都只是在电子屏幕等平面空间里呈现。汪文才说,未来如果真的能实现通过记忆的上传来“复活”逝者,让TA能够立体站在我们面前,带着记忆和特征与我们交流,这才是真正意义上接近“数字永生”的复活,让人真的体会到“时空穿越”。

网友声音

律师说法

需针对该领域进行专门立法

AI复活逝者在有着巨大潜在市场的同时,这项服务也一直备受争议,在伦理道德和法律监管上都还有许多讨论和规制的空间。

最近因“复活”已故歌手李玟而登上热搜的网络博主在接受媒体采访时表示,视频是受粉丝的请求义务做的,并称只要不用做商业用途,就不会有被逝者家人追责的风险。不过,多位法律专家在接受媒体采访时表示,该博主擅自制作李玟形象和声音的虚拟视频,不管是否以商业营利为目的,都侵犯了逝者的肖像权和声音权等。在留言区,该博主还表示制作其他逝者视频将收取588元的费用,这种招揽生意的行为也招致不少网友的反感。

在新技术领域,立法通常是滞后的。人工智能技术在中国兴起的时间不长,去年,国家互联网信息办公室发布了《生成式人工智能服务管理暂行办法》,尚算及时。不过,对于数字“复活”等技术,目前尚未有专门的法律法规,可能需要在未来出现问题时逐步进行规范。

广东晟典律师事务所合伙人缪思思律师认为,从法律角度讲,“法无禁止即可为”,目前并没有法律法规明确禁止公司进行该项“AI复活逝者”的经营。

当下AI“复活”逝者的业务往来大多是在网购平台上发生,针对此,广东晟典律师事务所高级合伙人宁凌波律师认为,目前来说,在网购平台上找商家AI“复活”亲人这件事,不太靠谱。“网购平台上销售货物大部分约定并不明确,并未对隐私信息保护、数据安全、服务质量等做详细明确约定,一旦发生侵权、违约的情况,消费者的维权也会存在困难。”

因此,宁凌波律师建议,在寻求相关服务前,签订合同十分重要。“签订合同时,首先,防止信息泄露、防止非法使用信息的相关条款十分重要,‘AI复活逝者’技术商业化,必然涉及隐私信息保护、数据安全,若发生信息泄露、非法使用信息,除了构成侵权、对用户从情感上造成巨大的伤害之外,泄露的信息可能被用于不法目的,比如不法分子可能会利用这一技术制作虚假视频进行欺诈等。其次,就是关于服务质量问题的条款亦十分重要,应当对‘AI复活逝者’制作效果做明确、详细的约定,以确保制作出来的‘AI复活形象’的准确性,避免制作出来的形象和实际形象偏差太大甚至有所扭曲,反而对消费者的情感造成伤害,并且也可能侵害逝者的名誉权、肖像权等权益。”

如果AI复活逝者出现了纠纷,比如有泄露隐私、损害名誉或欺诈等情况,消费者有权起诉吗?缪思思律师表示,消费者有权起诉。首先根据协议的约定,如果商家违反协议约定,消费者可以起诉要求商家承担违约责任,赔偿经济损失。其次根据《民法典》第994条规定,死者的隐私、名誉受到侵害时,配偶子女父母有权诉讼,没有配偶、子女且父母已经死亡的,其他近亲属可以起诉。

人工智能是一个新技术领域,在立法上还处于有很多空白的阶段,宁凌波律师建议,随着人工智能的普及和广泛使用,国家应加快制定和完善相关法律法规,针对该领域进行专门立法,明确使用“AI复活逝者”技术的用户范围,规范技术提供者的技术使用范围和限制,对技术提供者的用户信息保护机制及信息安全防范措施进行法律层面的规范,同时明确技术提供者及用户的侵权责任、违法责任等。此外,宁凌波律师还建议,因涉及技术层面、法律层面、伦理层面等诸多问题,国家应该对开展“AI复活逝者”业务的公司发放资质牌照,并加强监管。

编辑 刘珂

(作者:晶报记者 邹振民 余梓宏)
免责声明
未经许可或明确书面授权,任何人不得复制、转载、摘编、修改、链接读特客户端内容
推荐阅读
读特热榜
IN视频
鹏友圈

首页