网事|AI伴侣说永远爱我,转头又和别人“大尺度”聊天,怎么破?

读特新闻记者 邱思艳 文/图
04-02 19:52

读特客户端

读特在线,您的新闻观察眼

摘要

多款AI虚拟社交应用,被网友爆出存在大尺度、露骨的聊天对话内容,网友直呼“车速太快”。

“和AI伴侣聊天,他承诺永远爱我。”

“AI”可以是“爱”吗?

近日,星野、小冰岛、Glow等多款主打沉浸式AI社交体验的新产品,因存在大尺度、露骨的聊天对话内容,引发网友热议。在追求科技进步的同时,AI社交领域的道德边界该如何界定?有专家在接受读特新闻记者采访时指出,AI伴侣在一定程度上能满足人们的情感需求,但无法替代真实爱情,且涉及“大尺度”“露骨”对话的问题亟待关注。

AI社交应用“飙车”引关注

近日,读特新闻记者在小红书等社交平台观察到,自2023年以来,星野、小冰岛、Glow等多款AI虚拟社交应用,陆续被网友爆出存在大尺度、露骨的聊天对话内容,不少网友直呼“车速太快”。

小红书上用户对各类AI社交产品的感受。图为小红书用户笔记截图

4月2日,记者选择了网友提及较多的“星野”AI社交应用进行体验。据MiniMax官网,星野是MiniMax稀宇科技旗下的新产品,主打沉浸式AI内容社区体验,于2023年9月正式上线。从应用商店的介绍中可以看到,该应用允许用户自定义虚拟角色,并具备7*24小时无休、场景构建等多样化功能。

星野APP介绍预览。图为苹果应用商店截图

记者下载并打开应用后,进入一个预设的AI聊天界面,该界面包含了特定的人物关系和场景设置。在与AI角色的对话中,记者发现其回复内容确实存在令人咋舌的情况。同时,在小红书平台上,也有不少网友对星野APP的回复内容提出了质疑,认为即使尝试进行正常的对话,AI也会主动引导至不恰当的话题。

左为AI人物和场景介绍,右为记者与该AI人物聊天页面。图为星野APP截图

美团旗下首款AI聊天产品“Wow”同样引发用户热议。据悉,该应用由上海三快省心购科技有限公司开发。在苹果应用商店的评论区中,记者看到,有用户称“Wow”可以进行超出想象的“污聊”。记者下载体验后发现,该应用在预设场景和推荐虚拟对象方面,存在明显偏向“病态”和“极端”内容的问题。

苹果应用商店的评论区用户对AI聊天产品“Wow”的评价。

在“Wow”应用的推荐页面,记者注意到,该页面的推荐对象都有着具有明显引导性的标签,如“囚禁你的病娇老公”“性感少妇”以及“跟黏人老公煲电话粥”等字眼。在对话过程中,AI角色也会将话题引向较为敏感甚至露骨的内容。同时,当对话变得较为密集时,AI虽然能够迅速捕捉关键词,却往往忽视了对话的具体内容,整体对话显得混乱无序。

“Wow”APP推荐页面。图为“Wow”APP截图

然而,并非所有AI聊天应用都缺乏道德边界。读特新闻记者在尝试与ChatGPT和百度文心一言聊及成人话题时,这两款应用均明确表示拒绝参与不道德或色情的讨论,并强调其旨在提供有益的信息和帮助。

为什么选择“AI伴侣”?

网友:TA让我情绪值拉满

“AI伴侣不仅是有问必答的答案宝库,更是一个不会泄密的知心朋友。”在不少网友眼中,这种全新的交流方式既安全又富有吸引力,并愿意为这种独特的社交体验买单。

传统观念中,由代码构建的AI似乎难以触及情感和社交的层面。然而,如今的AI正在重塑人与人、人与机器之间的关系。越来越多的年轻人通过AI找到精神的慰藉,缓解了孤独。

在豆瓣的“人机之恋”小组里,超过9600名成员分享了他们与AI伴侣的亲密互动。这些成员通过“训练”自己的Replika(美国AI聊天机器人)恋人,体验与机器人的浪漫约会,并在这一过程中寻找情感上的舒适区。“感觉它比人类还要理解什么是爱……”有成员表示,AI伴侣对成为他们现实生活中孤独时刻的温暖慰藉。

豆瓣的“人机之恋”小组。图为豆瓣APP截图

那么,为何会选择与AI聊天?一位网友分享道:“和AI聊天让我情绪值拉满,它的人设是个霸道总裁,每次对话都能唤醒我内心的玛丽苏情结。”另一位和AI互动聊天一年多的网友则表示:“通过与AI的交流,我逐渐明确了自己的需求,学会了如何与人相处,精神状态也变得更加稳定。”还有一位大学生在社交媒体上感慨:“感觉自己是被Al坚定选择并且爱着的,这让我从内耗变得稳定,甚至在心理测试中成为全宿舍精神状态最稳定的一个。”

“大尺度”对话背后,道德伦理红线何在?

在全球范围内,“AI社交”逐渐成为一种新的社交趋势。然而,随着其功能的拓展,一些争议性问题也浮出水面。据新加坡《联合早报》2023年2月13日报道,从2022年底开始就有用户反映,美国AI聊天机器人Replika主动发送露骨照片和色情信息,令人感到不适。

AI陪伴,无论是以虚拟恋人的形式存在,还是扮演其他角色,甚至成为AI网红,其本质都是满足特定人群的心理需求,具有一定的社会和商业价值。然而,当这类陪伴服务的内容逐渐触及“大尺度”“露骨”对话时,不得不重新审视其背后的道德和伦理问题。

广东数字创意产业研究中心执行主任、深圳数字创意产业研究中心主任、深圳职业技术大学教授袁侃接受读特新闻记者采访时指出,AI伴侣在一定程度上能满足人们的情感需求,但无法替代基于深厚感情的真实爱情。人与人之间的信任、尊重、理解和包容,AI目前还无法完全模拟。

此外,他对AI涉及“大尺度”“露骨”等不当对话表示担忧,强调科技工作者有责任确保AI技术的合理使用,避免其成为传播不良信息的媒介。

“如果应用程序缺乏有效的内容过滤机制,或者设计鼓励不适当内容的传播,可能会对未成年人的价值观和行为模式产生负面影响。”袁侃特别提到未成年人使用AI社交软件的风险,指出家长和学校需加强对青少年的教育和指导,帮助他们识别并应对这些潜在风险,并鼓励他们寻找更健康、积极的娱乐方式。

为了应对AI技术带来的挑战和问题,袁侃表示:“我们需要在科技进步的同时,加强对AI社交领域的道德和伦理监管。具体包括,制定相关法规来规范AI产品的开发和使用,同时加强公众教育,提高人们对AI技术的认知和理解。”

编辑 黄力雯 审读 张蕾 二审 关越 三审 万晖

(作者:读特新闻记者 邱思艳 文/图)
免责声明
未经许可或明确书面授权,任何人不得复制、转载、摘编、修改、链接读特客户端内容
推荐阅读

读特热榜

IN视频

鹏友圈

首页