“和AI伴侣聊天，他承诺永远爱我。”

“AI”可以是“爱”吗？

近日，星野、小冰岛、Glow等多款主打沉浸式AI社交体验的新产品，因存在大尺度、露骨的聊天对话内容，引发网友热议。在追求科技进步的同时，AI社交领域的道德边界该如何界定？有专家在接受读特新闻记者采访时指出，AI伴侣在一定程度上能满足人们的情感需求，但无法替代真实爱情，且涉及“大尺度”“露骨”对话的问题亟待关注。

AI社交应用“飙车”引关注

近日，读特新闻记者在小红书等社交平台观察到，自2023年以来，星野、小冰岛、Glow等多款AI虚拟社交应用，陆续被网友爆出存在大尺度、露骨的聊天对话内容，不少网友直呼“车速太快”。

小红书上用户对各类AI社交产品的感受。图为小红书用户笔记截图

4月2日，记者选择了网友提及较多的“星野”AI社交应用进行体验。据MiniMax官网，星野是MiniMax稀宇科技旗下的新产品，主打沉浸式AI内容社区体验，于2023年9月正式上线。从应用商店的介绍中可以看到，该应用允许用户自定义虚拟角色，并具备7*24小时无休、场景构建等多样化功能。

星野APP介绍预览。图为苹果应用商店截图

记者下载并打开应用后，进入一个预设的AI聊天界面，该界面包含了特定的人物关系和场景设置。在与AI角色的对话中，记者发现其回复内容确实存在令人咋舌的情况。同时，在小红书平台上，也有不少网友对星野APP的回复内容提出了质疑，认为即使尝试进行正常的对话，AI也会主动引导至不恰当的话题。

左为AI人物和场景介绍，右为记者与该AI人物聊天页面。图为星野APP截图

美团旗下首款AI聊天产品“Wow”同样引发用户热议。据悉，该应用由上海三快省心购科技有限公司开发。在苹果应用商店的评论区中，记者看到，有用户称“Wow”可以进行超出想象的“污聊”。记者下载体验后发现，该应用在预设场景和推荐虚拟对象方面，存在明显偏向“病态”和“极端”内容的问题。

苹果应用商店的评论区用户对AI聊天产品“Wow”的评价。

在“Wow”应用的推荐页面，记者注意到，该页面的推荐对象都有着具有明显引导性的标签，如“囚禁你的病娇老公”“性感少妇”以及“跟黏人老公煲电话粥”等字眼。在对话过程中，AI角色也会将话题引向较为敏感甚至露骨的内容。同时，当对话变得较为密集时，AI虽然能够迅速捕捉关键词，却往往忽视了对话的具体内容，整体对话显得混乱无序。

“Wow”APP推荐页面。图为“Wow”APP截图

然而，并非所有AI聊天应用都缺乏道德边界。读特新闻记者在尝试与ChatGPT和百度文心一言聊及成人话题时，这两款应用均明确表示拒绝参与不道德或色情的讨论，并强调其旨在提供有益的信息和帮助。

为什么选择“AI伴侣”？

网友：TA让我情绪值拉满

“AI伴侣不仅是有问必答的答案宝库，更是一个不会泄密的知心朋友。”在不少网友眼中，这种全新的交流方式既安全又富有吸引力，并愿意为这种独特的社交体验买单。

传统观念中，由代码构建的AI似乎难以触及情感和社交的层面。然而，如今的AI正在重塑人与人、人与机器之间的关系。越来越多的年轻人通过AI找到精神的慰藉，缓解了孤独。

在豆瓣的“人机之恋”小组里，超过9600名成员分享了他们与AI伴侣的亲密互动。这些成员通过“训练”自己的Replika（美国AI聊天机器人）恋人，体验与机器人的浪漫约会，并在这一过程中寻找情感上的舒适区。“感觉它比人类还要理解什么是爱……”有成员表示，AI伴侣对成为他们现实生活中孤独时刻的温暖慰藉。

豆瓣的“人机之恋”小组。图为豆瓣APP截图

那么，为何会选择与AI聊天？一位网友分享道：“和AI聊天让我情绪值拉满，它的人设是个霸道总裁，每次对话都能唤醒我内心的玛丽苏情结。”另一位和AI互动聊天一年多的网友则表示：“通过与AI的交流，我逐渐明确了自己的需求，学会了如何与人相处，精神状态也变得更加稳定。”还有一位大学生在社交媒体上感慨：“感觉自己是被Al坚定选择并且爱着的，这让我从内耗变得稳定，甚至在心理测试中成为全宿舍精神状态最稳定的一个。”

“大尺度”对话背后，道德伦理红线何在？

在全球范围内，“AI社交”逐渐成为一种新的社交趋势。然而，随着其功能的拓展，一些争议性问题也浮出水面。据新加坡《联合早报》2023年2月13日报道，从2022年底开始就有用户反映，美国AI聊天机器人Replika主动发送露骨照片和色情信息，令人感到不适。

AI陪伴，无论是以虚拟恋人的形式存在，还是扮演其他角色，甚至成为AI网红，其本质都是满足特定人群的心理需求，具有一定的社会和商业价值。然而，当这类陪伴服务的内容逐渐触及“大尺度”“露骨”对话时，不得不重新审视其背后的道德和伦理问题。

广东数字创意产业研究中心执行主任、深圳数字创意产业研究中心主任、深圳职业技术大学教授袁侃接受读特新闻记者采访时指出，AI伴侣在一定程度上能满足人们的情感需求，但无法替代基于深厚感情的真实爱情。人与人之间的信任、尊重、理解和包容，AI目前还无法完全模拟。

此外，他对AI涉及“大尺度”“露骨”等不当对话表示担忧，强调科技工作者有责任确保AI技术的合理使用，避免其成为传播不良信息的媒介。

“如果应用程序缺乏有效的内容过滤机制，或者设计鼓励不适当内容的传播，可能会对未成年人的价值观和行为模式产生负面影响。”袁侃特别提到未成年人使用AI社交软件的风险，指出家长和学校需加强对青少年的教育和指导，帮助他们识别并应对这些潜在风险，并鼓励他们寻找更健康、积极的娱乐方式。

为了应对AI技术带来的挑战和问题，袁侃表示：“我们需要在科技进步的同时，加强对AI社交领域的道德和伦理监管。具体包括，制定相关法规来规范AI产品的开发和使用，同时加强公众教育，提高人们对AI技术的认知和理解。”

编辑 黄力雯 审读 张蕾 二审 关越 三审 万晖