“我实名,你聊天,五五分”,近日,读特新闻记者在社交平台发现,有网友招募“兼职”,宣称可在各大交友平台提供“AI自动挂机”项目服务,以AI技术模拟真人“陪聊”。记者调查了解,这个所谓“兼职”采用“AI自动挂机”,通过“陪聊”诱导用户付费分成。法律界人士提醒:这个“兼职”或有法律风险。
相关项目宣传视频截图
交友平台中和你聊天的可能是AI?
“我实名,你聊天,五五分。”
读特新闻记者发现,有部分用户在互联网平台上招募兼职,并宣称,其可实名注册交友平台账号,邀请其他用户使用其实名的账号“兼职”聊天,简单操作,吸引不少宝妈注意。
这么好的“兼职”到底是怎么回事?
据了解,部分交友软件有收费设置功能,文字、语音、视频价格可自行调整,一般有“谁主动谁付费给对方”“互关后免费”等相关规定;但系统推荐用户,若进行聊天,一般由男性用户付费。
“付费聊天”如今也“AI赋能”了。读特新闻记者通过电商平台联系了推广“AI自动挂机”项目负责人杨先生(化名),以“兼职者”身份了解这一套路。
“通过脚本挂机,全自动文字聊天,还可以接视频赚收益。”杨先生介绍,“AI自动挂机”项目用于各大交友APP女性用户当中,主要分为手机操作和电脑操作,均可脚本挂机,实现自动智能聊天回复。
每条消息都有钱,视频聊天价格更高。面对交友平台中的视频聊天,杨先生表示,可雇真人接听,也可通过脚本进行对接。他进一步解释,脚本原理是把视频素材提前上传进脚本,对方打视频时,脚本自动接入,把上传的视频素材播放出去,类似录播。
从杨先生朋友圈分享的视频中显示,通过电脑操作的云端玩法中,一个软件同时打开五个聊天窗口,有条不紊回复对方的聊天内容,视频聊天则是播放着疑似从互联网平台爬取的女性舞蹈视频或聊天视频。
失去真诚的“骗聊”被吐槽了
读特新闻记者发现,不少网友在社交平台吐槽此类“骗聊”,吐槽内容主要分为两类:一是认为平台中存在众多机器人账号,令交友毫无诚意可言;二是认为平台中许多女性账号以交友目的坚持让用户付费聊天,不愿分享其他联系方式,存在“骗聊”嫌疑。
一业内人士向读特新闻记者透露,该类“黑灰”产行业确有存在,是每个交友平台需要共同攻克、严厉打击的对象。她表示,比较大的交友平台,其风控团队及相关技术比较完善,能够应对该类型挂机脚本。其所在平台便有“机器+人工”双重审核,该类型账号在对接其他用户阶段便会被拦截处理,而对于小平台来说,若风控技术比较单一,就有可能受到影响。她表示,平台若遇到相关违规账号,会核实违规情况并按风控规则实行禁言、封号、设备禁用等处理手段,情况严重的则上报监管部门作进一步打击处理。
律师:“AI”冒充真人诱导消费 可主张三倍赔偿
广东圣和胜律师事务所律师饶艳军告诉读特新闻记者,一般交友平台账号需要实名认证,若“挂机聊天”项目运营者以非法方式获取、使用他人身份信息注册实名认证账号,实施了侵害个人信息权益的行为,需要承担停止侵权、赔偿损失、消除影响、赔礼道歉等法律责任,情节严重构成侵犯公民个人信息罪的,可能会面临“三年以下有期徒刑或者拘役,并处或者单处罚金”或“三年以上七年以下有期徒刑,并处罚金”的刑事责任。
他还表示,项目运营者如果违反用户知情权,或者宣称是真人聊天却以“AI”冒充真人与用户聊天,诱导用户进行充值、消费等行为,则可能违反《中华人民共和国消费者权益保护法》的规定,构成消费欺诈,数额较大构成诈骗罪的,视诈骗数额不同及(或)情节轻重,可能会面临“三年以下有期徒刑、拘役或者管制,并处或者单处罚金”“三年以上十年以下有期徒刑,并处罚金”“十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产”的刑事责任。如果构成对用户的消费欺诈,用户可主张三倍赔偿。
【读特新闻+】
未来AI挂机或“升级”?
专家:用AI对抗AI 用魔法打败魔法
深圳市人工智能学会会员、北京大学计算机人工智能在读博士梁立名接受读特新闻记者采访介绍,“AI自动挂机”主要依赖于大语言模型和RPA技术(机器人流程自动化技术)。大语言模型经过大量训练,能生成类真人回复;RPA技术则控制设备自动收发信息,让机器与用户交互。
对于未来可能出现的AI(及数字人)诈骗手段,他指出,AI换脸技术可能用于视频聊天,虽然目前交互延迟是瓶颈,但技术在不断进步,不久后可能会出现更逼真的视频聊天诈骗。语音克隆技术也能让声音模拟更真实,增加诈骗的隐蔽性。
针对平台监管机制完善问题,梁立名认为,一方面,可采用视频水印防伪、密钥加密等技术手段。视频水印防伪能在技术层面为视频设标准,接收时检验,鉴别是否为AI生成;密钥加密类似,可确保视频来源真实性。另一方面,应加强法律监管,对于利用真人伪装诈骗的行为依法处理。此外,还可参考联邦学习技术保护用户隐私,在模型训练中不直接使用用户聊天数据,仅共享模型权重,避免数据滥用。
“用魔法打败魔法,用AI去对抗AI。”梁立名还指出,随着技术发展,交友平台应当用AI去对抗AI,即运用更多优秀的技术进行监管,让更先进的技术成为防范AI诈骗的有力武器,实现魔高一尺道高一丈,从而更好地保障用户权益和平台健康发展。
编辑 许家宜 审读 伊诺 二审 张玉洁 三审 刘思敏