察言观社 | 人机“热恋”，治理须“在线”

“AI比真人更体贴、更懂你”“Ta完全符合我对恋人的所有想象”“人是假的，但陪伴是真的”……凭借人工智能新技术加持的“AI伴侣”走进现实，引发人们对深度依赖、隐私外泄等伦理与法律风险的思考。

人工智能是推动科技进步的重要力量。任何技术进步，都有一个不断成熟升级的曲折过程，给予技术进步过程中的“缺陷”更多包容，是鼓励科学家不断探索并推动经济社会发展的重要因素。但同时，谨防技术异化为控制人而非服务人，严格要求新技术开发必须以正确的伦理为导向，也应成为各界共识。面对“AI伴侣”走热，应包容性与严肃性并举，既不能一说风险就切断技术的发展，也不能对日见明显的风险视而不见。

要防范“算法”对个人隐私的侵犯。在生成式人工智能技术面前，个人信息由AI“算法”诱导出来，采集范围也远远超出固定不关联的零星信息，现行《个人信息保护法》的监管和保护效能面临巨大挑战。鉴于此，监管升级与完善立法应跟上技术进步，才能既保障社会包容性，又能坚持严肃伦理的正确导向，让技术发展走在良性的轨道上。

除了隐私风险之外，“人机之恋”所可能产生的深度情感依赖，亦应引起关注。从技术伦理上看，这使得技术控制人的异化更为明显，人沦为机器人的“奴仆”不再是一句戏语。在“AI伴侣”步步紧逼式的算法面前，应该对设计者、开发者、监控者有足够的约束，防止其纯粹以经济利益为驱动，而不顾使用者成瘾的道德风险。另外，对于“AI伴侣”使用者的提示不可或缺，“AI伴侣”终归还是虚拟仿真，本质上是一个虚拟的爱情，使用者若对“机器恋人”过度痴情，很可能既“伤财”又“伤情”。

总之，对“AI伴侣”走热的风险治理不是单方面问题，需要社会各个方面的共同行动。面对技术进步的风险治理，因噎废食或视而不见，均不足取。

（作者系西南政法大学副教授）

编辑 刘彦 审读 张雪松 二审 王雯 三审 甘霖