AI伦理大咖说人马互动王一：端正“三观”促行业良性发展

“恐怕再过一二十年，人工智能就会彻底把人类智能甩在后面”、“人工智能是把‘双刃剑’，如果用不好就是灾害，我们必须保证它是安全的”……谈到人工智能伦理，深圳市人马互动科技有限公司（齐悟）创始人王一认为，前瞻研究可解未来之困，对企业而言伦理犹如人的“三观”，必须研究AI伦理来正“三观”，还应从政府、企业和民众三个层面共同建立规范和秩序，方能促进行业健康发展和社会稳定。

记者：人工智能伦理越来越受重视，但实际上真有那么重要吗？            

王一：1942年，阿西莫夫第一次提出机器人三定律，将“机器人不得伤害人类”等设定为机器人的行为规则。在今天，人工智能迎来重大突破，机器人三定律还能适用于人工智能吗？

如科幻电影里面的强人工智能，现在离我们还比较远，但乐观派们认为，人工智能再过一二十年可能就抵达技术奇点，彻底把人类智能甩在后面。因为AI的效率非常高，如果被利用去做违法犯罪的事情，对人类来说就是一个灾害，我们必须要保证这个技术是安全可控的。AI行业要对所有的产品和技术制定大家共同遵循的理念和规则，来保障AI“不作恶”。所以说，人工智能伦理肯定是非常重要的。

记者：好多AI企业已经开始设立类似伦理委员会的机构，对企业来说，人工智能伦理和技术哪个更重要？          

王一：我觉得AI技术其实跟伦理是相辅相成的。如果没有AI技术发展，AI伦理也无从提起，所以两者肯定是一个过程中不断互相迭代演进。要说重要程度的话，其实AI伦理就相当于给AI制定了一套它的标准和规范，对未来整个AI行业的发展肯定很有帮助的，这非常重要。但同时，如果我们把AI伦理限定得太死，可能反而会限制技术的发展，所以我们觉得如果要发展AI伦理的话，可能也要考虑AI企业的一些诉求，应该是结合多方的观点，包括行业专家、AI企业，以及政府的诉求，大家一起去思考怎么样去建立一套更好的规则体系。所以我觉得两者都同样重要。

记者：人工智能伦理能解决什么问题？          

王一：在AI相关法律法规制定之前，AI伦理能对整个社会在道德层面进行一定的约束。当企业家有了正确的价值观，知道AI技术其实是一个工具，它既可以帮助人，也可以去害人，所以建立起一套道德标准和规范之后，可以减少很多危害社会的行为。

举个例子，一辆自动驾驶的汽车，遇到一位横穿马路的行人，汽车可以选择去撞行道树或者选择撞人，选择撞人的后果是车主不会受伤，如果汽车选择撞树，行人不会受伤，但车主会。在这个时候，其实AI是很难决策——它到底是该撞人还是该撞树，作为车主肯定希望汽车是为自己服务的，做出利己的选择。但从伦理道德来讲，我们希望以人为本，让路上的行人得到更多的安全。这是对我们人来说很难去决策的事情，有了AI伦理的话，对于我们企业的行为决策准则会有很大的帮助。

未来我们要发展AI伦理，其实要更多考虑技术问题和具体应用，在这个过程当中我们会发现新的问题，我们再逐一想办法去破解、克服。

记者：除了研究机构和学术组织，企业需要研究人工智能伦理问题？          

王一：企业肯定是需要研究人工智能伦理问题的。比如我们作为一家AI公司，齐悟是做机器人大脑的，要不断地去理解人类语言的意思，我们的产品是语音助手，解决各种衣食住行、吃喝玩乐的需求。这个技术也可以去做很多别的事，比如说做电话营销机器人，但这不符合我们的价值观，因为我们希望用AI技术帮助人们降低他的使用成本、提升效率。如果把它用来做这种电话营销的话，可能就会给用户带来更多的骚扰。

其实所谓的伦理就是一个企业的“三观”，如果企业的“三观”不正，可能就会对它的行为模式产生很大的影响，未来可能就会做出很多让老百姓难以接受的产品出来。所以我觉得企业还是很有必须去研究伦理规范的。

记者：您觉得如何去促进伦理研究的发展，有什么建议？            

王一：我觉得从三个方面，首先是政府层面，应该组织智库专家讨论和研究，集纳专家的一些专业建议，意识到AI伦理的重要性，再从上往下去贯彻落实，比如说让科协、相关企业和协会，去研究建立起这样一套体系。

第二个层面是民众，让更多的百姓意识到AI目前发展的现状，不会再对它产生恐惧和排斥，因为无知、忽视、偏狭、误解交织在一起，可能会导致真正的风险。所以从民众角度，全社会应该做好科普工作，这对整个AI行业来讲都是有促进作用的。

第三个层面就是AI企业端。这是中间层，企业的前瞻性探索非常重要，为政府制定人工智能开发和应用的伦理规范和政策方向提供贡献，同时也让民众了解这个行业的发展。最终，产业界、学界在头部企业的带领下，形成产业联盟，政府、企业和民众三方共同建立起一个规范和秩序，我觉得对未来产业的健康发展和整个社会的稳定有很大的帮助。

编辑 张克