阿里巴巴人工智能实验室首席科学家聂再清：切莫“一刀切”

聂再清，毕业于清华大学计算机科学与技术系，在2004年获得美国亚利桑那州立大学博士学位。聂再清博士曾就职于微软亚洲研究院，任首席研究员。2017年10月，聂再清博士加入阿里巴巴，现任阿里巴巴人工智能实验室北京研发中心负责人，语音助手首席科学家，也是教育部人工智能科技创新专家组咨询组专家。聂再清博士带领团队旨在通过远场语音识别、自然语言理解、个性化推荐等语音助手领域关键算法突破和创新，全面提升人机自然语音交互能力，打造智联网时代的个人助手全新体验。

今年4月，聂再清受邀参与国家《新一代人工智能治理原则》的起草讨论工作，跟业内专家进行讨论。聂再清特别强调了人工智能的安全可控性，即人工智能技术必须是安全、可靠、可控的，这是开放协作、敏捷治理的前提，也是人工智能研发者、使用者和相关方共担责任。他认为，大的原则是要鼓励人工智能技术和创新的健康快速发展，同时也应当进行严谨审慎的权衡与取舍，最终才能实现公平公正、和谐友好、包容共享的健康生态。

记者：最近，人工智能伦理在国内外都受到极大关注，成为热门话题，这个问题“突然”变得如此重要，是什么原因？

聂再清：最主要的原因还是人工智能越来越多地进入了人们的日常生活：小到车牌自动识别和人脸识别，大到语音助手（智能音箱）、工业大脑、城市大脑等等。由于人工智能技术开始影响到我们生活和工作的方方面面，人们自然而然的会开始思考：如何避免技术被少数非主流价值观的人利用？如何保证技术对我们大多数人的主流价值观起到积极推进的作用？这些道德、伦理、法制相关的问题。

但是这个趋势总的来说是一个“甜蜜的烦恼”，说明我们人工智能技术真正地大面积落地了。

记者：人工智能伦理能都解决什么问题，或者说给行业、人类社会带来什么好处和影响？

聂再清：人工智能伦理最主要解决的是人工智能和人类的关系问题。我想大家都会看到很多关于人工智能威胁论的讨论。支付公司PayPal联合创始人伊隆•马斯克、微软联合创始人比尔•盖茨和著名科学家史蒂芬•霍金均公开声称人工智能是人类生存的最大威胁之一。当然比尔•盖茨也说过人工智能威胁人类还早得很，未来10到20年是人类的助手。

我的观点和他们不太一样，我认为人工智能总体一定是人类的助手和朋友，因为是人类开发和设计了人工智能。人工智能技术一定会在我们人类价值观的指导下发展。当然我们要在技术的发展过程中不断对焦，保证技术不会被少数价值观不正的人或公司操控，就像对武器的使用和控制一样。

总体来讲，我是非常乐观的。人工智能技术的发展必须符合人类的价值观。其实如何让人类价值观引导AI技术的发展，是一个眼下真实存在的现实问题。各大科技巨头都已经开始制定针对人工智能产品的行业规则，让人工智能更高效地服务人类，而不是威胁人类。微软内部成立了伦理道德委员会，谷歌也成立了人工智能伦理委员会，阿里巴巴早在2005年就成立了阿里巴巴安全部，用来监督和引导AI产品开发。为了确保人类价值观能够得到高效执行，很多具体的研究和技术也大量进行，比方说游戏防沉迷系统、内容安全管控系统等等。

我深信，我们一定会有足够的智慧和技术确保AI技术走在正确的道路上。

记者：您特别强调人工智能的安全可控性，如何理解？

聂再清：今年上半年，我参加人工智能治理准则专家座谈会时，提出人工智能的安全可控性，主要是因为当时的一个初稿上有一项：人工智能必须可解释。可是我们当前的很多人工智能算法（特别是深度学习算法）在完全可解释性上还是很难做到的。但是这些深度学习算法已经广泛应用到了我们的生活和工作中。

对于可解释性差的人工智能算法，我们要做的就是保证它们的行为可控。这些技术和系统必须能够遵循我们制定的行为准则。一旦发现违反原则的苗头，必须对相关人工智能能力进行即时的权限降级，必须能够即刻生效，避免更多损失。人工智能技术的提供者必须事先提供可权限降级的能力，把技术完全可控作为人工智能系统设计中一个最重要的工作去做。

记者：国内外人工智能伦理研究，目前现状如何，能否简单介绍下？

聂再清：我国科技部发布的新一代人工智能治理原则，主要包含以下几个部分：和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。其中的和谐友好还是很有我们中国特色的，我们的slogan是：发展负责任的人工智能，也很清楚地表明了我国发展人工智能的方向和态度。

记者：对国内人工智能伦理研究和发展，有什么意见和建议？

聂再清：人工智能研究主要是要协调发展与治理的关系，确保人工智能安全可靠可控，同时要推动经济、社会及生态可持续发展。

我国近期的人工智能技术研究和应用是属于国际先进行列的。在我们的伦理研究和发展过程中，最需要我们注意的是，在必须确保人工智能对人类和环境的安全可靠可控的前提下，避免人工智能技术从业人员和企业的创新激情和手脚被一些落后的观念和制度束缚。

在一些新东西刚出来的时候，我们要给一定的观察期，摸着石头过河，切莫一刀切地一棒子打死。在技术的发展过程中逐渐沉淀出对某类创新的管理办法和行为标准。

编辑 黄泽霖