互联网、大数据、人工智能等新技术日新月异，为经济社会发展带来重大影响。然而，随着“刷脸”不断风靡，海量的个人数据和隐私应该如何界定和保护？人工智能的发展又将带来哪些伦理挑战？8月1日，记者对平安智慧城市联席总经理兼CTO胡玮就上述问题进行专访，他认为，人工智能在发展中应实施有效的管控，并通过法律法规、技术发展及实际操作等层面进行规范。

人工智能需要正向引导

“技术变革能够推动生活方式的改变，尤其在今天，科技的飞速进步让人们生活和工作越发便利了，但包括人工智能在内，任何技术的发展都是一把‘双刃剑’。”胡玮认为，由于人是有个性、有思维的，但人工智能却是从固有的模型出来的，因此人工智能的发展需要有更多“引导”和“控制”。

例如，微软在2017年推出的人工智能聊天机器人TAY，由于受到部分网友影响，这款机器人快速“学习”到了一些偏激言论和粗俗字眼，上线仅一天后便被迫下线。“这就是人工智能带来的无法预知性，它的自我学习能力会不断提高，因此如何控制人工智能带来的消极影响，把好的一面发挥出来，是人工智能发展的重要挑战之一。”胡玮说。

他又以无人驾驶为例，阐述了人工智能带来的另一伦理挑战。“由于人并不是驾驶者，在遇到紧急状况时，要保护车里的人，就有可能危害到外界更多人，为了避免伤害旁人，又如何保证车里的人的安全？这是标准的伦理问题，事实上已经超出了技术范围。”

此外，人工智能强大的数据挖掘、存储、分析与传输功能对个人数据隐私保护存在着潜在的威胁。例如脸书用户数据泄露、剑桥分析公司利用用户数据隐私影响美国大选等事件，引发了对人工智能时代个人数据隐私保护的担忧。

“从社会安全的角度来看，人们希望人脸识别这样的技术能够更好地维护社会安全，增添生活幸福感，但从另一个角度来说，这些技术一旦被滥用，就会影响到人们的正常生活。”胡玮认为，如何正确地使用技术和数据来为人类提供更好的服务，是人工智能发展的核心所在。“需要考虑在对这些数据实现有效管控的同时，又能为社会治理提供好服务。”

可通过法律规范数据交易各方

在人工智能等新科技的助力下，在深圳，不少市民已经开始“一号走遍深圳，一屏智享生活。”记者了解到，平安智慧城市携手深圳市政府打造的全市统一移动政府服务平台“i深圳”自上线以来，已汇集4000多项服务事项，包括政务服务、社会保障、医疗健康、交通出行、电子卡证等，累计下载量超过1200万。

“平安作为一家以金融起家的公司，风险控制是摆在首位的。因此我们对信息安全、数据管理的要求很高，不仅有严格的信息安全规范、标准体系和运营流程，还配备了一流的信息安全团队，加上对风险的渗透测试，可以实现对数据安全的主动防御。”胡玮介绍道。

记者了解到，目前我国正不断加强立法工作，逐步完善对公民个人信息数据的保护。2017年，国务院印发《新一代人工智能发展规划》，强调促进人工智能行业和企业自律，切实加强管理，加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度；2018年，《信息安全技术个人信息安全规范》正式实施，要求企业对于除个人身份信息之外的不可识别的数据信息，应按商业规则和惯例以“合法性、正当性和必要性”的基本原则进行处理。

对此胡玮认为，在法律法规层面，要进一步明确在数据使用过程中出现泄漏的问题责任方，促使数据交易各方对自己的行为负责；在技术层面，要加快推动包括区块链在内的各项技术不断成熟，有效保障数据的隐私性；在操作层面，则要将提供的数据服务做到极致，提高人们的接受程度，进而消除人们对于隐私、数据安全的疑惑。

编辑 曹亮