漫画：颜庆雄

基因编辑、人工智能觉醒、异种器官移植、个人网络信息安全……科学技术不断迅猛发展的同时，也给社会带来新的风险和不确定性，同时可能引发一些前所未有的伦理挑战。中共中央办公厅、国务院办公厅近日印发《关于加强科技伦理治理的意见》（以下简称《意见》），这是我国首个国家层面的科技伦理治理指导性文件，也是继国家科技伦理委员会成立之后，我国科技伦理治理的又一标志性事件。本期思与辨就此展开讨论。

主持人：赵 鑫

嘉 宾：李 珍（中山大学马克思主义学院副教授、博士生导师）

陈 兵（南开大学法学院教授、司法与社会研究中心主任）

贾 开（电子科技大学公共管理学院副教授）

《意见》搭建了科技伦理治理顶层设计框架

主持人：《意见》出台有何意义？

李珍：《意见》对我国科技伦理治理工作作出系统部署，具有重大指导意义，有助于进一步提升社会各界对科技伦理治理重要性的认识，有效防范科技伦理风险，对推动科技向善，实现高水平科技自立自强，加快建设创新型国家和科技强国发挥重要作用。在深度科技化的时代，合伦理、负责任的研究与创新应是科技活动的不二选择。

陈兵：《意见》从国家层面对科技伦理治理的总体要求、伦理原则、治理体制、制度保障、伦理审查和监管、伦理教育和宣传等方面作出整体设计和具体部署，为明确我国科技伦理治理的基本价值导向、科技创新原则和创新活动底线提供了指引，也为新技术时代科技伦理治理的专业化、规范化及法治化提供了参照。

贾开：在理念意义上，有助于提升创新主体对科技伦理的重视程度，从而自我规范科技创新行为。目前，人工智能等新兴领域尚未形成伦理教育的完善体系。因此，一般性地提出科技伦理治理问题，有助于在理念上回应治理缺口和治理空白。在制度意义上，《意见》搭建了科技伦理治理顶层设计框架，为未来构建科技伦理风险评估、应急事件处置、科技伦理责任追溯等系列制度提供了指引和改革路线图。

科技创新发展要以增进人类福祉为首要原则，这是科技伦理治理的原动力和终极目标

主持人：应该如何确定伦理审查标准，才能保证科技创新不越“雷区”？哪些伦理标准应成为科技创新的“硬约束”？

贾开：我们很难界定一个明确的伦理审查标准，或者划定明确的科技创新“雷区”。这一方面是因为科技创新本身就是产生“不确定性”的过程，另一方面科技创新往往需要嵌入到应用场景中才可能体现伦理风险，而应用场景的复杂性和“事后性”又将进一步增加“事前”确定伦理标准的难度。当然，这不代表我们没有共识性的伦理标准“硬约束”。“尊重生命权利”在任何时候都应该作为科技伦理的首要要求，这既意味着科技创新不能以对“人”的伤害为代价，更意味着科技创新的目的是服务于“人”。

李珍：从整体上看，科技伦理有三个责任原则，那就是科技伦理的道德无害、道德为善和道德完善三个基本责任承诺。更确切地说，任何科学技术实践都必须首先避免给人类自身及社会文明带来伤害，这是科技伦理的“底线要求”。进而，任何科技实践都应有益于人类自身及其社会文明的改进和改善，这是科技伦理的“普遍要求”。再进一步，任何科技实践都应以人类自身及其社会文明的完善和完美为最高目的或目标追求。

陈兵：科技伦理审查标准的确定，应当以《意见》提出的科技伦理治理的基本理念和行动守则为依据。其一，科技创新发展要以增进人类福祉为首要原则，这是科技伦理治理的原动力和终极目标；其二，以安全为科技伦理治理的底线。任何科技创新都不能威胁到生命权利、社会安全、公共安全、生物安全和生态安全，这是科技发展不可逾越的“雷区”；其三，以坚持公平公正、保持公开透明为治理关键点，提高科技活动信息透明度，保证客观真实。

提升公众科技伦理意识，确保科技伦理观入脑入心

主持人：为保证《意见》落实到位，实施过程中，应重点关注哪些问题？

陈兵：《意见》提出，健全多方参与、协同共治的科技伦理治理体制机制。在《意见》实施中，如何确保各个治理主体之间的协调和配合，做好各环节各领域的对接工作，仍需各治理主体在实践中探索和总结经验，共同推动科技向善。此外，《意见》提出深入开展科技伦理教育和宣传，要切实提升公众科技伦理意识，确保科技伦理观入脑入心。

贾开：第一，需要推进科技伦理的交叉研究。造成科技伦理风险的原因并不局限在科学技术上，往往是科技与社会的相互作用才导致了伦理治理风险。揭示这一复杂过程需要跨学科的交叉研究，而以此为基础推进伦理教育、伦理治理才能“有的放矢”。第二，需要探索良性互动的科技伦理治理体系结构。科技伦理制度的健全是重要前提，但如果考虑科技创新本身的动态性和不确定性，那么“静态”的制度规则仍然具有“滞后性”，因而赋予创新主体以宽泛的自由裁量权，并通过监管机构来督促其规范行为，进而在不同治理主体间形成合理的治理权限分配关系，同样十分重要。

李珍：政策好，更要落实好。应当重点关注几个问题：一是建立关键科学领域的伦理和治理框架。实际上，各领域在伦理治理方面的探索是不平衡的，例如，目前人工智能相关的研发活动还没有明确的伦理审查制度，而生命科学和医学伦理制度发展和实践相对较早，可以为人工智能等领域的科技伦理建设提供有意义的参考。在借鉴的同时，需要充分认识不同领域之间的伦理问题及治理方式的差异，发展适用于各个关键科技领域的伦理与治理框架。二是要推动科技伦理治理的法治化建设，加紧制定和完善科技伦理的规范和标准，出台《科技伦理治理实施细则》，制订《科技伦理高风险科技活动清单》，建立科技伦理风险监测预警系统，设立国家级科技伦理研究基地，加强科技伦理理论研究，增强我国科技伦理治理的国际学术话语权和议程设置权。三是要加强人才建设，培养懂科学、懂技术、懂伦理、懂治理的专业人才。一方面要加强科研机构、大学、企业科研人员的伦理培训，另一方面要加强伦理教育，从小培养青少年科技伦理和道德意识。

（原标题《思与辨｜防范科技伦理风险 引导科技向善向上 》）