数字世界的伦理秩序，新华网对话复旦哲学系教授王国豫

2023中国计算机大会（CNCC2023）将于10月26-28日在沈阳举办。期间将举办涵盖人工智能、安全、计算+、软件工程等30个热门专业领域的技术论坛，届时，由国际知名学者、两院院士、产学研各界代表在内的700余位报告嘉宾将就计算技术与未来发展趋势展开探讨。

近年来，计算机科学与技术正以空前的规模和速度渗透到社会生活的各个方面。在发挥巨大作用的同时，隐私泄露、权利侵犯、甚至虚拟行为真实影响的法律界定等安全伦理问题层出不穷。计算机行业的从业者承担着重要的社会责任。技术伦理风险主要体现在哪些方面？如何看待技术伦理风险？……围绕相关问题，CNCC2023大会论坛讲者、CCF职业伦理与学术道德委员会主席、复旦大学教授王国豫接受了新华网专访。

近几年，我主要关注作为一种新的技术形态的数字技术的伦理维度。我们将在论坛上探讨我们如何打造、迎接和拥抱数字文明。

王国豫：我长期从事科技伦理的研究，近几年主要关注的是作为一种新的技术形态的数字技术的伦理维度，特别是数字技术在医学和健康场景上的应用，如辅助诊断技术、可穿戴设备、基因检测技术和人工智能医学影像等数字健康技术涉及的伦理问题，包括数据隐私和共享的问题，人类与机器互动中的主体性问题与道德责任分配问题，大模型的价值对齐问题等。

今年，根据大会组委会所确立的主题，我们将在论坛上探讨一个比较宏观的问题，即“数字文明何以可能？”数字技术不仅带来了物质生产方式、知识生产方式和社会生活方式的改变，也给现有的观念、制度、社会组织形式和文化带来了挑战。如何应对这些挑战，是当前我们必须回答的问题，这是一个跨学科的问题，需要多学科的专家从不同的视角来回答。为此，我们邀请了国内知名的技术史、技术哲学、法学专家与人工智能专家一起开展跨学科对话，从技术、历史和法律、伦理的视角对数字技术进行审视，追问数字文明的可能性与条件，探讨我们如何打造、迎接和拥抱数字文明。

对科技伦理问题的探讨越来越多，科技伦理已经引起广泛关注。

王国豫：近年来，国际国内对高科技伦理问题越来越重视。我国也高度重视科技伦理问题。2019年10月，中共中央办公厅、国务院办公厅印发通知，成立国家科技伦理委员会。2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》。今年10月，科技部、教育部、工信部等十部委联合印发《科技伦理审查办法（试行）》，通过对科学研究、技术开发等科技活动中的科技伦理审查主体、审查程序、监督管理等方面进行规范，强化科技伦理风险防控，确保科技创新活动的正确方向。科技伦理已经引起了我国广泛关注。

技术伦理涉及的面很广，从数字技术方面来看，主要涉及数据和算法相关的伦理问题。

王国豫：技术伦理涉及的面很广，从数字技术方面来看，主要涉及数据和算法相关的伦理问题。以人工智能为例，作为数据推动的人工智能，首先涉及数据伦理问题。特别是医学健康大数据，我们知道，这些数据相当于患者的“身份证”，它涉及患者的安全和隐私。因此，这些数据谁在用？干什么用？在哪里保存？是否安全？都会对个人的权利和自由构成影响。其次是算法问题。AI算法的可靠性和可信性与数据的可靠性与可信性同等重要。在当前算法还存在着不可解释性和“黑箱”的情况下，应该如何防止算法带来的偏见和幻觉。再比如人机互动中，人对机器的信任、信赖会不会走向依赖等，这些都是技术伦理需要考量的问题。

希望大家都能保持对人工智能技术的伦理或道德敏感度。人工智能技术和纳米科技、合成生物学等新兴技术一样，是一把“双刃剑”，既造福人类，也可能存在风险。完全没有风险的技术在我看来是不存在的，完全摆脱技术也是不可能的。面对人工智能的技术风险和伦理挑战，我们很难完全取得共识。要在合规合法的原则下，平衡各方，选择一个可以接受的风险水平。

大会提供良好平台，促进多方参与、协同共治，加快科技伦理监管体制机制建立。

王国豫：CNCC大会提供了一个很好的平台，我们邀请不同专业的专家和我们的行业精英、企业代表面对面，直面数字技术的机遇和挑战，共同商议共同谋划如何从数字技术走向数字文明，在我看来是非常重要也是非常有意义的一件事。大会的举办不仅有利于我国人工智能的健康发展，而且对于科技伦理的制度化建设也将具有一定重要的意义。

【责任编辑:付琳】