您的位置:首页 >资讯 > 科技 > 正文

新技术时代 科技伦理治理怎么做?

来源: 第一财经 时间:2022-03-29 09:15:39

进入21世纪以来,全球科技创新进入空前密集活跃的时期,新一轮科技革命和产业变革正在重构全球创新版图,重塑全球经济结构。以物联网、人工智能、量子通信、区块链、合成生物学以及当下备受关注的脑机交互技术等为代表的新兴科技,正在以前所未有的方式深度渗透且深刻改变着人类的生产和生活方式,由此也引发了诸多科技伦理挑战。现有科技伦理治理体系和治理模式,存在体制机制不健全、制度不完善、领域发展不均衡等问题,已难以适应科技创新发展的现实需要。

3月20日,中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》(下称《意见》),从国家层面对科技伦理治理的总体要求、伦理原则、伦理治理体制、伦理治理制度、伦理审查和监管、伦理教育和宣传等方面作出具体部署,为加强我国科技伦理治理的基本价值导向,明确科技创新原则、要求及行动底线提供了指引,也为新技术时代科技伦理治理的专业化、规范化及法治化提供了参照。

科技创新发展呼唤科技伦理治理升级

科技创新在整体上具有提高生产力、增进社会福祉、引领社会发展等正面价值,是经济社会发展的原动力和助力器,但是部分科技创新却会对社会产生负面价值。譬如2018年底的“基因编辑婴儿”技术,以及冷冻胎盘、基因专利化、转基因作物的种植等因其负面影响,引发了生物学界关于科技创新伦理风险的热烈讨论。科技伦理不仅关注人类生命和身体健康的安全问题,也关注科技发展对个体权利和人格尊严的侵犯,以及基因歧视、商业机密泄露和国家利益冲突带来的各类社会问题,与法制变迁、社会发展、环境资源、教育公、安全建设等议题息息相关。

科技伦理作为开展科学研究、技术开发等科技活动的行为准则,成为科技工作者及其共同体应恪守的价值观念、行为规范及社会责任。年来我国正在逐步加强和提升科技伦理治理能力和治理水,2019年中央全面深化改革委员会第九次会议发布《国家科技伦理委员会组建方案》并指出,科技伦理是科技活动必须遵守的价值准则。组建国家科技伦理委员会,其目的是加强统筹规范和指导协调,推动构建覆盖全面、导向明确、规范有序、协调一致的科技伦理治理体系。

《意见》对科技伦理治理提出了“伦理先行、依法依规、敏捷治理、立足国情、开放合作”五大治理要求,体现出坚持创新发展与风险防范的良互动、法治建设与体制健全的协同推进、动态监管与多元共治的全周期多维度治理理念。同时,科技伦理治理是国际普遍关心和共同面对的问题,《意见》提出要建立完善符合我国国情、与国际接轨的科技伦理制度,积极参与全球治理,贡献中国智慧和中国方案。

可以看出,《意见》是为了应对因科技创新日益增多所带来的科技伦理挑战,从国家顶层设计层面对科技伦理治理提出的专业化、规范化、系统化方案,体现国家对科技伦理治理的重视和对科技向善的孜孜追求,致力于建立健全符合我国国情并与国际接轨的科技伦理制度,加快构建中国特色科技伦理体系,实现科技创新高质量发展与高水安全相统一。

明确科技创新主线和底线 统筹发展与安全

《意见》阐明了我国对于科技伦理治理的基本理念与行动守则,即遵循“增进人类福祉、尊重生命权利、坚持公公正、合理控制风险、保持公开透明”五项基本规则。这五项规则层次丰富,从个体到社会群体、从安全到发展、从私人权利到公共利益、从公到公开透明,框定以安全为科技伦理治理的底线,以增进人类福祉与尊重生命权利等为治理主线,不仅与当前国际社会关于科技伦理治理的基本原则相融,也体现出我国对科技伦理治理的基本现实需求。

当前,在以数据与算法、资本、科技及台规则优势的科技创新与应用场景下,经济权力与科技权力高度融合发展,新兴权力体高度聚合科技创新发展的各类要素,在提高科技创新频次和效率的同时,也引发了对生物基因安全、数字隐私安全、数字公正义等问题的挑战。

譬如,年来爆发的“算法歧视”“算法霸权”等问题广受大众诟病,甚至某些算法技术亦可能诱导产生“数字沉迷”或过度消费,甚至对老年人、青少年等用户的身心健康产生不利影响。为此,自2022年3月1日起正式施行的《互联网信息服务算法推荐管理规定》对“提供算法推荐服务,应当遵守法律法规,尊重社会公德和伦理”“不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”等内容就作出了规定。这一点在《意见》中也对相关内容作出了回应,如明确“科技活动应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁”。

又如,“基因改造重组”“脑机接口”“无人驾驶”“生物污染”“转基因食品”等技术的发展,暗含与隐私、安全、责任相关的伦理挑战和技术风险,防范和治理这些不确定风险具有现实紧迫。对此,《意见》明确提出:“合理控制风险。科技活动应客观评估和审慎对待不确定和技术应用的风险,力求规避、防范可能引发的风险,防止科技成果误用、滥用,避免危及社会安全、公共安全、生物安全和生态安全。”可见,在科技伦理治理过程中科技创新发展一定要以安全为底线,必须守住科技创新发展不得损害人类基本权利的规制红线,科技伦理治理应有利于促进创新发展和安全防范相统一,实现科技向善。

完善科技伦理治理体制机制,鼓励和支持协同治理

《意见》明确了“政府主导,多元共治”的治理体制,规定国家科技伦理委员会对科技伦理治理体系建设工作的指导和统筹协调职责,各地方、相关行业主管部门按照职责权限和隶属关系具体负责本地方、本系统科技伦理治理工作。同时,《意见》提出,压实高等学校、科研机构、医疗卫生机构、企业等单位的科技伦理管理主体责任;发挥相关学会、协会、研究会等科技类社会团体的作用,加强与高等学校、科研机构、医疗卫生机构、企业等的合作。其意在将伦理治理贯穿落实到不同治理主体科技活动全过程,鼓励多元主体共同参与,凝聚治理合力。当然,在倡导科技伦理协同治理之时,如何确保各个治理主体之间的高效协作和配合,仍需作进一步研究。

完善科技伦理治理不仅需要建立健全科学规范的治理体制,还需要体系化的法律法规制度,使科技伦理治理工作有法可依,有章可循。对此,《意见》提出“制定完善科技伦理规范和标准,建立科技伦理审查和监管制度,提高科技伦理治理法治化水,加强科技伦理理论研究”四大举措。其中,“‘十四五’期间,重点加强生命科学、医学、人工智能等领域的科技伦理立法研究,及时推动将重要的科技伦理规范上升为国家法律法规”,这一规定值得重视。未来科技伦理立法的出台,将与现有的《民法典》《数据安全法》《个人信息保护法》等法律法规,共同在科技伦理治理领域起到积极作用。

在强化审查和监管层面,《意见》提出“严格科技伦理审查”“加强科技伦理监管”“监测预警科技伦理风险”“严肃查处科技伦理违法违规行为”四项措施。其中,不仅指出各地方、相关行业主管部门要细化完善本地方、本系统科技伦理监管框架和制度规范,对各单位科技伦理(审查)委员会负有监督管理职能,也明确提出本单位科技伦理(审查)委员会对涉及人、实验动物的科技活动具有审查批准权限。

此外,《意见》多处提及加强科技伦理风险预警机制的监管要求,如“加强对科技伦理高风险科技活动的动态跟踪、风险评估和伦理事件应急处置”“相关部门要推动高等学校、科研机构、医疗卫生机构、社会团体、企业等完善科技伦理风险监测预警机制”等举措,彰显敏捷治理、协同治理的理念,有利于快速、灵活应对科技创新带来的伦理挑战。对此,建议各治理主体引入科技手段提升风险监测预警水,设立立体化、智能化、数字化的穿透式监管系统,监测科技活动中违背伦理道德的高风险行为,感知风险演化态势,实现对科技活动的动态全周期、全方位监管。

提升科技伦理治理能力和治理水,是当代世界科学技术发展面临的重要课题。在我国加快建设科技强国、实现高水科技自立自强的道路上,把握和坚守科技创新发展的主线和底线,统筹发展与安全是核心要义。为此,要加快完善科技伦理体系,特别是进一步细化相关法律规范和伦理审查规则,及时推动将重要的科技伦理规范上升为国家法律法规,确保科技伦理法治化建设稳健康发展。同时,全方位完善科技伦理治理体制机制,致力于有效防控科技伦理风险,不断推动科技向善,促进科技更好地造福人类。

(陈兵系南开大学法学院教授、博导,司法与社会研究中心主任;马贤茹系南开大学法学院博士生)

标签: 新技术时代 科技伦理 人工智能 量子通信

相关阅读