【专家观点】任福君：关注数字化转型带来的科技伦理问题

编者按：2021年1月23日上午，“2021首科新年论坛——迈向‘十四五’：创新驱动与城市高质量发展”以网络视频会议的形式成功举办。中国科协创新战略研究院院长、教授任福君，在论坛发表题为《关于关注数字化转型带来的科技伦理问题》的主旨演讲。

资料图

以下文字根据演讲内容所整理：

一、数字化转型带来的科技伦理新议题

1. 数字化转型的概念

“数字化转型”是基于各种新型技术，如移动、Web、社交、大数据、机器学习、人工智能、物联网、云计算、区块链等，提供一切所需要的支持，让业务和技术真正产生交互和差异化的价值。这里有一些典型的案例。

海尔，通过对传统生产模式的颠覆与升级，打造按需设计、按需制造、按需配送的互联网工厂体系，使整个制造过程实现高度的柔性，满足个性化定制的需求。

百度云，通过广泛布局新兴技术，在智能云服务的差异化策略下，崛起成为中国公有云市场的一方霸主。

总体上说，伴随着互联网、大数据、人工智能、5G等为代表的新一代信息通信技术的持续创新与渗透，全球数字经济向纵深领域推进，数字化转型成为所有企业在数字经济时代面临的巨大的挑战，同时也是机遇。对传统企业尤其是传统的中小企业而言，数字化转型已经不再是一道选择题，而且是一道必须做的生存题。

2. 数字化转型对于社会发展带来的深刻影响

当前，数字化正以势不可挡之势席卷社会经济的各个领域，在生产制造、社会治理等各个方面都带来了深刻变革。具体体现在以下四个方面：

一是生产力的进一步解放。工业4.0时代，以工业互联网生态系统为代表的现代工业数字化转型，能够通过机器互联、软件及大数据分析、人工智能等新技术，提升生产效率，进一步解放生产力。

二是经济活力的释放。“互联网+制造业”的智能生产模式孕育大量的新型商业模式。互联网—云计算—区块链—物联网等信息技术，使人类处理大数据的能力不断增强，推动人类经济形态由工业经济向信息经济—知识经济—智慧经济形态转化，优化资源配置效率，催生数字经济的蓬勃发展。

三是信息量的爆炸、交流的提升。网络与信息技术使得信息的采集、传播的速度和规模达到空前的水平，实现了全球的信息共享与交互。现代通信和传播技术，大大提高了信息传播的速度和广度。

四是新的社会组织形式、文化样貌的出现。人们组织、交流的形式发生了深刻的变化，社会文化随着新的交流组织的出现和应用而产生新的样貌，各类网络社区、亚文化群体兴起，新的沟通交流形式层出不穷。

3. 数字化转型背后的科技伦理隐忧

数字化转型首先不可回避的会带来新的伦理问题，比如说人工智能、机器人的应用，还有个人信息安全与隐私权的问题。其次，还有虚假信息的泛滥以及数据鸿沟问题。比如说现在正在被科技所遗忘的那些人群，我们大家在这次疫情期间最能有所感触。疫情以来，我们在媒体报道中看到了很多老人由于不会操作智能手机、甚至根本就没有手机而出行受阻，应该说是新的数据鸿沟带来的一些社会问题。

4. 几个案例简介

第一个是大数据时代的个人隐私面临泄露和滥用的风险，这个方面大家都深有体会。比如说最近全国信息安全标准化技术委员会等机构发布的《人脸识别应用公众调研报告2020》显示，有九成以上的受访者都使用过人脸识别，具体用途当中，刷脸支付是最为普遍的；有六成的受访者认为人脸识别技术有滥用的趋势，还有三成受访者表示已经因为人脸信息泄露滥用而遭受到了隐私和财产的损失，其中比较有代表性的就是脸书8700万用户的数据泄露等等。

第二个是人工智能技术与大数据引发的社会层面科技伦理问题。我是做机器人技术出身的，现在特别关注机器人技术的发展，伦理问题在这个方面是不可回避。比如说智慧医疗的设备由于系统故障或者电力供应方面出现问题等原因做出错误诊断或行为从而导致医疗事故的发生，且对患者造成医疗损害时，如何判定医疗损害责任？人工智能本身是否可以承担损害责任呢？这都是可能带来的伦理问题。

第三个就是我国科技伦理治理面临的困难与挑战。一是治理主体不够明确，二是科技伦理教育与培训仍显不足，三是科技伦理治理体系仍需健全，四是相关治理的措施还不够到位。我们前不久面向全国科技工作者做的调查结果显示，有33.6%的科技工作者认为，我国科技伦理审查监管制度仍不完善，42.9%的科技工作者认为当前我国对科技伦理失范事件的打击力度仍显不足。

二、科技伦理体系的建设

1. 国际科技伦理治理的推进

科学技术迅猛发展，科技伦理却相对滞后，这种情况已引起各国政府、科学家、伦理学家、法学家等的重视。加强对科学技术的伦理治理与监管已成为国际社会应对可能风险的重要举措。

从国际组织这个层面来看，各类国际组织早已发出了一系列的倡议并且制定了一系列的国际规则，最早的要回溯到1946年的《纽伦堡法典》，以及世界医学协会1964年发布的《赫尔辛基宣言》。

从政府这个层面来看，各国都制定了许多的相关法律和政策，比如说美国1979年发布的《贝尔蒙报告》。

从学术机构这个层面来看，比较典型的是英国皇家工程院发布的《工程伦理教育指南》。

2. 科技伦理治理体系的结构

从科技伦理的治理体系结构上看有这么几个方面：一是理论研究，加强科技伦理的理论研究是健全科技伦理治理体制的重要基础；二是过程监控，健全科技伦理监管制度，是健全科技伦理治理体制的重要内容，是科技伦理治理得以有效实施的重要保证；三是社会支撑，树立正确的科技观、道德观，营造良好社会氛围，守住伦理底线。

3. 我国科技伦理治理体系发展

我国也非常重视科技伦理问题，在法律层面，1993年出台的《中华人民共和国科技进步法》里就有多条涉及到科技伦理。

从行政层面国务院2007年就发布了《人类器官移植条例》。中央高度重视科技伦理问题，在2019年的政府工作报告中就明确地提出了加强科研伦理和学风建设。总书记在2019年7月24日主持召开中央深改领导小组会议，会上通过了国家科技伦理委员会的组建方案，具有划时代的里程碑式的意义。

从学术共同体层面来看，也有一系列的活动和相应的自律规定。例如2020年9月24日，中国科协创新战略研究院等五家单位联合发布了《科普伦理倡议书》，提升科普质量、承担社会责任。

三、面向未来科技伦理治理的愿景

从总体目标来看，科技伦理治理要求几个主体共同负起责任，共同构建有效的科技伦理治理体系。在政府层面，主要是治理体系基本完善，法治与监管得以有效的实施；在学术共同体层面，主要是推动科技伦理的意识不断增强，学界形成普遍性的科技伦理共识；在高校和科研机构层面；主要是科技伦理教育与监管体制得到全面实施，相关的政策能够落地；在社会层面，主要是在全社会普及伦理知识，全民拥有科技伦理意识并充分的参与科技伦理议题。

1. 政府——以国家科技伦理委员会为核心的科技伦理治理体系建设

一是以国家科技伦理委员会等机构为核心建立全覆盖规划化的科技伦理监管制度；二是加强法制与监管制度的保证；三是建设科技伦理敏捷治理体系。

2. 学术共同体——制定行业规范、监督与自律

从学术共同体这个角度主要是推动制定行业规范监管与自律，一是加深科技伦理理论体系的研究；二是重视相关人才队伍建设；三是完善学界的自律体系；四是广泛开展科技伦理的宣传教育。

3. 高校科研机构——打通科技伦理监管的最后一公里

从高校科研机构这个角度来说，要打通科技伦理监管的最后一公里，一是加强科研机构对学术规范监管制度的落实；二是要加强科研机构科技伦理与学术诚信知识的培训；三是完善体制机制建设，形成常态化、可落地和可行的体制机制。

4. 社会——塑造公众科技伦理意识，促进公众参与科技伦理议题

一是加强教育，提升全民的科技伦理意识；二是与时俱进开展科普；三是搭建公众参与平台形成双向的良性互动。

*文章观点经作者本人授权发布，仅代表作者本人，不代表机构立场。

编辑：陈瑾

版权声明：本文版权属作者和首都科技发展战略研究院所有，任何媒体、网站或个人未经协议授权不得转载、链接、转贴或以其他方式复制发布或发表。欲转载文章，请您联络cistds@cistds.org.cn。已经协议授权的媒体、网站，在转载使用时必须注明"稿件来源：首都科技发展战略研究院"。请自觉遵守我们的转载要求，尊重作者及原创版权，违者将依法追究责任。如发现有未经允许或不合要求的转载，我们将立即举报，并要求您删除文章。原创之路不易，感谢您的支持与配合！