科技·伦理·治理“三位一体” 推动科技与善同向而行

刘鹏

“科技是发展的利器，也可能成为风险的源头”。当代科技发展正日益改变着人类个体的生存状态和人类社会整体的存在形态，这就意味着科技与伦理不再是人类知识图谱上分属于左右两端的“两种文化”，而是在现实中深刻交织的同一行动过程。科学技术的发展，不管是从其内在蕴含还是从其社会效应的角度来说，都必然会带来伦理问题；而伦理问题一旦走出哲学的理论边界，必然又会演变成为治理问题。因此，科技、伦理与治理实际上成了同一社会发展过程的三个界面。正是深刻认识到科技发展与伦理秩序之间的这种内在关联，充分意识到科技伦理问题的解决是一个理论研究和现实治理双向合力的过程，同时也准确把握到我国在科技伦理治理能力方面的欠缺，2022年3月中共中央办公厅、国务院办公厅联合印发的《关于加强科技伦理治理的意见》（以下简称《意见》）才会强调，要“进一步完善科技伦理体系，提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类，实现高水平科技自立自强”。因此，如何认识科技、伦理、治理之间的三位一体关系，进而塑造适应现代科技发展要求、伦理诉求和治理需求的高水平科技伦理治理体系，不仅是一个迫切需要解决的现实问题，也是我国在2035年“实现高水平科技自立自强，进入创新型国家前列”的一项长远举措。

一、科技伦理治理需以科技为基

开展科技伦理治理，必须以对科技与伦理关系的恰当理解为前提，要实现这种恰当理解，则必须以对当代科技发展本质特征深刻把握为前提。只有从理论与实践两个层面上厘清伦理介入科技的多重路径，才能够开展针对性的伦理治理工作，进而为“科技向善”的落地机制找到现实锚点。

科学技术的实践导向必然会导致伦理的介入。传统观点往往将科学视为纯粹知识，进而将技术视为纯粹知识的现实应用，于是才有了纯粹科学与应用科学的分类。如果我们回溯近代科学的发展历程，就会发现自第二次工业革命以来，科学与技术的关系变得日益紧密，科学的应用性特征日渐增强。正是准确把握到了科学发展的这一时代特征，许多当代哲学家也才使用“技性科学”这一概念来描述当代学术研究中科学、技术、社会之间的一体化状态。在此意义上，科学不再仅仅是“沉思”的学问，更是一种“干预”的行动，这就使得当代科学带有了强烈的实践导向。实践指向意味着科学技术的强目的性特征，特定目的在科技研发阶段以内嵌于科技的方式得以落地，在科技应用阶段以功能落地的方式得以实现。当然，这里的强目的性并不意味着人类可以恣意而为，它能否达成及其达成的程度，一方面会受到其研发对象以及研发能力的影响，另一方面也会而且也应该受到伦理规则和伦理风险评估的约束。此外，同样需要注意的是，不管是科技本身还是科技与人类社会关系的情境性实现方式都带有极大的不确定性，这就使得科学技术的功能在落地时并非只有预先设计好的那一种，这就更加要求对科技及其功能开展充分的前瞻性研判，尽可能规避各类伦理风险的出现。要做到这一点，就必须对现代科技不确定性的来源形成充分的理论认知。

科技的不确定性增加了伦理介入的不确定性。确定性是科学技术有别于其他知识体系的核心特征，然而这种确定性并非绝对的确定性，它仍然是相对的。这种不确定性来自科技与自然关系的非绝对性，一方面从认识论的角度来说，科技本身是否达至对自然的终极理解，这是一个难以判断的问题，人们只能用预测——验证模型来确定科学技术的经验合理性，但这种合理性并非真理意义上的合理性，而且此种检验的受控性也使得人们无法穷尽科技应用中所出现的可能性；另一方面从历史的角度来说，科学技术都是在不断的替代中前进的，这种替代关系本身就是对科学之绝对真理性的否定。从实践层面而言，科学技术的不确定性确实导致了大量风险事件的发生。1986年，英国坎布里亚地区受到核辐射威胁，科学家们基于失当的科学模型给出了错误的决策，给当地牧民带来很大损失，进而导致牧民对科学家乃至政府的质疑。当然，承认科学技术的不确定性，并不是否定科技本身，恰恰相反，这种承认基于对科学不完备性的认可，进而要求科学技术保持一种面向未来的认识论开放性，进而是伦理上的开放性。在此意义上，即便科学技术的不确定性很难提前研判，但至少要对其保持一种开放心态，并对其可能带来的伦理风险的不确定性保持充分警醒。

科技功能的开放性放大了伦理介入的偶然性。科学技术往往会以技术制品的形式呈现，然而技术制品一旦遇到人类社会，其用途便具有了偶然性和开放性，进而设计者赋予科技产品的伦理意向并非科技产品所可能呈现出来的唯一伦理属性，技术决定论在这里并不适用。就如同刀可以成为人类切开食物的工具，也可能成为犯罪的凶器，甚至也可能成为具有收藏价值的艺术品、具有考古意义的文物，如此等等。当然，这种功能上的偶然性并非等同于任意性，其开放性也并非等同于一种简单的社会决定论，它们之所以会发生，是因为技术制品并非拥有一个封闭的边界并以此边界将其本质框定在内，边界的开放性使得其本质向所处情境开放，于是在人与物的情境性关系中技术制品的功能得以实现。这种偶然性和开发性要求我们必须密切关注使用中的科学技术，必须要对其可能产生的后果保持伦理敏感和警醒。

二、科技伦理治理要以伦理为纲

如果说科学技术本身并非超然于价值之外，而是一直处于与伦理的纠缠之中，那么以一种伦理上可取的方式发展和使用科技，便成为一个不得不思考的问题。

以伦理上可取的方式发展科技，需要坚決贯彻伦理先行的理念。传统观点主张将科学技术的研发阶段与使用阶段区分开来，并认为前者价值中立，后者才是价值介入的切入点。这种二段式观点一方面并未注意到伦理介入科技的第一种方式即科学技术的功能在很大程度上与其研发意图高度相关，另一方面也未注意到伦理介入的第二种和第三种方式也与研发阶段密切相关，如若不然，放任科学技术的不确定性和科技制品的开放性，会带来无法估量的伦理风险，甚至会导致各种“黑天鹅”“灰犀牛”事件的发生。正如“科林格里奇困境”所言：“一项技术的社会后果在技术发展的早期阶段是无法预期的。然而，当某些不可取的后果显现出来时，技术已经成为作为整体的经济和社会结构中的一个重要部分，以至于对它的控制变得非常困难。”在此意义上，技术发展的早期阶段特别是在研发阶段的伦理研判就显得尤为重要。正是关注到了这一重要性，《意见》才将伦理先行作为科技伦理治理的第一要求，即“将科技伦理要求贯穿科学研究、技术开发等科技活动全过程”。同样，2021年国家新一代人工智能治理专业委员会发布的《新一代人工智能伦理规范》，在其“总则”的第一条同样要求“将伦理道德融入人工智能全生命周期”。贯彻伦理先行理念，一方面要对科技研发阶段伦理介入的各种可能性保持清醒，另一方面要尽可能通过前置的风险研判规避后发的伦理风险。

以伦理上可取的方式发展科技，应使伦理研究与科技发展同频共振。新一轮科技革命日新月异，新科技成就层出不穷，在此意义上科技引发伦理问题和介入伦理生活的方式与路径也在不断变化。因此，伦理研究人员必须密切注意科技动向，强化与科技研究人员的合作，共同展开对前沿科技的伦理研究。近段时间获得极高关注度的ChatGPT，尽管人们对其生成的文本内容到底是创新性的突破还是一本正经的胡说各执一词，但社会已经对其做出了迅速回应。例如，《自然》杂志明确规定，ChatGPT之类的大语言模型因为其无法承担作者的责任，进而也就不能获得作者的身份，但《自然》杂志并未禁止ChatGPT的使用，只不过要求文章在恰当的地方对使用情况作出说明。香港大学也明确规定，禁止学生在课堂学习和课程作业中使用ChatGPT，但这只是一项临时政策，至于长远政策则需要在校方慎重考虑并参考全校师生广泛讨论的意见之后再行确定。在此意义上，新技术总是和与之相适应的一套伦理规则同步而行的，这就要求伦理研究人员必须紧跟技术步伐，开展敏捷性甚至前瞻性伦理研究。同时，当代科技发展呈现出学科细化与交叉融合两个看似矛盾的特征，这更加要求伦理研究人员必须关注到不同领域的科学技术所可能呈现出的伦理差异，从而形成适用于不同学科、领域特征的伦理规范。因此，科技伦理研究并非一个先验领域，而是由经验指向的，实践的开放性决定了科技伦理研究的开放性。

以伦理上可取的方式发展科技，必须培养科研人员的伦理风险意识。科技的伦理内嵌本性与不确定性特征及其带来的伦理敏感性，必然要求科研人员具有同样的伦理敏感性。伦理意识和伦理敏感性的培养，首先要求科研人员必须从理论层面明确伦理先行原则的必要性，若非如此，研发阶段的伦理敏感性就没有了存在的认识论根基；其次科研人员必须以一种负责任的态度对待科技研发，强化自己的风险研判能力，开展负责任的研究与创新，只有如此，科技向善才有可能从理念落实为行动；最后科研人员需要将伦理意识贯穿科技研发与科技应用全过程，必须对使用者的伦理反馈保持高度敏感，并构建一套伦理问题应对的敏捷反应机制，强化自己应对伦理难题、化解技术风险的能力，尽量减少甚至规避负面效应的出现。伦理意识属于道德范畴，不仅需要科研人员本身的内在自律，同样需要全社会塑造一种良好的伦理治理氛围，通过内外两种途径加以强化，最终将伦理意识内化为科研人员的道德良知，进而使得一种高度自觉、高度敏感的伦理意识和风险研判能力成为科研人员的自觉行为。

三、科技伦理治理应以治理为标

科学技术对人类生存状态与生存方式的深层次介入，需要科技伦理学对其展开本体论的考察，这是一种哲学意义上的研究，这种介入的实践导向同样决定了科技伦理研究的现实指向，这是一种治理意义上的研究。就此而言，科技伦理研究的最终目标是治理，这就要求我们实现从伦理研究向伦理治理的转化。

治理导向的科技伦理研究，应当实现伦理理念向治理规则的转化。作为哲学的一部分，伦理学研究往往强调伦理理念的重要性。然而理念之所以能够成为理念，其中一个重要原因就是其涵盖范围的普遍性，而这种抽象性和普遍性的获得是以其可操作性的降低为代价的。因此，理念的重要性在于为科技伦理治理指明方向，但这一方向的达成却需要将理念细化为操作规则。同时，理念的高度抽象性也降低了其可解读性，于是同样一件事情，不同群体、不同视角可能会产生不同甚至相反的理解，这类“执行鸿沟”现象的存在，会弱化理念的指导作用。在此双重意义上，我们必须将理念转化为规则，从而实现理念的落地。目前，除了相应的法律、法规之外，各级各类伦理委员会以及伦理审查制度也承担了治理规则的职能。伦理审查是维护科技研究伦理底线的主要抓手，但需要清楚的一点是，伦理审查要根据审查对象的伦理风险程度开展差异性审查，对常规性科研工作开展快速审查以提高效率，對创新性科研工作充分研判风险以深化伦理把关。此外，要强化伦理委员会对科研项目执行过程中的监督功能，充分确保科研人员在项目执行过程中真正做到依法、依规科研，真正做到在伦理批件允许的范围内展开合乎伦理的研究。

治理导向的科技伦理研究，必须坚持个体伦理和社会治理的并重。科研人员的伦理责任意识是微观层面上推进科技伦理治理的重要一环。然而，作为一种个体伦理意识，它会面临自觉性和敏感性的难题。就前者而言，不管是在理论意义上还是现实意义上，内在道德良知的达成只能是一个导向，并不能承担起科技伦理治理的全部重担，正如技术哲学家米切姆所言：“仅仅从技术伦理的角度来思考是不够的……任何技术伦理本身都将趋于软弱——如果不是无能的话。”就后者而言，科研人员个体伦理敏感性和风险研判能力的差异，也会给治理效果带来不确定性。因此，必须构建一个多主体协同的伦理治理模式，形成一个由政府、社会、媒体、公众等多方组成的风险研判精准、问题反馈通畅、监督机制有效、治理行动敏捷的治理共同体。由此，以内、外两条路径，构筑科技发展的伦理屏障。正是在此意义上，2019年国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》才强调：“推动国际组织、政府部门、科研机构、教育机构、企业、社会组织、公众在人工智能发展与治理中的协调互动。”

治理导向的科技伦理研究，必须做到伦理治理与科技发展的统一。对科技展开伦理治理，其目的并非限制科技，而是推动科技以一种伦理上可接受的方式实现高质量发展。正如《意见》所言，科技活动要“有利于促进经济发展、社会进步、民生改善和生态环境保护，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展”。伦理原则是指在一定历史时期内科技发展所应遵循的规则，但要注意这些规则是在特定社会历史背景和科技发展水平的条件下形成的，不可避免地带有时代特征，它只具有相对稳定性，特别是当上述背景和条件发生变化时，这些原则可能会有所变动。例如，国际干细胞研究学会发布的2021版《干细胞研究与临床转化指南》，在某种程度上松动了对人体胚胎体外研究的14天规则的要求：“如果在某一管辖范围内得到工作广泛支持且获得当地政策和法规许可，出于科学上的目标，专门的科学监督和伦理监督程序可以权衡是否有必要超出14天的培养，并证明其合理性，同时要确保使用能够达成研究目标的最小数量的胚胎。”我们对科技伦理界的此类最新变化应该保持敏感，既不能过于简单地接受，又不能置之不理，而应采取一种审慎的态度，鼓励“多学科、多领域专家及社会公众共同探讨，研判该原则的现实价值及未来走向”。在此意义上，伦理治理需要在稳定与动态之间保持张力，说其稳定是因为伦理原则至少在一段历史时期内是相对固定的，说其动态是因为伦理规则要对科技最前沿保持敏感，但不管规则处于何种状态，无可否认的是，伦理治理的目标是形成科学技术与伦理规范、自然秩序与社会秩序良性互动、协同发展的态势，这本身就是高水平科技自立自强的内涵之一。

综合而论，科技伦理治理必须立足科技，充分研判伦理介入科技的多种进路，由此针对性地构建治理路径；必须紧扣伦理，准确把握伦理先行的理论可能性和现实必要性，强化科研人员伦理意识和风险研判能力；必须瞄准治理，正确理解治理的行动性和社会性特征，真正做到推动科技与善协同而行。在此意义上，科技伦理治理工作必须秉持科技、伦理、治理三者同向同行的原则，构建科技、伦理、治理“三位一体”格局，形成科技启航、伦理导航、治理护航的良序发展态势，既充分发挥现代科技的“力度”，又充分彰显科学技术的“温度”，为国家实现高水平科技自立自强构建伦理治理支撑体系。

（作者系南京大学哲学系副主任，教授、博士生导师）

责任编辑：刘景昌