中国企业数字科技伦理发展:演变历程、最新进展与未来进路

2024-04-25 18:01肖红军张丽丽
产业经济评论 2024年2期
关键词:治理体系

肖红军 张丽丽

摘 要:数字科技的发展带来数字化与智能化的转变,数据安全、算法歧视、数字鸿沟以及直播乱象等伦理问题也随之出现,推动企业数字科技伦理健康发展成为重要课题。中国企业数字科技伦理的演进历程可以划分为三个阶段:2015 年以前,网络与信息安全是科技伦理的早期体现;2015年至2021 年,科技伦理被明确提出且将人工智能纳入其中;2022 年至今,企业数字科技伦理内容细化与外延拓展。中国企业数字科技伦理所取得的进展主要体现为所关注的议题与时俱进,政府监管制度体系不断完善且监管机构设置不断跟进,企业自律性制度建设不断完善,开始建立科技伦理委员会并对外披露伦理治理情况,社会生态中行业组织、全民数字科技伦理教育和培训等广泛开展以及媒体监督作用不断增强等。然而,中国企业数字科技伦理治理仍存在数字科技伦理意识普遍缺乏、治理实践过于表面、监管制度供给不足、机构设置相对滞后以及教育薄弱等问题。针对以上问题,可以在数字科技伦理多元主体共治的总体思路引领下,从加强企业自律自治、政府强化监管、行业组织引导与支持、优化社会生态等层面来不断加强中国企业数字科技伦理治理,实现数字科技健康发展。

关键词:数字企业;科技伦理;治理体系

一、引 言

数字经济作为一种新型经济形态正在快速发展。国家互联网信息办公室发布的《数字中国发展报告(2022 年)》显示,2022 年中国数字经济规模达50.2 万亿元,总量稳居世界第二,同比名义增长速度为10.3%,占GDP 比重提升至41.5%,成为中国经济稳增长促转型的重要引擎。人工智能、区块链以及大数据等数字技术带来生产生活的数字化和智能化转变,也引发数据库失窃、隐私侵犯、数字鸿沟、算法黑箱以及直播乱象等伦理问题,引起社会各界的广泛关注,成为“科林格里奇困境”。借鉴科技伦理的相关概念,数字科技伦理可以初步界定为在开展数字科技相关研究与开发、产品生产以及服务提供过程中应该遵守的价值理念和行为规范等。保障数字科技的健康发展和造福人类,数字科技是起点,是伦理思想和原则的应用领域;伦理是落脚点,是数字科技活动所必须遵守的价值理念和行为规范(甘绍平,2022)。数字科技伦理原则包含在科技伦理原则之内,即增进人类福祉、尊重生命权利、坚持公开公平、合理控制风险和保持公开透明。与欧盟、美国等国家或地区相比,中国企业数字科技伦理监管或治理起步较晚,且呈现出数字科技企业以满足业务发展和履行政府监管政策为主的伦理自律或自治;政府在数字科技伦理监管制度体系建设和监管机构设置等方面存在一定的滞后性;社会生态系统构建上存在数字科技伦理的学校教育、社会宣传以及培训等方面较薄弱等特征。为进一步推动中国数字经济实现高质量发展,企业数字科技伦理治理亟待加强。

数字经济是新经济形态,数字科技伦理是相对新的研究领域,体现为数字科技的研发与应用要遵从于人类的道德准则且对人类有益(Schuurman,2006)。通过对学者们在数字科技伦理领域的相关研究进行梳理,发现现有的研究主要集中在以下领域:一是关于数字科技伦理的前期性或基础性研究。以人工智能为代表的数字科技是继生命科学和医药健康之后的科技伦理领域,目前还没有明确的相关概念和范围界定,基础性研究大多集中在科技伦理和负责任创新等领域。在TomasHellstr?m 于2003 年最先提出负责任创新相关概念之后,学者们的研究逐渐扩展到理论内涵的深化(梅亮与陈劲,2015)、实践领域的转化(赵延东与廖苗,2017)、治理机制的完善以及相关反思批判(李平与廖苗,2021)等领域。René Von Schomberg 认为科技伦理是负责任创新的重要内容,体现为符合社会需求和伦理道德等社会责任规范,构建负责任的科技治理体系是推动科技向善的重要内容(代金平与李杨,2022)。二是科技伦理相关研究延伸至以大数据、人工智能为代表的数字科技领域。首先,对不同国家或地区在数字科技伦理监管的制度建设、实践经验等方面开展研究,系统介绍和分析了欧盟、美国、英国以及日本等国家或地区的数字科技伦理监管制度体系、机构设置、监管模式、主要监管主体以及重要议题等,并提出从制度设计、监管模式和社会生态赋能等方面来加强中国数字科技伦理监管(肖红军等,2023)。其次,对不同国家或地区的数字科技伦理监管制度体系进行比较分析。例如将欧盟、美国等国家在人工智能、5G 等数字科技领域的伦理监管与中国进行比较分析,并提出完善中国人工智能伦理监管的路径(贾开,2018;宋黎磊等,2021;林美玉等,2021)。再次,针对特定数字科技伦理问题开展的相关研究,主要是对欧盟大数据、人工智能等相关伦理问题和监管制度建设等系统阐述和分析,为进一步完善中国相应领域的数字技术伦理监管提出建议(金晶,2021;曾雄等,2022;王伟洁等,2022;陈一,2020);主要集中于其引发的价值渗透、信息泄露等伦理问题(郑世林等,2023)和重塑时空场域、生产关系和生活方式等引发的社会变革(张夏恒,2023)以及从技术创新、场景落地、监管制度建设等方面提出的应对策略(许雪晨等,2023)。三是关于数字科技伦理相关应用及延伸领域的研究,主要集中在以平台监管和社会责任的履行为研究视角,分析了平台企业运行中存在的算法黑箱、算法歧视、数字野火、沟通受阻及隐私侵犯等伦理问题,从监管规则、监管技术、监管模式以及社会责任履行等维度提出加强伦理监管的措施或逻辑框架(阳镇等,2021;江小娟等,2021;肖红军等,2022;吴飞,2022;许可,2022)。

通过梳理与总结企业数字科技伦理相关研究发现,数字科技伦理已引起学界广泛关注,从对欧盟、美国以及英國等国家的经验借鉴与比较分析逐渐向加强中国数字科技伦理的制度建设、机构设置、企业社会责任及治理等领域延伸,研究内容不断丰富且成体系化。政府对数字科技伦理治理重视程度不断提升,国家科技伦理委员会的设立以及《关于加强科技伦理治理的意见》的发布具有里程碑意义。数字科技企业开展了系列伦理治理实践,以设置科技伦理相关委员会及制定规范性制度等方式来防范伦理风险的发生。为有效应对数字科技伦理问题,中国企业数字科技伦理治理仍需进一步加强,系统性和深入性的研究亟待开展,尤其是针对中国企业数字科技伦理制度建设情况、重点领域、存在问题或困境等。加强企业数字科技伦理治理是数字经济时代重要课题,关乎数字经济的高质量发展,也是数字科技与人类、数字科技与自然和谐共存的重要内涵。本文从中国企业数字科技伦理发展的演变历程、最新进展及存在问题等方面对中国企业数字科技伦理进行系统性梳理与分析,提出深入推动企业数字科技伦理健康发展的对策建议。

二、企业数字科技伦理发展的演变历程

对中国主要数字科技企业、数字科技伦理监管制度体系建设、关键性伦理监管部门设置以及重要事件等进行回顾和梳理,将中国企业数字科技伦理的演变历程大致划分为三个阶段:第一阶段是2015 年以前,网络与信息安全是企业数字科技伦理的早期体现;第二阶段是2015 年至2021 年,科技伦理被明确提出并将人工智能纳入其中;第三阶段是2022 年至今,企业数字科技伦理内容细化且外延拓展。

(一)网络与信息安全是企业数字科技伦理的早期体现(2015 年以前)

1994 年中国接入国际互联网的64K 专线开通,开启了互联网时代。互联网成为经济发展的重要动力,催生出软件服务、电子商务、网络游戏等新兴产业,也引发了黑客攻击、特洛伊木马等网络安全问题。网站数据库被窃取、公民个人信息泄露以及由此带来的财产损失,并逐渐衍生出网络黑色产业链,带来诸多不良社会影响。维护网络与信息安全被提上日程,并与经济、法律和公益共同成为企业社会责任履行的重要内容(Carroll et al.,1991;陈炳富与周祖城,2000)。2014 年6 月,中国与联合国首次联合举办了信息和网络安全国际研讨会,会上就网络空间国际规则制定、互联网治理等问题展开深入探讨。同年12 月,首届世界互联网大会在中国举行,互联网共享共治成为重要话题。维护网络与信息安全是这一时期中国企业数字科技伦理治理的主要内容。

政府层面的数字科技伦理治理,主要体现为出台维护网络与信息安全等相关政策,并逐步提高制度约束的刚性。为维护网络与信息安全,政府出台了一系列政策对互联网运营者、产品或者服务提供者以及基础资源管理部门等主体和行为做出指导和规范。例如《全国人民代表大会常务委员会关于维护互联网安全的决定》《互联网信息服务管理办法》《中华人民共和国计算机信息系统安全保护条例》《计算机信息网络国际联网安全保护管理办法》《互联网安全保护技术措施规定》《电信和互联网用户个人信息保护规定》等。其中,2000 年发布的《全国人民代表大会常务委员会关于维护互联网安全的决定》明确规定对于构成犯罪的破坏网络安全的行为,要依照刑法有关规定追究刑事责任,凸显维护网络安全的制度刚性。

企业层面的数字科技伦理治理,主要体现为在制度建设和组织体系中虽未明确提出科技伦理的概念,但在企业社会责任履行中包含着科技伦理治理的相关内容,即维护网络与信息安全,并采取建立联盟、设立安全平台以及多方联合打击等方式来维护网络环境的安全与洁净。阿里巴巴集团在其第一份社会责任报告《共创开放、协同、繁荣的电子商务生态系统暨2007 年度阿里巴巴集团社会责任报告》中明确提出预防和消除网络犯罪、保障电子商务交易安全是重要社会责任之一,并建立互联网安全志愿者联盟打击网络违规行为,维护互联网诚信公平环境,传播互联网安全理念。在随后几年中,阿里巴巴集团也将网络安全、可信任与透明性等作为社会责任的重要内容。面对因网络环境复杂性与监管的滞后性所引发的网络黑色产业链,2014 年,腾讯联合公安部等发起“雷霆行动”,对网络诈骗、病毒软件、信息失真以及色情信息等网络黑产进行有效打击,洁净网络环境。

(二)“科技伦理”被明确提出并将人工智能等纳入其中(2015-2021 年)

伴隨大数据、人工智能以及区块链等新一代数字技术兴起与应用,个人信息安全和隐私保护以及由此带来的一系列触及社会伦理道德的事件不断发生。数字科技伦理问题从网络与信息安全扩展至数据安全、隐私保护、算法透明度、深度伪造及数字鸿沟等领域。2015 年,国务院发布的《促进大数据发展行动纲要》中提出,为保障大数据安全,要深化网络安全防护体系和态势感知能力建设,增强网络空间安全防护和安全事件识别能力。维护网络与信息安全从数字科技伦理治理主旋律转变为基础性和保障性支撑。此外,“科技伦理”“科技为善”以及“伦理规范”等理念在政府重要会议、文件中被明确提出,并逐渐成为企业数字科技伦理制度建设、管理实践以及经营活动的重要导向。

政府层面的数字科技伦理治理,一是将数字科技伦理治理的相关内容包含在国家科技创新或数字科技发展的决定、规划以及行动纲要当中,强调科技伦理对于数字科技产业发展的保障性。例如2017 年国务院发布的《新一代人工智能发展规划》提出,要开展人工智能行为科学和伦理等问题研究,建立伦理道德多层次判断结构及人机协作的伦理框架;建成更加完善的人工智能法律法规、伦理规范和政策体系。《中共中央关于坚持和完善中国特色社会主义制度 推进国家治理体系和治理能力现代化若干重大问题的决定》中强调,要进一步完善科技创新体制机制,健全科技伦理治理体制。《中华人民共和国国民经济和社会发展第十四个五年规划和2035 年远景目标纲要》提出,要健全科技伦理体系,在科技伦理治理体制的基础上延伸至科技伦理基本原则、制度规范以及治理机制层面。《“十四五”大数据产业发展规划》中也包含采用隐私计算、数据脱敏、密码等技术来加强数据安全等相关内容。二是针对科技伦理或数字科技伦理进行制度建设和监管机构设置,进一步细化数字科技伦理监管。2019 年,在《国家科技伦理委员会组建方案》指导下,设立国家科技伦理委员会来完善科技伦理相关的治理体系,并对人工智能等数字技术所涉及的伦理问题高度关注。数字科技伦理监管政策已深入到数据安全、个人信息保护以及人工智能治理等特定领域,例如《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等,尤其是《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能治理规范》对人工智能治理框架和原则等进行了明确,并催生出地方政府层面的制度建设,例如《深圳经济特区人工智能产业促进条例》出台并强调设立人工智能伦理委员会以加强人工智能伦理治理。

企业层面的数字科技伦理治理,明确提出“科技伦理”“人工智能伦理”等理念或原则,针对数据安全和个人隐私保护等重点伦理问题进行制度建设和部门设置。以腾讯、百度等企业为例,腾讯在2018 年社会责任报告中首次使用“科技伦理”这一名词,成立数据隐私保护委员会,并提出了人工智能伦理四原则。百度设立数据隐私保护委员会,并在2020 年环境、社会及治理报告中提出负责任的人工智能、人工智能伦理等相关理念。2020 年,商汤成立人工智能伦理与治理委员会,对人工智能产品进行发布前审核以发现并去除潜在风险。2021 年,海康威视设立技术伦理委员会,以确保人工智能、大数据等技术在研发与应用过程中不存在道德伦理冲突,并先后发布《海康威视个人数据保护准则》《海康威视关于数据主体权利的标准制度》等,以规范业务开展中的隐私保护和数据安全。

(三)企业数字科技伦理内容逐渐细化且外延拓展(2022 年至今)

2022 年,以ChatGPT 为代表的生成式人工智能所引发的数据安全以及隐私泄露等问题引起全球性关注。企业数字科技的快速发展及新伦理问题的出现,亟需相应的制度来加以监管、规范和引导。为了应对生成式人工智能及深度合成等引发的新伦理问题,政府、企业等主体加快了监管政策和自律性制度的出台,例如《关于加强科技伦理治理的意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法(征求意见稿)》《科技伦理审查办法(试行)》等。2022 年,阿里巴巴集团设立科技伦理治理委员会,将隐私保护、安全可靠及可信可控作为其中三项基本准则,并于2023 年发布《科技伦理审查管理规范》以加强对算法等数字技术的伦理治理。

此外,数字科技伦理从科技与人的关系延伸到人与自然、科技与自然,即在数字科技研发及应用的过程中还要重视对自然环境的保护。党的二十大报告中指出,人与自然和谐共生是中国式现代化的重要本质之一。《数字中国建设整体布局规划》中指出,要推进数字技术与经济、政治、文化、社会、生态文明建设“五位一体”深度融合。在进行数字科技伦理监管和制度建设时需要将数字科技活动对环境的影响考虑在内,数字科技伦理的内涵应当拓展到对自然环境的保护(王希勤,2023)①,实现人与科技、科技与自然的和谐与共生。

三、企业数字科技伦理发展的新进展

中国企业数字科技伦理领域的相关制度建设、监管机构设置、行业组织或企业治理实践以及生态体系构建主要集中在2015 年以后。大型数字科技企业的伦理治理规范和实践、政府出台的数字科技伦理监管政策和机构设置、行业组织等发布的伦理标准或规范以及社会公众热议的话题等,能够在一定程度上代表中国企业数字科技伦理发展的新动态和未来趋势。

(一)关注议题

通过对数字科技企业的组织结构、制度建设以及社会责任的履行情况、政府制定的相关制度以及公众的广泛热议等进行总结与归纳,中国企业数字科技伦理主要关注议题包括网络安全与信息安全、负责任的人工智能、数据安全与隐私保护、数字鸿沟、网络内容健康性以及未成年人保护和青少年发展等。

1. 网络安全与信息安全

网络安全是信息安全的基础,信息安全是网络安全的体现,两者紧密相连。网络安全与信息安全是一直贯穿至今的议题。网络安全体现为网络使用的过程安全以及网络环境的整体安全。信息安全体现为是否存在信息失真与信息被盗取等,并由此产生诈骗等不良社会影响。信息失真包括信息虚假、不当言论、网络诈骗以及网络暴力等。信息被盗取是指因网络安全防线被攻破而引起的信息被不法分子窃取并用于获取不正当财物等。

政府为维护网络安全与信息安全进行了相应的制度建设和机构设置。例如《中华人民共和国网络安全法》《中华人民共和国电信条例》及新修订的《网络安全审查办法》等对保护电信、网络的基础设施、运营主体、使用主体的信息安全和网络安全等进行了相关的规范和要求,并设立国家互联网信息办公室履行加强互联网信息内容管理等职责。数字科技企业为维护网络安全与信息安全进行了制度建设、部门设置以及技术赋能等,例如百度将保障网络安全放在重要位置,设置安全委员会,参与网络安全领域30 余项国家标准制定工作等,并从Security、Safety 和Privacy 三个维度全面保护网络安全。华为及抖音集团等也采取类似措施以保证网络与信息安全。

2. 负责任的人工智能

负责任的人工智能,应当遵循和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作以及敏捷治理等原则①,其相关议题有算法滥用、算法透明度及深度伪造等。算法滥用主要指数字平台运用算法收集用户的消费喜好、个人信息等,并通过算法推荐等功能将用户锁定在一个信息区域,由此带来信息茧房、大数据杀熟及诱导沉迷等伦理问题,算法偏见与歧视包含其中。算法透明度指算法应该允许用户确定在操作过程中的价值、偏差和意识形态以避免产生信息误导(Diakopoulos 与Koliska,2016)或群體分化等伦理问题。深度伪造是利用深度合成技术对图像、语音、视频等进行模拟或修改以达到肉眼无法辨别、以假乱真的程度,模糊了真实和虚假的边界,严重影响社会信任体系。

为加强算法滥用以及算法透明度的治理,政府出台了《互联网信息服务算法推荐管理规定》《人工智能算法金融应用评价规范》,对算法推荐及金融领域的算法黑箱等伦理问题进行管理。数字科技企业制定算法管理制度并采取技术措施加以保障。例如腾讯推行算法备案机制来加强对算法的监督、检查和安全评估,并发布业内首份《可解释AI 发展报告2022—打开算法黑箱的理念和实践》,对于提高算法的透明度和可解释性具有一定意义。为加强对深度伪造的规范与监管,政府先后出台《网络音视频信息服务管理规定》《网络信息内容生态治理规定》以及《互联网信息服务深度合成管理规定》等。数字科技企业主要以推出检伪或防伪平台等方式来应对深度伪造问题,例如百度于2019 年推出国内首个深伪检测平台;腾讯研发人脸合成检测技术,并推出人脸检测平台“Faceln 人脸防伪”。

3. 数据安全与隐私保护

数据安全是指关键信息基础设施的运营者、数据控制者以及数据处理者应该采取必要措施,确保数据处于有效保护和合法利用的状态,以及具备保障持续安全状态的能力②。隐私保护主要强调个人信息或数据的安全性,尤其是生物识别、宗教信仰、特定身份、金融账户以及行踪轨迹等敏感信息,一旦泄露或被非法使用将会危害人格尊严、人身及财产安全等。

为加强数据安全与隐私保护,《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》等法规相继出台。数字科技企业将数据安全和隐私保护放在重要位置,在部门设置、制度建设以及技术措施中均有体现。例如百度设置了百度安全委员会和数据隐私保护委员会,制定了《百度数据安全策略》《百度隐私政策总则》等规章制度,并以人工智能技术为支撑,打造业界首个对外提供服务的App 收集使用个人信息合规风险检测和治理系统—史宾格安全及隐私合规平台,以保障用户隐私安全。抖音集团、科大讯飞、华为以及腾讯等也采取类似的数据安全和隐私保护措施。

4. 数字鸿沟

数字鸿沟体现为不同区域或不同群体之间由于在数字技能、数字资源以及基础设施等方面的差异而造成的信息落差及贫富进一步两极分化,导致数字鸿沟产生的原因还包括政府政策、经济水平、地理位置以及教育水平等。

政府通过政策性引导和加强数字技能教育等措施以缩小数字鸿沟。为落实《数字乡村发展战略纲要》,《数字乡村建设指南1.0》《数字乡村发展行动计划(2022-2025 年)》相继发布以促进数字乡村建设,发展乡村数字经济,提升农民数字技能和素养,缩小城乡数字鸿沟。《提升全民数字素养与技能行动纲要》对提升全民数字素养与技能做出了部署,以缩小不同群体间的数字鸿沟。除了制度建设之外,政府相关部门还通过全民数字素养与技能提升月、主题展、适老化无障碍改造及数字技能大赛等活动帮助大众提高数字技能,缩小数字鸿沟。

数字科技企业广泛关注并致力于弥合不同区域间的数字鸿沟,尤其是城乡数字鸿沟,主要措施包括建设帮扶平台、数字技能教育和培训等。腾讯的为村平台以及华为的消除数字鸿沟(Phone Lady)案例等均将数字技术和数字技能等引入乡村或不发达地区以缩小数字鸿沟。在不同社会群体的数字鸿沟消除方面,主要针对银发族、残障人士等弱势群体及特殊群体,推出相应的无障碍数字产品和服务,试图缩小和弥合数字鸿沟。例如抖音集团推出小安青松社区以保障老年人的用网安全,并推出护眼模式、色弱模式、读新闻以及听小说等功能,帮助视障和听障群体跨越数字鸿沟。

5. 网络内容健康性

网络内容健康性主要体现为是否包含不当言论、暴力、低俗、恶俗以及色情内容等,是否符合国家法律规范和社会伦理道德。网络直播行业的兴起在丰富人们生活的同时也出现了低俗软色情、低俗惩罚、恶意炒作以及违规诱导等行为,尤以一对一视频社交模式下的色情交易为甚,带来个人隐私暴露以及影响心理健康等伦理问题。

针对网络内容乱象,2021 年,政府先后印发《关于加强网络文明建设的意见》以及《关于加强网络文明建设的实施方案》以提高网络内容质量,优化网络生态。2022年,国家互联网信息办公室开展了“清朗”系列专项行动,打击网络直播、短视频、信息内容以及应用程序信息服务等领域的乱象。抖音集团在网络直播和短视频领域具有代表性,针对网络内容健康性的治理措施主要包括制定《2022 年抖音直播机构管理条例》等规范,定期发布“不良直播PK 内容”的治理公示,开展“规范重点流量环节网络传播秩序专项”等系列行动,采取清理违规视频、关闭违规账号和给予无限期停播处罚等措施;快手也有类似治理措施。

6. 关注未成年人保护和青少年发展

未成年和青少年的价值观、人生观以及消费观等仍未系统地建立,一些不恰当和不健康的网络信息和游戏等会对其身心健康带来不良影响。如何正确引导未成年人和青少年正确使用网络与理性游戏,免受不良信息等侵害,关乎个人、家庭和国家的未来,更是企业数字科技伦理的重要议题。

政府一直高度关注未成年和青少年健康成长,《移动互联网未成年人模式建设指南(征求意见稿)》提出将各应用终端的青少年模式升级为未成年模式,并进一步细化年龄段的划分等;《中华人民共和国未成年人保护法》《未成年人网络保护条例(草案)》中明确未成年人在网络使用中网络服务提供者等相关方的责任,保护未成年人在网络环境中的健康成长。数字科技企业针对未成年人和青少年健康成长也推出相应措施。腾讯陆续推出手Q 腾讯新闻“少儿版”、成长守护平台以及健康游戏系统等,发布《青少年健康上网指南》《中国青少年网络游戏行为保护研究报告》等,守护未成年人和青少年安全使用网络与健康成长。抖音集团专门推出抖音青少年模式,确保视频内容的健康性,并建设小安青少年守护平台,为青少年提供优质内容服务和法律知识,守护青少年健康。

(二)监管体系

作为数字科技伦理监管主体,政府主要从完善制度体系建设和机构设置两方面着手,加强对数字科技领域相关主体行为的指导、规范以及约束,推动数字科技健康发展,尤其是2019 年国家科技伦理委员会成立之后,伦理监管制度建设的步伐不断加快。

1. 监管制度建设

数字科技伦理监管制度建设与数字科技的发展程度和应用范围等密切相关。早期数字科技伦理监管的制度主要集中在电信、网络与信息安全相关领域。为应对人工智能、大数據以及区块链等新数字技术所引发的伦理问题,《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》相继出台(具体制度建设情况见表1)。

数字科技伦理监管制度建设呈现出兼顾整体统筹性与细分领域针对性的特征。整体统筹性主要体现为与数字科技整体性的伦理问题相关制度建设。《关于加强科技伦理治理的意见》的发布填补了科技伦理治理领域制度建设的空白,从整体上提出了伦理原则、构建体制、制度顶层设计以及监管措施,并将人工智能包含其中。2022 年新修订的《中华人民共和国科学技术进步法》中增加了科技伦理的相关条款,成为科技伦理监管的重要法律支撑。2023 年10 月,科技部等联合发布《科技伦理审查办法(试行)》,进一步规范科技伦理审查,强化伦理风险防控。细分领域针对性主要体现在对不同数字技术所引发的伦理问题制定专门的监管政策,例如《新一代人工智能治理原则—发展负责任的人工智能》《数据出境安全评估办法》《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等分别对数据安全、算法透明度、深度合成技术以及生成式人工智能技术等伦理问题提出治理规范。《国务院2023 年度立法工作计划》明确提及预备提请全国人大常委会审议人工智能法草案,将提高数字科技伦理监管的法制化水平。

2. 监管机构设置

企业数字科技伦理的监管机构设置方面,从政策发布机构和职责来看,综合性政府机构主要包括科技部、工业和信息化部、中国科协、中央网络与信息化委员会、国家网信办以及公安部等。专门性政府机构则包括国家科技伦理委员会、国家新一代人工智能治理专业委员会等以及工业和信息化部设立的工业和信息化部科技伦理委员会、工业和信息化领域科技伦理专家委员会等。此外,从近两年的数字科技伦理监管政策的出台还可以发现,以国务院、科技部、中央网络与信息化委员会以及国家网信办联合其他部门的居多,单个部门制定监管政策的较少,例如《科技伦理审查办法(试行)》由科技部、工业和信息化部、教育部以及中国科协等十个部门联合发布。这在一定程度上表明在数字科技伦理监管方面形成了合力与共识,更凸显数字科技伦理治理的全局性和重要性。

(三)管理实践

1. 治理部门设置

数字科技企业为加强科技伦理治理,避免产生伦理风险和损失,多设置委员会、工作组或工作专班等部门。目前,数字科技企业大多设置单一的数字科技伦理治理部门,即以上述形式中的某一个来履行科技伦理治理职能,也有部分数字科技企业设置双重的管理架构来强化科技伦理治理,例如抖音集团设置了信息安全委员会来统筹信息安全的总体战略规划,并对重大信息安全事件进行审查、监督以及指导等,其下设隐私保护工作小组来负责产品的隐私合规的落地等。双重的管理架构可以实现战略层与实践层相结合、管理层与业务层相结合,形成企业上下协调统一的科技伦理治理机制。阿里巴巴集团也采取类似的双重管理架构来对数字科技伦理进行治理。

2. 战略层面的体现

数字科技伦理治理重要性的日益提高体现在企业将其高置于战略规划或企业整体层面,强调伦理治理的长期性与全局性。腾讯将“科技向善”设定为使命愿景,并将其体现在组织架构、制度建设、产品设计与生产、技术创新与人员培训之中,全企业践行“科技向善”。百度提出并长期贯彻人工智能伦理四大原则,逐步改进顶层设计及实施细则,将伦理意识和文化落实到企业各项活动中,力图打造负责任、可持续的人工智能产品与服务体系。2022 年阿里巴巴集团提出科技伦理治理六项基本准则,对科技伦理的价值主张、科技技术、伦理原则以及治理框架等进行了整体谋划,将科技伦理理念融入产品和服务的全生命周期,推动发展负责任科技目标的实现。

3. 管理制度建设

在满足国家政策执行、业务发展以及社会责任履行等需求的基础上,中国数字科技企业的自律性伦理管理制度建设不断体现出数据安全、隐私保护以及负责任的人工智能等数字科技伦理的相关内容具体制度建设情况见表2。企业数字科技伦理自律性制度建设主要呈现出以下特征:一是涵蓋信息安全、数据安全与隐私保护等伦理领域;二是制度体系中既包括针对具体伦理问题的规范或要求,也包括综合性伦理自律制度;三是制度建设与企业的业务发展、技术创新以及国家伦理监管政策执行等具有紧密联系;四是除了正式制度建设外,企业还以白皮书、倡议书等形式强调数字科技伦理治理的重要性,例如《腾讯隐私保护白皮书》和阿里巴巴集团的《数据保护倡议书》等。企业数字科技伦理自律性制度体系不断完善,构筑起信息安全、数据安全以及隐私保护的“防火墙”。

4. 信息披露

数字科技企业对伦理治理的重视程度不断提高,对伦理治理的披露内容逐渐丰富,披露的方式或渠道主要包括企业社会责任报告,可持续发展报告,环境、社会和治理报告以及专项报告等。以2022 年阿里巴巴集团的数字科技伦理治理信息披露情况为例,首先,对科技伦理治理情况进行整体性披露,涵盖基本准则、治理架构、管理制度、研发创新与开放自治等内容。其次,对重点伦理问题的治理情况进行详细披露,如对隐私保护与数据安全伦理治理的管理原则、治理框架、管理制度、安全技术与能力、研发创新与转化以及成绩与合规等方面进行披露。除以报告形式进行披露之外,数字科技企业还通过客户端或其他媒体以公告等形式发布治理热点伦理问题的原则、措施以及效果等内容,例如抖音通过发布关于抖音直播严肃整治“不良直播PK 内容”的公告。

(四)社会生态

社会生态是指数字科技相关群体之间形成的相互联系、相互影响、相对稳定的生态体系,数字科技伦理社会生态涵盖政府、行业组织、企业以及公民等主体及其行为和关系。鉴于政府和企业对于数字科技伦理相关的重点议题、制度建设以及管理实践等内容在前面均有所提及,本部分将主要就行业组织、媒体监督以及数字科技伦理教育等领域的进展做相关阐述。

1. 行业的自律性管理

行业组织的自律性管理主要体现为自律性管理制度建设,推动政府伦理监管政策的有效执行,且服务于行业内企业的发展。全国性的数字科技相关行业组织和机构主要有中国互联网协会、全国信息安全标准化技术委员会、中国通信标准化协会以及中国电子信息行业联合会等,通过出台相关标准、指南、要求及公约等加强数字科技伦理自律性管理。例如全国信息安全标准化技术委员会制定的《信息安全技术个人信息安全规范》《信息安全技术个人信息安全影响评估指南》《汽车采集数据处理安全指南》等标准为数据安全、信息安全等伦理问题提供了指导与规范。2020 年,中国互联网协会组织中国移动、阿里巴巴集团以及百度等二十余家电信和互联网企业签署《电信和互联网行业网络数据安全自律公约》,以加强行业的网络安全与数据安全相关伦理自律。2017年后,全国各省区市开始设立数字科技相关行业协会或联盟等加强区域内数字科技伦理自律性管理,例如上海市人工智能行业协会、北京人工智能产业联盟以及新一代人工智能产业技术创新战略联盟等。

2. 媒体的监督

移动互联网以及移动终端的广泛推广,有效提升了信息的传播速度、扩大了传播范围,也将媒体的监督作用成倍放大,媒体所发挥的科技伦理监督作用不断增强。早在2019 年,新华网就刊载了关于微软源于伦理问题将其最大的人脸识别数据库MS Celeb 删除这一事件的相关评论性文章。2022 年底,美联社、路透社、《纽约时报》《华盛顿邮报》《十字架报》以及中国的人民网、光明网和《新京报》等均对生成式人工智能应用ChatGPT 所引发的争议和伦理问题进行报道或刊载相应的调查要求书、评论性文章等,对数字科技伦理问题的监督从开放包容转变为审慎的态度。2023年7 月,南方都市报联合近40 位专家学者、社会人士共同发布《生成式AI 伦理与治理倡议书》,这是国内首份由智库媒体发起的对生成式人工智能治理规范的倡议书。媒体对数字科技伦理问题从报道、评论性文章到刊载调查要求书、发起倡议书,所发挥的监督作用日益加强。

3. 数字科技伦理教育

政府倡导加强数字科技伦理治理,十九届四中、五中全会均提出要健全科技伦理治理体制和体系,对科技伦理的重视程度日益提升。2021 年中央深改委第二十三次会议上,习总书记强调要加强科技伦理治理,塑造科技向善的文化理念和保障机制。中国很多数字科技企业,例如腾讯等,在其产品研发和生产以及提供服务的过程中也秉承着“科技向善”和“负责任的人工智能”等理念,恪守国家和行业出台的科技伦理规范和约束性制度等。

高等院校高度重视科技伦理教育工作,清华大学等早就设立医学伦理委员会、实验动物伦理委员会等,并开展科技伦理相关教学和研究工作。为进一步加强数字科技伦理领域的教育工作,2022年3 月,高校科技伦理教育专项工作正式启动,清华大学牵头组建高校科技伦理教育专项工作专家组和工作组,指导青年学生树立科技伦理意识、践行科技伦理规范。2023年清华大学成立科技伦理委员会,体现出高等院校对于科技伦理教育的重视,表明中国科技伦理治理生态体系的不断完善。

四、企业数字科技伦理发展存在的问题

中国企业数字科技伦理在监管政策体系建设、监管部门设置、企业管理实践以及社会生态构建等方面取得了一定的进展,对伦理问题的重视程度日益提高。然而与欧盟、美国等先进国家或地区相比较仍存在一些问题或不足,主要包括企业数字科技伦理意识普遍缺乏、企业数字伦理治理实践过于表面、数字科技伦理监管机构设置相对滞后、数字科技伦理教育薄弱等。

(一)数字科技伦理意识普遍缺乏

数字经济发展迅速,数字技术的迭代更新呈现出突破“摩尔定律”的趋势,从道德伦理的视角对企业数字科技行为进行审视和治理是一项新课题,对科技伦理的重视程度有待继续提高,伦理意识缺失或出现伦理问题等现象普遍存在。例如关于百度使用cookie 技术收集并利用用户上网信息是否侵犯个人隐私权案件,第一审和第二审得出不同的结论,这既体现出中国个人信息和隐私保护领域存在一定程度上的法律法规缺失,也体现出企业在进行个人信息收集时缺乏对侵犯个人隐私等伦理问题的明确界定,甚至并不承认cookie 的个人信息属性。

此外,通过对阿里巴巴集团、京东集团、腾讯以及百度等具有代表性的大型数字科技企业的环境、社会和治理报告以及企业社会责任报告等资料进行查阅发现,腾讯最先在2018 年的社会责任报告中使用“科技倫理”这一名词;同年,百度提出了人工智能伦理的四原则;阿里巴巴集团则在2022 年设立科技伦理治理委员会。京东集团、快手以及抖音等企业虽有伦理治理相关内容,但是没有明确提出科技伦理治理、科技向善以及负责任等概念。大型的数字科技企业尚对数字科技伦理存在一定认识上的欠缺,且大多停留在数据安全、信息安全以及隐私保护等尊重用户需求和满足业务发展需要的层面,中小型数字科技企业和非数字科技企业对于科技伦理的认知程度可想而知。

(二)数字科技伦理实践过于表面

中国数字科技企业在战略规划层面、制度建设、组织架构以及业务流程中均涉及到科技伦理治理的相关内容,并与政府、行业组织以及研究机构等形成了一定的治理合力。然而,企业数字科技伦理实践仍过于表面,具体体现在以下方面:首先,企业数字科技伦理治理实践更多停留于业务需求、用户至上或社会责任的层面,且更多属于事后审查与治理,距“伦理先行”的相关要求还存在一定差距,即对于事前性和预防性的伦理风险审查与监管存在一定程度上的欠缺。其次,仅少数大型数字科技企业将伦理治理纳入战略规划层面,更多是面对实际伦理问题做出的应对,这也体现在数字科技伦理部门设置上,多数企业未设置综合性的科技伦理委员会,而是按照信息安全、数据安全或隐私保护等领域分散设置,缺乏整体性和规划性。再次,数字科技企业在伦理治理实践中实际落地效果仍待加强,违背伦理的问题仍然存在。例如数字内容消费平台和分享平台,在获得用户的消费偏好数据之后,会向用户进行定向推送,这就造成“大数据杀熟”或“信息茧房”等伦理问题。此外,一些电子商务交易平台,在取得用户的隐私信息使用权时,因所提供的“隐私声明”过于繁琐,大多流于形式而无实际意义,用户在失去隐私实际控制权的同时就将风险暴露出来,一旦数字平台遭到黑客攻击等,隐私泄露等事件随即发生,并带来网络诈骗、电信诈骗等一系列社会安全隐患。

(三)数字科技伦理制度供给不足

中国不断加强对数字科技领域相关的伦理问题的监管与指导,数字科技伦理监管制度体系不断完善,针对性逐渐加强,走过了从维护网络安全、信息安全到数据安全,到发展负责任的人工智能,再到出台首个国家层面专门性制度《关于加强科技伦理治理的意见》的历程,《国务院2023 年度立法工作计划》中也将人工智能相关立法提上日程。然而,与欧盟、美国等数字科技伦理监管比较严格和先进的国家或区域相比仍存在制度供给不足,主要体现为:一是对于数字科技伦理直接性的监管制度较少;二是停留于科技伦理整体层面,对于数字科技、单一数字技术领域具针对性和可操作性的伦理监管制度建设较少,且多以非法律法规的形式出台,减弱了制度的执行效果和约束的刚性;三是多以全国层面的顶层制度设计为主,各省区市等地方政府层面的数字科技伦理监管制度建设亟需提速;四是对于数字科技伦理监管制度的执行上缺乏配套的机构来监督,减弱了制度的执行效果。例如欧盟针对大数据和人工智能分别出台了《一般数据保护条例》和《可信人工智能伦理准则》等伦理监管制度(肖红军等,2023);美国则出台了《数据伦理框架草案》和《算法问责法2019(草案)》等(肖红军与阳镇,2023),并且欧盟成员国、美国的州政府也出台相应的伦理监管政策。

(四)数字科技伦理监管相对滞后

在数字科技伦理监管机构设置方面,形成了专门性机构与综合性机构、中央层面机构和地方层面机构并存的格局,对数字科技伦理监管力度日益增强。与欧盟、美国等数字科技伦理监管机构设置相对完善的国家或地区相比,中国数字科技伦理监管机构的设置仍存在一定的滞后性,监管职能亟待强化,具体体现在:一是数字科技伦理监管机构的设置更多体现在中央和全国层面;二是已设置的数字科技伦理监管机构主要对监管制度体系建设发挥重要作用,所发挥的伦理监督和治理作用有限;三是已设置的数字科技伦理监管机构多以审查备案等事后监管为主,缺乏前瞻性、事前性以及预防性监管;四是对于数字科技伦理监管相应制度的执行情况缺乏配套的监督机构或监督功能。

在数字科技伦理监管模式方面主要存在以下不足:一是以政府为主体的监管模式,行业组织、研究机构、企业以及公民在伦理监管中的参与度不高,且大多局限于自身发展需求,没有从整体上形成伦理监管合力。二是地方政府所发挥的监管职能有限,多设置科技伦理审查备案中心,局限于事后审查。三是中央、地方数字科技伦理监管机构之间未形成统一和协调的运行机制。

(五)数字科技伦理教育薄弱

中国企业数字科技伦理教育主要以高等院校教育以及在职培训等方式进行,在提高学生和职工的数字科技道德与伦理素质方面发挥了重要作用。但是与美国等科技伦理教育较发达的国家相比,数字科技伦理治理教育仍存在以下薄弱之处:一是数字科技企业的伦理教育主要以公益性教育或培训等形式开展,但大多局限于数字科技相关技能提升、业务开展需要或研究领域,直接的“科技伦理”教育非常有限,且多存在于大型数字科技企业中。例如腾讯的Tech for Social Good(科技向善)项目、阿里巴巴的优课计划、抖音集团面向老年人和乡村开展公益培训课程或公益项目以及其他企业的内部培训等。二是数字科技伦理高等院校教育起步晚、教学形式单一、课程体系不完善、缺乏师资队伍。美国高等院校中的科技伦理教育已经形成了较为成熟的STS 融合教育模式(徐天戍与史玉民,2021),即依托高等院校设立的科学、技术与社会(STS)研究中心来开设相关课程,并注重将科学、技术、社会、环境与伦理教育相互交叉与融合。斯坦福大学、加州大学、哈佛大学以及麻省理工学院等均采用这种模式。在《国家与社区服务法》(National and Community ServiceAct of 1990)的推动下,美国很多高等院校广泛开展社区服务学习活动,将高等院校教育课程与社区服务计划、科技实践等相结合,对全社会伦理意识和技能的提高有所帮助。三是提高社会公众数字科技伦理素质和技能的公益性活动起步晚。公益性活动主要集中于2021 年《提升全民数字素养与技能行动纲要》发布之后,以主题展、提升月、论坛、技能大赛以及专项活动等形式进行。公益性活动的力度、广度以及内容丰富程度仍待进一步提高。

五、深入推动企业数字科技伦理健康发展的对策建议

数字科技是一把双刃剑,是拉动经济发展的重要引擎,也是伦理风险的源头。企业数字科技伦理健康发展是数字经济实现高质量发展的重要内涵,进一步加强数字科技伦理治理、形成“科技向善”的社会生态刻不容缓。针对中国企业数字科技伦理存在的问题,并借鉴先进国家或地区的做法或经验,可以尝试在多元共治的总体思路下,从强化政府监管、企业自律自治、行业引导支持以及优化社会生态等层面(详见图1),深入推动企业数字科技伦理健康发展。

(一)总体思路:多元共治

数字经济是新业态,数字科技伦理是新问题,具有影响范围广、扩散能力强以及风险敞口大等特征,加强数字科技伦理治理成为亟待解决的新课题。单一主体参与的治理模式已经不能有效防范和应对数字科技伦理风险,需要依靠多个主体共同参与、共同推动,形成多层面、多主体、全过程的多元共治体系,打造全社会、整体性的协同治理格局,切实提升中国企业数字科技伦理健康水平。

数字科技伦理多元共治体系的构建应当遵循的主要原则包括推动数字经济与实体经济融合、兼顾科技创新与伦理治理以及增进人类福祉等。一是推动数字经济与实体经济深入融合的原则。数字经济是实体经济数字化转型的重要支撑,实体经济是数字经济的主要应用场景,数字科技伦理治理应推动两者深入融合。二是兼顾科技创新与伦理治理的原则。伦理治理应当进一步促进数字科技创新活动向更加活跃、更加健康的方向演进。三是增进人类福祉的原则。企业数字科技伦理治理的终极目标和落脚点都是为了人类的生存与发展服务,增进人类福祉。

为保障数字科技伦理多元共治体系的良好运行,需要形成一定的运行机制包括动力机制、协同机制和保障机制。动力机制包括技术创新的动力机制和增进人类福祉的动力机制。技术创新的动力机制是指数字科技的不断创新是数字科技伦理多元共治体系不断完善的动力,如果没有数字科技领域的技术创新与应用创新,多元共治体系就不必进行制度体系建设、监管机构设置以及管理实践创新等。增进人类福祉是数字科技伦理多元共治体系的根本动力,也是终极目标。数字科技的不断创新、伦理治理的不断加强以及数字科技的健康发展,根本动力来源于更好地为人类服务,增进人类福祉。协同机制包括主体内部协同机制和主体间协同机制。主体内部协同机制体现为同一主体不同部门或机构之间的协同,体现为制度建设的整体性、机构设置的协调性以及实践的合作性等方面;主体间协同机制是指政府、企业、行业组织、高等院校及公众之间在进行数字科技伦理治理过程中的统一协调性。保障机制是人才培养、资金支持以及政策倾向等方面的保障。数字科技伦理相关人才队伍建设、资金支持、政府产业政策或税收政策等的倾斜将对数字科技、伦理治理等起到保障和基础性支撑等作用。

数字科技伦理多元共治体系中不同主体的定位或所发挥的作用具体如下:企业是数字科技活动的主要实施主体和伦理治理制度的重要落实主体,在落实好政府出台的数字科技伦理监管政策前提下,除满足业务需求和客户要求之外,应以“科技向善”“负责任的数字科技”等理念为引导,从文化氛围、员工培训、技术研发、产品生产、服务提供以及供应链等环节着手,不断完善企业数字科技伦理自律自治体系。政府是数字科技伦理监管制度的主要供给主体和制度落实的监管主体,在出台中央层面和科技伦理整体层面的监管制度之外,应该抓紧制定数字技术整体及细分领域的伦理监管制度,尤其要注重制度的具体化、可操作性或可实施性,推动数字科技企业健康发展;加强中央政府与地方政府之间的协调与统一性,尤其要加强地方政府在数字科技伦理中的监管作用。行业组织是对行业内企业数字科技伦理进行引导、支持以及自律的重要主体。行业组织通过对政府制度的解读、培训、咨询以及交流等形式来发挥引导和支持作用;通过制定行业标准及行业规范等来提高行业伦理自律和监管等。媒体通过不同媒介对企业数字科技伦理治理发挥监督作用。其他主體,例如高等院校、科研院所以及公众等也对企业数字科技伦理治理产生一定影响。

(二)企业层面:自律自治

数字科技企业是数字产品和服务的提供者,加强伦理自律自治具有重要意义,可以从强化伦理意识、提升伦理治理层面、建立健全自律自治制度体系以及创新数字科技伦理管理实践等方面着手。

伦理先行,不断强化企业数字科技伦理意识。企业是数字科技伦理治理的重要执行者,其设计和研发的数字产品以及提供的相应服务直接面向终端用户,如果发生伦理问题,其影响具有不可逆的特征。因此,数字科技企业在进行伦理自律自治时需要强化数字科技伦理意识,将科技向善、负责任的数字科技等理念入脑入心,切实履行“伦理先行”,降低伦理风险事件发生的概率及相应的损失等。

将伦理治理相关内容从企业管理层面和实践层面提升至战略层面。从企业战略层面对数字科技伦理治理相关内容进行规划与部署,有助于从企业整体层面形成治理合力,克服伦理治理局限于业務部门或伦理治理部门所造成的伦理真空地带等问题。

建立健全企业数字科技伦理内部管理制度体系。尽管数字科技企业针对伦理问题进行了相应的制度建设,仍需要进一步制定企业整体层面和数字科技整体层面的伦理治理制度,改变当前制度分散性的状况。

创新数字科技伦理管理实践。一是加强企业数字科技伦理治理的动态性。数字技术迭代更新的速度不断加快,甚至超出了“摩尔定律”(Moores Law)所预测的速度。企业数字科技伦理自治需要紧跟数字技术发展的脚步和用户群体的需求,以数字技术和产品应用前沿为导向,以人类伦理和道德准则为红线,动态更新企业伦理治理理念、制度体系以及治理技术等。二是加强数字科技伦理治理的敏捷性。数字技术相关产品和应用具有高渗透、覆盖面广、易扩散、复制成本低以及拦截困难等特征,一旦涉及到伦理问题,将会随着数据或者文字等载体广泛传播,带来不良社会影响。这就要求数字科技企业能够及时发现可能存在的伦理问题,对于已经发生的伦理问题要进行及时有效的应对,避免由此带来的经济损失和不良社会影响。三是推行企业数字产品或服务的全生命周期伦理治理。数字科技企业应该将伦理治理相关措施覆盖到产品或服务的研发和设计、生产、销售或提供、售后以及报废等环节,实现伦理治理的持续性和全生命周期性。

(三)政府层面:强化监管

为进一步加强企业数字科技伦理治理,政府应加快数字科技伦理监管制度供给,完善监管制度体系建设,加快伦理监管机构设置步伐,优化中央和地方政府间监管机构运行机制。

加快企业数字科技伦理监管方面的制度供给,完善监管制度体系建设。具体而言,一是加强地方政府层面的相关制度建设,并注意中央和地方制度建设中的统一与协调性以及现行制度与新增制度之间的连贯性与兼容性。二是着重补齐数字科技领域中伦理监管制度的空白区域,尤其是针对数字科技中具体的技术领域,例如对人工智能、大数据等,其伦理框架或原则、具体要求、实现的步骤或技术、评估方法以及问责机制等需要进行详细的界定和明晰各方主体的责任。三是提升数字科技伦理监管的法治化水平。加快数字科技伦理监管相关法律法规的出台,将现行以管理办法、意见以及原则等形式出台的监管制度提升至法律法规的层面,增强制度的约束性和执行的刚性。四是在数字科技伦理监管制度体系建设中,可以考虑从科技伦理预警、准入、审核、评估以及问责等环节入手,逐渐构建起覆盖企业数字科技伦理全周期的监管制度,尤其要对新兴数字技术进行持续性跟踪与研究,加快数字科技伦理前瞻性制度的制定,使企业的数字科技行为有法可依、有法必依。五是将数字科技伦理监管和治理的相关内容嵌入产业发展规划、科技政策之中,进一步发挥软性制度的指导作用。

加快数字科技伦理监管机构设置步伐。设置数字科技伦理监管机构或赋予现行政府机构伦理监管职能,可以有效推动伦理监管制度的有效落地。在全国层面,应当进一步增加数字科技伦理相关监管机构的数量或对现行机构赋予其伦理监管的职权,并且需要明确监管的权力范围和责任。在地方政府层面,可以尝试在互联网信息办公室或其他现有的数字科技相关监管部门中增设数字科技伦理监管的部门或岗位,可以参照企业首席数据官的设置及职责配置等,对于辖区内的数字科技企业的伦理监管制度的执行情况进行常态化监督和管理,统筹数字科技伦理监管工作等。

优化中央政府和地方政府数字科技伦理监管机构的运行机制。优化中央和地方两个层面的数字科技伦理监管机构的运行机制,一方面要确保监管制度执行中的一致性与统一性,另一方面要加强不同监管机构之间的合作与交流。同一层面监管机构之间更多体现为合作与交流,不同层面的监管机构主要体现为信息的上下传递和行政指令的有效执行与反馈,形成上下统一协调的监管机构体系。

(四)行业层面:引导支持

行业组织在推动企业数字科技伦理治理中主要发挥引导和支持的作用。引导作用体现为引导企业落实数字科技伦理监管政策,规范企业的数字科技行为;支持作用体现为支持行业内企业更好地发展。

增强行业组织的数字科技伦理治理的引导功能。行业组织的引导功能主要体现以下几个方面:一是行业性数字科技伦理标准、准则等制度的制定与发布,引导和规范企业数字科技行为。在促进行业内企业快速发展的前提下,以发生的或潜在的伦理问题为导向,以防范伦理风险为目标,加快行业内数字科技伦理自律性规范、标准等形式的制度建设,提高数字科技企业的伦理风险识别能力和风险防范能力。二是推动行业组织以倡议、公约等形式提高企业数字科技伦理意识和监管政策遵守自觉性,形成良好的行业氛围,并产生溢出效应。三是对政府出台的数字科技伦理监管政策做好相应的宣传与讲解,引导企业遵守相关政策,规范企业的数字科技行为。

增强行业组织的服务性支持作用。行业组织要充分运用自己的号召力和媒介作用,以开展数字科技伦理相关培训、政策宣讲或论坛等形式来提高企业的科技伦理意识和技能,促进行业伦理自治与自律。为行业内企业提供政策和技术领域的咨询服务,帮助企业提高科技伦理治理能力。发挥行业组织的媒介或平台作用,以数字科技伦理治理论坛或研讨会等形式加强行业内企业的交流与合作。

推动行业间数字科技伦理领域的合作与交流。对欧盟、美国、英国等先进国家或地区在企业数字科技伦理监管和治理领域的动态和经验进行跟踪与借鉴,重点关注其伦理制度体系建设、监管模式以及参与主体等方面。广泛参与国际组织在数字科技伦理监管领域的标准、规则的制定等,加强人员交流与合作,掌握全球数字科技伦理最新动态,发出中国在数字科技伦理领域的声音,不断提升相关领域的话语权。

(五)社会层面:生态优化

社会生态一是企业数字科技伦理治理的重要外部环境和基础。优化社会生态可以从加强社会宣传和培训、学校教育及媒体监督等方面着手。

加强社会公众层面的数字科技伦理宣传和培训的广度和力度,提升全民的数字科技伦理的意识和技能。以社区居委会、村民委员会等基层组织为平台,以财政性资金作为前期引导资金,开展公益性的伦理宣传与培训等,提升全民科技伦理素质,且关注老年人、未成年人等特殊群体,形成数字科技伦理治理全民统一战线。

加强数字科技伦理学校教育,培养相关人才队伍。一是加大数字科技伦理领域的人才培养,将科技伦理相关内容渗透到以高等院校为主要教育平台的课程当中。尝试从选修课向必修课转变,扩大伦理教育的覆蓋范围,突出伦理教育的基础性和必要性;从单独的科技伦理课向伦理教育与专业教育相结合的混合型课程转变,提高伦理教育的适用性和可接受性;从主要介绍和借鉴美国等发达国家数字科技伦理相关经验转向不断增加中国自身的科技伦理理论和实践等内容,提高数字科技伦理教育的“中国特色”。二是加强数字科技伦理教育的师资队伍建设,充分发挥帮传带的成倍放大效应,提高全社会的数字科技伦理知识水平。

加强媒体对企业数字科技伦理的监督作用。媒体在数字科技伦理治理方面已经发挥了一定监督作用,但仍呈现出一定的自发性和分散性等特征。未来可以在纸媒体、智媒体以及自媒体上开辟企业数字科技伦理问题曝光的专门栏目或频道,扩大影响范围,提高监督作用。另外,还应该注重发挥公序良俗以及口口相传等传统媒介形式的监督作用,尤其是在一些偏远欠发展地区。

参考文献

[1] 曾雄,梁正,张辉. 欧盟人工智能的规制路径及其对中国的启示—以《人工智能法案》为分析对象[J]. 电子政务,2022 年第9 期,第63-72 页。

[2] 陈炳富,周祖城. 企业伦理学概论[M]. 南开大学出版社,2000 年。

[3] 陈一. 欧盟大数据伦理治理实践及对我国的启示[J]. 图书情报工作,2020 年第2 期,第130-138 页。

[4] 代金平,李杨. 构建负责任的人工智能社会治理体系[J]. 山东社会科学,2022 年第8 期,第147-153 页。

[5] 甘绍平. 用伦理原则引领国家科技的健康发展[J]. 云梦学刊,2022 年第6 期,第1-6 页。

[6] 贾开,郭雨晖,雷鸿竹. 人工智能公共政策的国际比较研究院历史、特征与启示[J]. 电子政务,2018 年第9期,第78-86 页。

[7] 江小涓,黄颖轩. 数字时代的市场秩序、市场监管与平台治理[J]. 经济研究,2021 年第12 期,第20-41 页。

[8] 金晶. 个人数据跨境传输的欧盟标准要要规则建构—司法推动与范式扩张[J]. 欧洲研究,2021 年第4 期,第89-109 页。

[9] 李平,廖苗. 对负责任创新“反思”维度的再思考[J]. 自然辩证法通讯,2021 年第4 期,第69-75 页。

[10] 李思琪. 科技伦理与安全公众认识调查报告(2021)[J]. 国家治理,2022 年第7 期,第43-47 页。

[11] 林美玉,王琦. 欧盟5G 安全监管模式研究[J]. 信息通信技术与政策,2021 年第5 期,第60-66 页。

[12] 梅亮,陈劲. 责任式创新:源起、归因解析与理论框架[J]. 管理世界,2015 年第8 期,第39-57 页。

[13] 宋黎磊,戴淑婷. 中美欧人工智能治理领域的竞争与合作[J]. 当代中国与世界,2021 年第4 期,第58-67 页。

[14] 王伟洁,邓攀科,吕志远. 欧盟2021《人工智能法》研究[J]. 信息安全研究,2022 年第2 期,第117-121 页。

[15] 吴飞. 数字平台的伦理困境与系统性治理[J]. 国家治理,2022 年第7 期,第20-25 页。

[16] 肖红军,商慧辰. 平台算法监管的逻辑起点与思路创新[J]. 改革,2022 年第8 期,第38-56 页。

[17] 肖红军,阳镇. 数字科技伦理监管:美国进展与中国借鉴[J]. 财经问题研究,2023 年第6 期,第73-86 页。

[18] 肖红军,阳镇. 数字科技伦理监管的理论框架、国际经验与中国借鉴[J]. 东北财经大学学报,2023 年第5 期,第47-61 页。

[19] 肖红军,张丽丽,阳镇. 欧盟数字科技伦理监管:进展及启示[J]. 改革,2023 年第7 期,第73-89 页。

[20] 肖红军. 构建负责任的平台算法[J]. 西安交通大学学报(社会科学版),2022 年第1 期,第120-130 页。

[21] 徐天戍,史玉民. 高校科技伦理教育的国外借鉴与启思[J]. 长春大学学报,2021 年第4 期,第51-55 页。

[22] 许可. 驯服算法:算法治理的历史展开与当代体系[J]. 华东政法大学学报,2022 年第1 期,第99-113 页。

[23] 许雪晨,田侃,李文军. 新一代人工智能技术(AIGC):发展演进、产业机遇及前景展望[J]. 产业经济评论,2023 年第4 期,第5-22 页。

[24] 阳镇,陈劲. 数智化时代下的算法治理—基于企业社会责任治理的重新审视[J]. 经济社会体制比较,2021 年第2 期,第12-21 页。

[25] 张夏恒. 新一代人工智能技术(ChatGPT)可能引发的社会变革[J]. 产业经济评论,2023 年第3 期,第22-30页。

[26] 赵延东,廖苗. 负责任研究与创新在中国[J]. 中国软科学,2017 年第3 期,第37-46 页。

[27] 郑世林,姚守宇,王春峰. ChatGPT 新一代人工智能技术发展的经济和社会影响[J]. 产业经济评论,2023 年第3 期,第5-21 页。

[28] Carroll,Archie B.“The Pyramid of Corporate Social Responsibility:Toward the Moral Management of Organization Stakeholder”.Business Horizons,1991,23(7),6-17.

[29] Diakopoulos N,“Koliska M.” Algorithmic Transparency in the News Media. Digital Journalism,2016,1-20.

[30] E.Schuurman,“Struggle in the ethics of technology”, AOSIS Open Journals,Vol.71 No. 1,(2006),10.4102/koers.v71i1.235.

[31] Hellstr?m T,“Systemic Innovation and Risk:Technology Assessment and Challenge of Responsible Innovation”,Technology in Society,2003,25(3),369-384.

猜你喜欢
治理体系
新加坡法治反腐的实践经验及启示
大数据视角下的国家治理现代化
高校治理体系和治理能力探究
高职院校学生管理问题现状研究及对策初探
文化产业发展现状之反思三题
高等教育治理体系现代化面临的困境及对策探究
国家治理体系和治理能力现代化实现路径
“现代职业学校制度”视阈下高职院校治理体系构建研究
国家治理中的“融和”智慧
“公共性”管理框架与政府治理体系的构建