论脑机接口技术对法秩序的挑战及其理性规制

秦长森,张校基

(东南大学 法学院,南京 211189)

当法律人还沉浸在对后工业时代风险社会的研究中时,一种以代码架构为基础建立起的“算法帝国”正悄然崛起。其中,以大数据为背景的数字技术正在向人们生活的各个角落蔓延渗透。与工业时代的大机器产业风险(如环境污染、交通风险、核风险)不同,智能化背景下的技术风险更加隐蔽、虚拟,所造成的现实风险也愈加难以在第一时间通过因果关系的判断进行法律归责。技术发展风险与法律规制之间逐渐形成了一道深深的领域鸿沟,鸿沟的一端是技术人员基于技术发展带来巨大社会财富的摇旗呐喊,另一端则是法律工作者因技术风险对法益造成破坏所表现出的隐隐担忧。因此,如何跨越这一鸿沟,实现法律对技术的良善规制,成为科学技术与法学理论研究中难以回避的时代命题。就前者而言,需要技术工作者不断精进技术、验证算法的科学性;对于后者而言,则需要法律工作者站在法律实用主义的立场,通过客观的法律规范对技术形成一种主观上的理论约束(1)[美]劳伦斯·莱茨格:《代码2.0:网络空间中的法律》,李旭、沈伟伟译,北京:清华大学出版社,2018年,第364页。。前者可以促进人类创新的不断延续,后者则能保障人类创新延续的稳定性。基于上述思考,选择以脑机接口(Brain—Computer Interfaces)技术为例,从规范法学的视角对“如何通过法律手段规制技术风险”这一命题展开论述。本文将从梳理脑机接口技术的主要应用场景入手,在法律规范保护目的视角下对脑机接口的应用风险展开剖析,并在此基础上就如何规制脑机接口技术提供若干建议。值得一提的是,虽然该项技术已经通过了科学验证并在现实生活中有所应用,但相关研究大多基于伦理学的视角(2)王高峰、张志领:《算法伦理视域下的脑机接口伦理问题研究》,《自然辩证法研究》2022年第7期;陆慧、王志佳:《基于存在主义反思“脑机接口”技术的伦理难题与出路》,《自然辩证法研究》2023年第8期。,鲜有法学分析的文章对这一问题涉猎铺陈。本文权以抛砖引玉,并希冀对脑机接口技术的理性应用提供规范性支持。

一、脑机接口技术的应用场景及其对法秩序的挑战

脑机接口是指通过传感器设备获取大脑的信号,再进行数据的提取和分析,最终控制体外设备的人机交互装置,脑机接口也被称为是大脑端口或是脑机融合感知(3)魏郡一:《脑机接口技术:人的自主性问题及其伦理思考》,《医学与哲学》2021年第4期。。作为一项高端科技,脑机接口是未来生命科学和信息技术交叉融合的主战场,代表了一种新兴的、具有潜在破坏性的技术领域,是中国最有可能迎头赶上甚至“弯道超车”的尖端科技之一,目前已在多个场景中展开运用(4)陶虎:《脑机接口——未来生命科学和信息技术交叉融合的主战场》,《光明日报》2021年6月3日。。与此同时,脑机接口技术应用场景的多样化也带来了诸多的法律风险,通过对应用场景进行类型化分析,可以更为清晰地探寻脑机接口技术对法律秩序可能造成的潜在挑战。

(一)脑机接口应用场景的发展轨迹

作为一项“人机交互”技术,脑机接口的前身是人工耳蜗技术。这项技术通过将声音信号转换为电脉冲并传递至植入内耳的电极,直接刺激听觉神经,使听障人士重新听到声音。后来,科学家将研究指向最神秘的人脑领域,脑机接口技术由此正式诞生。如将电极插入大脑皮层中,通过电极来接收大脑皮层的神经元发出的电脉冲,再通过电脑接收,利用人工智能算法转译为连接到计算机上的机器人指令,由此可以借助思想来指挥机器移动轮椅、与他人交流、捡拾物品等(5)Maartje Schermer, “The Mind and the Machine. On the Conceptual and Moral Implications of Brain-Machine Interaction”, Nanoethics, Vol. 3, 2009, No.3, pp.217-230.。此后,脑机接口技术进一步发展,开始逐渐深入人脑内部收集大脑信号。这一技术是用手术将小电极插入大脑,使其与皮下植入的神经刺激器相连,通过激发神经刺激器发出微小的电脉冲来刺激大脑的特定区域,以此来治疗神经系统疾病(6)Peter Rabins et al., “Scientific and Ethical Issues Related to Deep Brain Stimulation for Disorders of Mood, Behavior, and Thought”, Archives of General Psychiatry, Vol. 66, 2009, No.9, pp.931-937.。传统医疗型脑机接口技术的实施主体往往是医疗机构,通过以侵入式或半侵入式的脑机接口技术来达到治疗疾病和恢复健康的目的。该项技术目前已经在世界各国的临床医疗实践中开展。2021年12月23日,澳大利亚62岁的肌萎缩侧索硬化症(ALS)患者菲利普·奥基夫通过脑机接口技术成功在推特上发布了一条简短的消息“你好,世界”(Hello,World),就是典型的示例(7)张梦然:《ALS患者首次通过脑机接口发推》,《科技日报》2021年12月30日。。

随着技术的日渐成熟,其应用场域也逐渐突破医疗领域,向着商业领域不断迈进。在消费领域,信息技术公司正在使用脑机接口开发利用大脑数据实现对消费目的进行检测的设备。例如,Facebook在2017年启动了脑机接口研究计划,旨在制造可穿戴的脑机接口设备,使用户能够简单地通过在大脑中想象语音来进行打字;微软公司正在为一般人群开发非侵入性交互式脑机接口(8)Marcello Ienca et al., “Towards a Governance Framework for Brain Data”, Neuroethics, Vol. 20, 2022, No.15, pp.1-20.。消费神经技术、电子学习、情感计算、心理学和神经营销等均是利用大脑数据作为商品的一些应用领域(9)Thomas Roland Insel, “Digital Phenotyping Technology for a New Science of Behavior”, JAMA, Vol. 318, 2017, No.13, pp. 1215-1216.。新式的服务型脑机接口技术以商事企业为实施主体,以大众服务为对象,通过脑机接口技术对其运动功能、社会功能、认知功能、道德功能等某一个专项进行恢复或增强,但这些增强的指标并不会超出人类目前各项能力的极限阈值,仅仅以实现群体的“生活优化”为限度。例如,在神经游戏领域,脑机接口设备可以用作输入设备来替代操作杆、鼠标和键盘,为残障人士提供方便,同时通过收集用户大脑的信号作为反馈工具,可以帮助用户更好地适应游戏环境(10)Ofir Landau, Rami Puzis, and Nir Nissim, “Mind Your Mind:EEG-Based Brain-Computer Interfaces and Their Security in Cyber Space”, ACM Computing Surveys (CSUR), Vol. 53, 2020, No. 1, pp. 1-38.。

当前,脑机接口技术的军事化应用也在如火如荼地实践中。将脑机接口技术应用于军事领域,旨在创造性地对人类的认知、情感与记忆进行本质性的改变,以实现人类能力的跨越式增强。例如,美国国防部设立特定的培育基金开展脑机接口研究,目的是为了抑制潜在敌人的雷达干扰,或促进战斗人员与其队友保持基本的通讯畅通(11)Charles Nelson Munyon, “Neuroethics of Non-Primary Brain Computer Interface: Focus on Potential Military Applications”, Frontiers in Neuroscience, Vol. 12, No. 19, 2018, pp.1-3.。在过去的10年里,美国国防部高级研究计划局推出“高级语音编码计划”,通过脑机接口技术的实施可以减少战争中对任何声音或身体手势的需求(12)Ivan S. Kotchetkov et al., “Brain-Computer Interfaces: Military, Neurosurgical, and Ethical Perspective”, Neurosurgical Focus, Vol.28, No.5, 2010, p.25.。可以预见,未来的军事领域中将会出现大量应用脑机接口技术来增强作战的效能以及减少战争伤亡。

(二)脑机接口技术给法秩序带来的潜在挑战

法律是规范公民生活、调整公民行为最重要的手段,不同法领域之间各有分工,相互配合,形成了相对稳定的法律秩序(13)[奥]凯尔森:《法与国家的一般理论》,沈宗灵译,北京:中国大百科全书出版社,1996年,第203页。。脑机接口是一种通过有线或无线的方式开展人机交互的技术,实际上是信息媒介的深层次延伸,进一步拓展了基于信息交换的生产方式,但同时也带来了诸多的法律难题(14)胡凌:《理解技术规制的一般模式:以脑机接口为例》,《东方法学》2021年第4期。。这一技术改变了传统的生产方式,极大地促进了社会的进步与发展。然而,科技的蓬勃发展与法律的滞后性之间存在的矛盾,也可能导致一些不法行为无法在第一时间得到控制,无疑会给当前的法律制度带来极大的冲击与挑战。具体而言,主要表现在如下三个方面。

1. 动摇了不法行为的传统归责路径。运用脑机接口技术,可以延展人类的行为触角。譬如,在上述传统医疗型脑机接口应用中,残障人士可以通过意念来控制机械去处理生活琐事或进行日常活动。但是依靠算法架构起来的脑机接口技术也会存在一些难以回避的法律风险,当风险出现时,由谁来承担法律责任就是一个悬而未决的法律问题。脑机接口技术可能给患者带来不可逆的伤害。例如,侵入式的脑机接口手术可能会带来的创伤、出血、感染和麻醉反应等,不仅如此,脑芯片的植入有可能导致大脑组织被更改,使大脑的情感发生改变。在脑机接口系统无法准确识别大脑信号时,由于人思维的复杂性,在控制系统时可能会受到突发情感的影响(15)叶岸滔:《脑机接口技术:伦理问题与研究挑战》,《昆明理工大学学报(社会科学版)》2016年第6期。。当患者因为脑机接口技术受到不应有的伤害时,如何在脑机接口制造商与医疗工作者之间进行责任分配,尚无定论。当发生技术故障时,行为人通过脑机接口技术操纵机器去伤害他人,如何梳理其中的因果关系并确定责任承担的一方也难以判断。同时,司法机关是否可以运用脑机接口技术获取人工智能生成信息,作为判断行为人实施过犯罪行为的证据,依然没有明确的答案。以上问题均是脑机接口的应用场景中所需面临的现实法律问题。

2.威胁了公民信息与隐私保护制度。脑机接口的技术原理可分为4个步骤,分别为:(1)记录和提取大脑活动;(2)将大脑活动解码为有意义信息;(3)将信息翻译成需要发送到输出设备的命令;(4)向脑机接口用户提供反馈以校准脑机关系以实现更好的控制(16)Anastasia Greenberg, “Inside the Mind’s Eye: An International Perspective on Data Privacy Law in the Age of Brain Machine Interfaces”, Alb. LJ Sci. &Tech, Vol. 29, 2019, No.1, pp. 79-122.。在提取大脑信息并将大脑信息转译为可供机器识别的命令时便存在着对公民个人信息与隐私权益侵犯的风险。脑机接口技术的运用可以窥探人的思想,与隐私权的保护存在一定的抵牾。因为隐私权主要包括生活安宁和私人秘密两个方面,脑机接口通过分析人脑活动及可供识别的信息威胁到了公民的隐私权(17)王利明:《隐私权概念的再界定》,《法学家》2012年第1期。。心灵是个人自由和自决的最后避难场所,虽然人的身体很容易受制于他人的支配与控制,但是我们的思想、信念在很大程度上是不受外部约束的(18)Roberto Andorno and Marcello Ienca, “Towards New Human Rights in the Age of Neuroscience and Neurotechnology”, Life Sciences, Society and Policy, Vol.13, 2017, No.1, pp. 1-27.。然而,脑机接口技术的发展使得人类社会具备了直接窥探思想的能力,能够将人脑的想法通过算法进行识别并展现于外部,这会对人类的认知自由权、精神隐私权、精神完整权造成前所未有的冲击。脑机接口的运作需要对人脑的数据进行读取,与公民的个人信息保护也存在一定的抵牾。我国《个人信息保护法》第4条规定“个人信息是以电子或者其他方式记录的与已识别或者可识别的自然人有关的各种信息。”因此,当大脑数据满足可识别性的要求时,就应当受到立法的保护。脑机接口系统可以记录和提取大脑活动,并通过特定的函数或者算法对这些数据参数进行学习。然而在人工智能背景下,算法的深度学习将众多程序与机器连接起来,并将部分决策的权利转移到机器上,由于具体的决策对于程序员和用户来说都是未知的,整个过程在很多方面均是不可控和不明确的(19)Susanne Beck, “Diffusion on Both Ends: Legal Protection and Criminalisation in Neurotechnological Uncertainty”, Clinical Neurotechnology Meets Artificial Intelligence, Philosophical, Ethical, Legal and Social Implications, Springer, 2021, pp. 127-139.,这便对数据主体的诸多权利形成了冲击。譬如,由于算法决策系统的不可知性,导致了数据处理者无法准确预测并告知机器对大脑数据的处理会造成何种后果;又如,当数据主体要求删除大脑数据时,即便当时能够删除,数据处理者或其他人也可能会利用这些数据以衍生的方式将其重新连接到相关的主体。

3.容易成为不法分子滥用的工具。脑机接口技术既能造福人类,也能被人类滥用,甚至实施犯罪。原因在于,植入人脑中的脑机接口芯片不仅受人脑思想的影响,还会受算法程序的影响。例如,若侦查人员在侦查过程中运用脑机接口技术提取犯罪嫌疑人的人脑数据,并对其进行分析,最终作为定罪的证据,无疑会剥夺犯罪嫌疑人的基本权利。又如,在脑机接口技术的商业化应用中,在未告知用户使用脑机接口技术可能带来何种潜在风险的前提下,直接使用该技术会导致用户的权利无法得到保障,一旦商业领域和政治领域利用脑机接口技术制造虚假的用户体验,便极有可能导致用户被潜意识操控而又无法识别。再如,如果有人为了获得有效情报而强迫他人使用脑机接口技术,使用者的权利应当如何救济,在当前的法律体系下仍不明确。除此之外,当脑机接口设备出现故障而产生错误的指令,致使使用者出现危害他人的行为时,如何在事后进行追责也成为较为棘手的问题。

二、规制脑机接口技术的方法:协同机能视角的选择

脑机接口应用场景的多元化及其对法律秩序挑战的多样性共同决定了对脑机接口技术的法律规制必须要限定在尊重人类生命与尊严的基础上,利用多个部门法的功能进行协同化治理。申言之,技术必须服务于人类的整体发展才具有正当性,否则便是对人类社会的威胁,不应得到发展。因此,笔者建议对脑机接口的法律规制应当从方法论和知识论的二元视角入手,以多重路径展开。

(一)方法论层面:立足法秩序统一原理进行协同保护

在法律适用中,只有各个部门法之间相互协调、互不冲突才能真正起到法律的指引与评价效果。脑机接口技术涉及社会生活的诸多方面,需要通过多个部门法协同规制,才能实现技术发展与法治保障的双重效果。这便要求当部门法在对脑机接口技术进行规制时,需要按照法律适用的位阶性,“关照”其他部门法的适用情况。具体而言,如果一个行为在民法领域是合法的,便不能对其适用行政法或者刑法来进行规制。不仅如此,当行为具有民事不法或者行政不法时,还应当根据刑法的特殊性质,谨慎地判断该行为是否具有刑事不法性(20)欧阳本祺:《论行政犯违法判断的独立性》,《行政法学研究》2019年第4期。。当然,若要实现对脑机接口应用的全过程规制,还需要根据脑机接口应用领域的不同进行分类保护。例如,对于新式的服务型脑机接口技术,由于它属于市场经济的范畴,对此类脑机接口的规制就需要平衡好市场与政府的关系,并给予市场主体一定的宽容度以防止过度管制影响市场的自发秩序。又如,对于传统医疗型脑机接口技术,因为涉及人的生命健康,所以需要突出对人类基本权利的保护。具体而言,对于这类脑机接口技术的应用,需要在民法维度上借鉴传统医事法律研判侵入式脑机接口技术致损责任的证明等问题;在刑法的维度上,需要结合技术发展情况准确识别医疗行为与伤害行为之间的界分,以公民生命健康权益至上为指导原则展开综合研判。再如,对于增强型脑机接口技术而言,由于涉及对人类主体的改变,则需要在生产源头上就对其进行严格的法律规制,对于那些制造人与人之间难以消除的不平等状况的技术,应一般性地予以禁止。

(二)知识论层面:通过法益的识别寻求机能性保护

正如耶林所言:“法律的标准不是真实性这种绝对的标准,而是目的这种相对的标准。”(21)[德]英格博格·普珀:《法学思维小学堂》,蔡圣伟译,北京:北京大学出版社,2011年,第65页。从法解释学的视角来看,法规范的保护目的便是法益,即法所保护的利益,每一个部门法均通过其法律规范进行利益保护。因此,在对脑机接口进行法律规制的过程中,离不开对法规范目的的识别,即法益的识别。

1.法益识别的过程需要判断脑机接口技术的应用中可能会涉及哪些法益,其中法益的不同会导致法律规制的手段与限度出现差异。现代立法中的法益分为集体法益与个人法益两种类型,集体法益更加注重对于秩序的维护,因此可称其为制度依存型法益(22)秦长森:《妨害安全驾驶罪保护法益的教义学反思与重构》,《西南政法大学学报》2022年第4期。;而个人法益更加注重对于国民权益的保障,因此可以称之为国民权益型法益。对于制度依存型法益而言,民法与行政性立法的保护往往比较全面,而刑事立法由于需要恪守谦抑性则常常退居其次;对于国民权益保障型法益而言,民法与行政性立法的保护往往未臻完善,因此大多需要通过利用刑事手段来进行保护。所以对脑机接口技术的法律规制而言,我们应当注重关注脑机接口技术应用中所涉及的保护法益,通过识别法益的不同采取不同的保护策略。

2.在对法益进行识别的过程中还需要把握法益与政策之间的关系。法律并不是规范社会的唯一手段,即法律并非是万能的,通过法律规制脑机接口技术还需要注意法律的有限性,如果能通过社会的其他手段进行保护,就没有必要寻求法律上的利益保护。此外,对相关法益的保护还需要平衡行业发展的社会政策与维护人格权益两极之间的平衡,这要求我们在利用法律手段规制脑机接口技术时,需要将法律置身于社会的角度进行机能的考察,通过社会学的角度来观察法律规范保护目的,如此才能避免法律保护与社会政策之间的脱节。

三、具体的路径展开:从生产到应用法律动态规制

脑机接口作为近年来出现的新兴技术,对伦理与秩序均造成了不同程度的潜在冲击。在这种背景下,必须要结合前文法秩序统一性原则与法益保护原则的要求,建立一套从技术生产到技术应用的动态法律规则。由于当前脑机接口技术主要应用于医疗领域与商业领域,因此下文也主要对这两个领域展开讨论。

(一)对医疗型脑机接口技术的动态法律规制

医疗型脑机接口应用是该项技术最为常用的领域,关涉人体的安全与尊严的保障。医疗实践为了更好地凸显脑机接口技术对于疾病的治疗效果,往往倾向于采用侵入型脑机接口技术。这种技术虽然治疗效果明显,但同时也存在巨大的侵权风险,必须要在保障身体安全法益的前提下,通过加大民事责任的方法从源头上避免行政风险与刑事风险的出现。具体而言,可以采取如下方案。

1.在侵权举证层面,加大生产商的注意义务。侵入式脑机接口技术直接深入人脑内部,对人体的身体安全法益产生了较大的威胁。身体法益是仅次于生命法益的法益类型,与人身安全和健康息息相关(23)张明楷:《身体法益的刑法保护》,《政治与法律》2022年第6期。,因此中华人民共和国对于侵入式脑机接口生产商的义务设定更需从严,以便更好地保护身体安全法益。我国《民法典》第1202条对缺陷产品生产者的民事责任进行了规定,但侵入式脑机接口产品致损责任的认定则较为特别。侵入式脑机接口技术需要通过开颅手术将电极植入人脑内部,这可能对人脑造成即时性的损伤或排异反应,此时借助侵权行为的一般原理足以认定。问题在于,大多数情况下脑机设备对人脑的负面影响未必表现为即时生效的形式,可能是在较长时间之后方才显露“潜移默化式”的影响。此外,脑机接口致损的表现形式不仅仅局限于物理性的身体伤害,脑机设备的应用可能对人的情感、记忆、性格等精神因素造成不可逆的负面作用。对此,笔者建议当发生脑机接口技术侵害人体健康的纠纷时,应类推适用我国《民法典》第1202条规定的缺陷产品无过错责任模式,相关的产品质量技术鉴定机构应在脑机缺陷产品举证方面给予当事人以必要帮助。侵入式脑机接口技术致损的因果关系大多是复杂的“概率提升式”,而非简单的“造成式”。这就意味着,即便在认定因果关系时采取医学的因果关系理论,认为只需证明受害人的身体损伤与脑机接口手术之间存在“高度盖然性”即可,但此种程度的证明责任对于缺乏专业知识的受害者而言依然是不可承受之重。如果受害者在完成因果关系的证明义务方面存在显著困难,那么法律对生产商的民事归责必然会存在障碍。就公平正义的角度而言,应当由相比受害者而言更具压倒性的技术优势、信息优势、成本优势的生产商负责从各个方面证明脑机接口技术的应用对人脑无害,如此不仅能降低受害者的证明责任,还能督促生产商尽到合理的注意义务。相较于因证明负担过重而无法追究生产者责任的后果而言,举证责任倒置是最为合理的选择。在脑机接口产品缺陷已经得到证明的前提下,应当推定缺陷与人身健康损害存在因果关系,生产者只有在举证推翻因果关系推定后才能免于承担侵权责任。由于脑机设备可能与使用者“深度融合”,二者超越一般意义上的“人与工具”关系而表现为共生的赛博生命体形式,生产商所承担的设备维护等义务应当被特殊规定。原因在于,脑机设备的损坏或拆除可能会对使用者的身心健康造成严重负面影响。立法应当考虑到为特定类型的脑机接口服务规定强制保险制度,以及公司解散等客观上无法持续提供服务等情形出现时,为生产商课加妥善处理设备摘除、更换等售后义务。

2.增强医疗工作者的伦理审查义务,充分保障患者的手术自决权。如上文所述,脑机接口技术在医疗领域应用的“主阵地”是增强患者的行为能力和治疗患者的精神疾病,特别是使用情感计算技术与病人进行交互,以检测情感,确定并模拟情感答案(24)王禄生:《情感计算的应用困境及其法律规制》,《东方法学》2021年第4期。。对于增强患者的行为能力而言,医疗脑机接口应用的限度在于使身体有缺陷的患者通过技术的应用获得与正常人基本相同的生活自理能力(25)肖峰:《脑机接口的价值选择:治疗还是增强?》,《科学技术哲学研究》2022年第4期。。如果脑机接口技术的应用不是为了患者弥补缺憾,而是为了创造具有超越普通人能力的“超强人类”,便会违反人类公平竞争的权利和最基本的道德底线,应当受到法律和道德的绝对限制。换言之,虽然一切脑机接口技术在本质上而言均属于一种“人体增强技术”,但这种增强技术的上限只能是普通人,而不能是超人。为了强调对此类逾越伦理行为的禁止态度,应当对违法应用及进行人体实验的医务工作者适用职业禁止的资格罚,以起到对其他医疗工作者的警示作用。对于治疗患者精神疾病的情形,由于患者本身的行为能力存在不足,这时便存在着对脑机接口技术是否侵犯患者手术自我决定权的讨论。我国《民法典》第1219条已经对医务人员的说明义务和对患者的知情同意权保障进行了规定(26)《民法典》第1219条规定:“医务人员在诊疗活动中应当向患者说明病情和医疗措施。需要实施手术、特殊检查、特殊治疗的,医务人员应当及时向患者具体说明医疗风险、替代医疗方案等情况,并取得其明确同意;不能或者不宜向患者说明的,应当向患者的近亲属说明,并取得其明确同意。医务人员未尽到前款义务,造成患者损害的,医疗机构应当承担赔偿责任。”,但如何理解其中的“明确同意”还值得讨论。有学者认为:“该条立法的目的在于构建以患者为核心的医患关系,对于说明义务的标准,应当采取具体患者标准,只有在患者不具备完全的民事行为能力或在疾病状态下无法自主做出决定时,才可由近亲属同意。”(27)杨丽珍:《“告知后同意”:〈民法典〉第1219条第1款的解释论展开》,《西北大学学报(哲学社会科学版)》2020年第5期。笔者也赞同这一立场,但由于脑机接口技术风险的特殊性,笔者建议进一步强化知情同意的认定标准。相关的制度安排可以采取“在第三方机构签署书面同意书”的形式强化对患者及其近亲属同意的认定,在此基础上,患者可以根据自身的实际情况随时撤销这一授权。不仅如此,医务工作者也应秉持忠实义务,综合患者的病情进行治疗,如果有替代脑机接口技术的医疗措施,则应该慎用脑机接口技术,避免由于技术的不成熟而对患者权益法益带来侵害。

(二)对商业型脑机接口技术的动态法律规制

在商业领域中,运用脑机接口技术的底层逻辑是通过对人脑数据进行提取与分析,并最终转化为可供商业化使用的资产。在由人脑数据到数字资产的转译过程中,用户不可避免地会面临算法的支配风险。商业巨头借助数据与技术的垄断成为横亘于国家公权力与个人私权利之间的“私权力”主体,决定了对脑机接口商业应用的法律规制需要围绕保护公民的信息与隐私权益这一核心维度进行展开。

在公民信息与隐私权益的保障方面,由于数字时代中的信息公开化程度大幅提升,公民隐私权的保护工作面临着巨大的压力(28)李忠夏:《数字时代隐私权的宪法建构》,《华东政法大学学报》2021年第3期。。脑机接口技术通过算法决策搜集人脑信息,并对人脑的信息进行分析运算后生成可用数据,这难免对人的自主价值造成危害。智能算法的不透明性同时催生出了新型“信息垄断资本”,这决定了对公民隐私权的保护需要从算法规制的角度入手,通过限制“算法权力”的扩大化来保障公民的隐私与自由。对此,可以分别从下述4个方面入手。

1.明确脑机接口商业算法的运用范围。高度的信息垄断权力会使人的自由名存实亡,防止人类自由为垄断资本所裹挟的理念在当代社会中呼声渐长。尽管在商业领域中运用算法技术可以提高生产要素的利用率,但是脑机接口技术涉及人脑内部最为隐秘的部分,其算法适用的边界需要得到更为慎重的考量。对此,建议运用法益衡量原则来具体判断商业领域中的算法应用是否具有正当性。通过将脑机接口商业算法运用的优势与脑机接口算法带来的后果进行比较,综合判断脑机接口算法应用后果的可接受性。就此而言,以下几种脑机接口的应用便属于禁止的情形。例如,在使用脑机接口技术判断他人是否说谎的情形中,技术应用的优势在于通过数据分析来进行他人情感的可能性判断,后果则可能会造成他人尊严得不到尊重,对于尊严的保护要大于可能性的判断,因而需要禁止使用。再如,在市场买卖中,由于达成买卖意向是双方意识自治的表现,不应通过脑机接口技术“强买强卖”,干扰公民的消费自由权。商家对人脑数据的分析往往并不只是为了提高服务能力,有时会超出合约限制而应用于其他领域。因此,只有在脑机接口商业算法保护了更为优越的利益时,才有适用的可能性。

2.建立脑机接口算法运行的正当程序制度。由于脑机接口技术具有收集人脑信息的功能,而海量的人脑信息经过深度算法学习会拼凑成主体的画像,会对公民的隐私造成威胁。据此,有必要对脑机接口技术背后的算法进行程序正当性的限定。脑机接口算法运行必须要遵循可预测性、透明性、公众参与等价值理念,以便尽可能地促进算法公开。商业实践中可以尝试引入中立的仲裁者的角色对商业领域脑机接口存在的法律问题进行仲裁。当然,仲裁者应由兼具技术与法律双重背景的成员构成,为防止出现规制对象自我回馈的风险,仲裁者必须独立于商业利益之外,应当赋予其独立行使职权的权利。如此既可以节约外部的行政执法成本,还能够在企业内部随时检查算法自动化决策系统可能的瑕疵或者偏误(29)张凌寒:《算法权力的兴起、异化及法律规制》,《法商研究》2019年第4期。。

3.建立脑机接口商业应用的问责机制。当发生脑机接口算法侵犯他人隐私权利时,需要明晰商业问责的主体和明确问责的标准。在问责主体上,依照公共利益原则应确定技术设计者和产品销售者为责任主体。在发生侵权事件时,两者应当承担连带责任,如此不仅能够平衡技术设计者和产品销售者之间的义务关系,也能为公民的诉讼提供便利。在问责的标准上,应当对产品的质量进行分级分类,根据产品质量对公民权益侵害程度的大小适用不同的归责标准。对于出现严重瑕疵的脑机接口产品,应当对技术设计者和产品销售者施以更为严厉的处罚。

4.完善脑机接口应用中公民信息权益的保障机制。脑机接口技术对人脑数据的提取与识别需要受到《个人信息保护法》的规制。人脑数据识别后属于个人信息的一种且应当属于个人的敏感信息,而敏感个人信息与个人隐私可谓是一体两面的关系,共同形塑了对公民人格权的保护,因此对于敏感信息的保护强度不应低于对个人隐私的保护强度。原因在于,人脑数据具有可识别性,且与《个人信息保护法》第28条规定的“生物识别”“特定身份”“医疗健康”等类型的敏感个人信息具有敏感度上的同质性,即一旦遭遇泄露或非法使用,将使当事人的人身权益和财产权益陷入危险。为了防止人脑信息被滥用,应当对数据处理活动进行严格规范,准确划定合理的使用范围。特别是在我国《刑法》规定了侵犯公民个人信息罪的情况下,明确人脑数据属于敏感个人信息有利于促使数据控制者履行合规义务,以防止出现犯罪的危害后果。我国的行政性法律为企业建立合规制度提供了法律依据,但是单凭行政合规制度并不足以建立完善的企业合规体系,还需要通过刑事实体与程序法上的激励手段来促进企业自觉建立起合规计划(30)秦长森:《行刑衔接视野下企业合规教义学化发展的二元构建》,载赵秉志主编:《刑法论丛》,北京:法律出版社,2022年,第5-7页。。具体而言,我们可以行政合规性判断企业犯罪的行政违法性、以法益保护判断企业犯罪的刑事违法性(31)秦长森:《企业合规的刑事化发展方向与具体路径》,《民主与法制时报》2021年12月9日。。只有当脑机接口企业建立的企业合规计划既符合行政性立法关于合规内控的规定,又能充分保护公民个人信息的法益时,才能说明企业合规计划建立的有效性。对于前者而言,需要企业在合规计划制订时以行政法规的要求为构建原点,结合相关合规指引不断提升自身的经营质量。对于后者而言,企业应当在个人信息的收集活动中严守“实现产品目的最小范围”标准,坚持以对个人权益影响最小为原则开展信息处理活动。收集人脑数据时必须取得当事人的个人单独同意,对其明确告知信息的收集用途及可能造成的影响。

网络时代社会结构升级以技术驱动为推进力量,技术及其风险贯穿社会治理全过程(32)刘艳红:《网络时代社会治理迭代升级与犯罪控制协同化的刑事政策》,《社会科学辑刊》2024年第1期。。作为法治大国,我国在发展科学技术的同时,更需要依赖法律制度提供重要的保障。以“脑机接口”技术为例,通过对其应用场景展开具体的分析,指出这一技术的发展,在“动摇不法行为的传统归责路径”“威胁公民信息与隐私保护制度”“成为犯罪分子的帮凶”等方面存在较大的风险,继而主张建立一套从生产到应用的动态规制办法,以消解当前脑机接口技术面临的社会问题。当然,风险是否会现实地发生依然具有不可知性,未来的技术发展,还需要在立法论层面加强设计,重点分析在科技的发展中,存在哪些需要保护的法益,以便从源头上为公民的基本权利提供必要的现实保护。对此,张明楷教授提出了法益立法保护的4个标准,即“内容不应过于抽象化”“内容不应过于模糊”“内容应当避免综合”“内容不应随意添加或减少”(33)张明楷:《具体犯罪保护法益的确定标准》,《法学》2023年第12期。。虽然这一主张是从刑法层面展开的,但是对于行政性的科技立法也具有一定程度的启示意义。我们对科技法益保护要具体分析保障的内容,对科技法益的保护要保护现实中的利益,而非虚拟的利益,对科技法益的保护要尽可能稳定,只有立法具有稳定性,才会具有普遍的适用性。因此,未来的研究重点应当是加强立法维度的建设,让法治成为保障科技发展的重要“武器”。