通用人工智能赋能智慧司法:逻辑与规制*

2024-05-10 15:44孙富博李长健
实事求是 2024年1期
关键词:司法人工智能智慧

孙富博 李长健

(1中国船舶集团有限公司 第七二四研究所 江苏 南京 211153;2华中科技大学 法学院 湖北 武汉 430073)

一、引言

近年来,以数字信息、数字技术、数字平台及数字业态为核心内容的数字经济蓬勃发展,已成为推动我国经济高质量发展和社会进步的重要力量。其中,元宇宙、区块链、人工智能等前沿信息技术的创新与变革,正在重塑国家的治理理念,并引领社会治理的数智化方向。在此背景下,各种以“数字元素+治理领域”的深度融合与实践,使中国式现代化改革展现出鲜明特征,而智慧司法改革正是这一改革浪潮中的重要组成部分。早在2017年,习近平总书记就明确提出:“要遵循司法规律,把深化司法体制改革和现代科技应用结合起来。”[1]同年,国务院发布《新一代人工智能发展规划》,将智能化法庭建设纳入其中,最高人民法院也发布了智慧法院建设意见及评价体系。2022年,最高人民检察院成立了数字检察办公室,以推进智慧检察建设。这充分表明,智慧司法改革一直得到政府和司法机关的积极支持和推动。

司法是保障权利的重要环节,而智慧司法作为现代司法理念的核心,更是强调了权利保护的重要性。随着ChatGPT 类技术的问世,通用人工智能的发展已经进入新的历史阶段,从弱智能时代逐步向强智能甚至超强智能时代迈进。这种技术的发展深刻地改变了生产方式和思维方式,[2]对法律和科技的关系也产生了深远的影响,法律和科技不再是简单的利用和被利用、主导和被主导的关系,而是相互关联、相互促进的生态联结。在此形势下,如何正确处理司法与科技的关系,坚守司法公正,需要从实现权利保护的角度出发,探讨通用人工智能如何赋能司法,以期强化司法的民主属性,回应数字经济时代社会公平正义维护与人民权益保护的需求。

二、通用人工智能赋能智慧司法的理论研判

(一)ChatGPT类技术与通用人工智能发展

ChatGPT是AIGC(人工智能生成内容)技术的一种,具有极高的颠覆性。它依赖于海量数据和强大的算法算力,基于神经网络架构技术进行机器学习、预训练、微调与生成,以此不仅能够理解人类的自然语言,并记住大量的前置学习训练内容,还可以在人工标准辅助算法的帮助下进行微调升级并生成高质量的内容,实现机器的深度学习、生成内容的创新性以及人机之间几乎无障碍的交互。其良好的互动性、高度的通用性和智能性正在加速与人类社会刚性、高频及深刻的联结。[3]特别是2023年3月GPT-4的出现,进一步强化了这种联结。GPT-4在短时间内显著提升了ChatGPT的智力水平,改变了原有ChatGPT仅支持文本类内容生成的限制,实现全面支持文本、图像、音频等多模态输入及文本输出,既可以处理复杂丰富的信息,又可以提供更多样化的服务。它在各种专业和学术领域的基准测试中展现出“人类水平”的性能;[4]在与GPT-4的对话中,已经呈现某些类人意识特征。据国外专家评估,GPT-4已经达到了9岁儿童的心智水平。[5]ChatGPT类技术已经超越了狭义的人工智能,接近人们所理解的通用人工智能,开启了通用人工智能发展的新篇章。以ChatGPT类技术为起点的通用人工智能正在爆发式发展,为人类社会带来巨大的变革和进步。

习近平总书记强调:“人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的‘头雁’效应。”[6]因此,在数字经济时代,发展通用人工智能,掌握关键通用人工智能核心技术,成为新时期引领科技革命和产业变革的关键,也是国家核心竞争力的体现。2023年4月,中共中央政治局召开会议,指出“要重视通用人工智能发展,营造创新生态,重视防范风险”;[7]同月,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》;7月,网络安全等级保护与安全保卫技术国家工程研究中心又发布《通用人工智能AGI等级保护白皮书》来规范指引通用人工智能发展。我国正在通用人工智能走深走实道路上快速前进。

(二)通用人工智能赋能智慧司法的基本逻辑:权利的司法保护

在我国数字司法和智慧司法改革的推动下,人工智能在司法领域的应用日益普及和广泛。[8]随着技术的深入发展,数字司法和智慧司法对数据处理能力、结果准确性和可靠性的需求日益增长,同时对自然语言生成与理解能力的要求也越来越高,这就决定了以ChatGPT技术为起点的通用人工智能在司法领域的应用前景广阔。但同时也应清晰认识到,ChatGPT技术社交性、自主性、反应性和机动性改变了传统的人与辅助机器人的交互规则,人与机器的关系已经从单方面利用向机器参与决策分析转变,进入了一个全新的人机耦合生态空间。这给现有的司法业务、司法权力运行和司法权力保护带来了很大冲击,对既有的司法伦理和正义构成了挑战。因此,我们既要看到通用人工智能发展对司法技术的赋能价值,同时也要站在更高的角度,回归智能治理的人本主义价值、自然法善的价值以及司法本源的价值和作用,[9]顺应通用人工智能的发展实际,从权利保护切入,站在数字经济时代依法治国的全局高度,革新司法思维方式、组织形式和治理逻辑等,以开放和自我革命的态度,对整个司法体系进行全面赋能。以期在此基础上发挥司法的作用,使其引导大模型、通用人工智能向善发展,维护社会公平正义,强化Web3.0数字经济时代人民权利的有效保障。

1.人民维度:依法保障人民权益的智能诉求。1949年,毛泽东在《论人民民主专政》中指出:“我们现在的任务是要强化人民的国家机器,这主要地是指人民的军队、人民的警察和人民的法庭,借以巩固国防和保护人民利益。”[10](P1476)人民性是中国特色社会主义司法制度的本质属性,是新时代习近平法治思想中司法改革的核心要义。无论什么时代,依法保障人民权益的目的和司法为民的职能不能变,这就要求司法要积极回应人民群众对公平正义的新要求、新诉求、新期待,保障人民合法权益不受侵犯,保护公民权利有效落实。

首先,通用人工智能赋能可有效促进司法打击犯罪。通用人工智能在司法领域的应用可以促进打击犯罪的有效性。随着ChatGPT等人工智能技术的智能化水平不断提高,其在提高经济和社会活动便捷性的同时,也为违法犯罪行为提供了便利。如自动化攻击使得违法犯罪行为更加隐蔽、高效、低成本和广扩散,这对司法机关的侦查活动和打击犯罪带来了巨大挑战。传统的物理世界行为规制的逻辑已经无法应对数字经济时代形式多样、复杂多变的违法犯罪活动。因此,司法机关需要转变思路,积极利用通用人工智能赋能,将技术与法律相结合,实现侦查的便捷、高效和低成本。这种结合不仅是技术以辅助性地位嵌入,而且是技术和法律价值的协同和功能互补耦合。[11]通过这种方式,可以促进检察机关公益诉讼制度的发展,实现类案监督和社会治理的转型。同时,通用人工智能赋能也有利于推进司法机关融入党的二十大所倡导的“共建、共治、共享”格局,走向更加符合数字化时代公平正义和权利保护特征的多元主体协同全过程性治理模式。

其次,通用人工智能赋能可有效增强司法对新兴权利的保护。随着数字网络、人工智能等科技的发展,人们对科技带来的利益保护需求,特别是将利益上升至权利层面进行保护的意愿越来越强烈。由于立法无法及时有效地回应复杂多元的新兴权利诉求,这些诉求便大量涌入司法领域,司法已然成为化解新兴权利诉求矛盾的第一道防线,也是这些新兴权利实现和落地的关键。在数字经济时代,新兴权利呈现出保护依据、存在样式与行使方式的动态变化和价值多元化,[12]这增加了保护的敏感性和谨慎性,即对其保护要精准地兼顾社会效果、长远利益和立法预期,防止因处理不当而影响经济社会发展与稳定。因此,在对新兴权利进行识别、衡量、确认和保护时,需要以大量经验事实的获取与分析为基础,采用体系化、比较、实证研究方法,增强法律问题相关性分析,进行科学充分的评估与论证。这需要改变传统的权利论证方式,创新司法方法的运用,发挥通用人工智能对多元化社会价值取向和社会需求包括民情民意、难点堵点、风险预判等方面大数据的挖掘、分析作用,提升新兴权利研究效率及保护的精准性和有效性。[13]同时,新兴权利中的数字权利基于算法的可计算性,要求司法对数字权益纠纷应通过智能和可计算的特殊性救济方式加以解决,这决定了司法救济对人工智能大数据技术的依赖性。[14]

2.公正维度:权威高素质司法队伍建设的智力要求。

党的二十大报告指出:“加快建设公正高效权威的社会主义司法制度,努力让人民群众在每一个司法案件中感受到公平正义。”[15]公正司法是人民群众的新期待,是司法的生命线,司法公正与否直接影响司法的公信力。[16]实现司法公正,就是要解决影响司法公正的深层次问题,[17]有效抑制司法技术问题和因腐败问题造成的判案不公与错案冤案。随着ChatGPT 类技术的发展,我们看到了通过相关智能技术赋能,可显著提升司法队伍的司法能力和规范司法行为,降低因司法中“人”的任意性因素造成的不公。一方面,正如拉伦茨所言,“只有同时考量法律规定的全部,才能认识一项法条的真正适用范围”。[18](P140)ChatGPT类技术基于强大的算法、算力及深度学习训练,展现出庞大的法律知识储备与基于算法的法律融贯性理解。这种技术可以显著提高对常规案件处理的效率、准确度和公正度,特别是在国家推崇要素式审判以及当代建构主义下的中国法去伦理化趋势下,[19]增加了ChatGPT类技术与司法深度交互的可能性。然而,人们也担心算法偏见会带来执法司法的不公,但我们应该理性对待这种偏见。在现实裁判中,法官难以避免嵌入价值多元社会中,存在主观恣意,难以避免价值偏见。相比之下,人工智能在随着ChatGPT类技术发展完善的过程中,通过规范机器学习和人工标注技术,可以保持较高的司法标准性和统一性。在常规案件处理上,这种标准性和统一性既可以减轻司法人员的案件处理负担,解决“案多人少”的矛盾,又可以有效防止司法干预和腐败,呈现更为科学合理的公平正义。另一方面,ChatGPT类人工智能作为元宇宙的重要组成,其赋能必然带来司法的平台化、去中心化。通过将司法推上社会的“阳光下”全流程运行,可以保证司法的公正廉洁。这种发展趋势符合习近平总书记对司法公开透明的要求。

3.治理维度:司法便民利民的智治需求。完善便民利民司法服务机制,满足多层次、多元化司法服务需求,并建立与之对应的诉讼服务体系、公共法律服务体系是近些年司法改革的重点。随着司法智能化的推进,科技赋能使司法服务水平得到了明显提升。例如,在诉讼领域,智能诉讼服务大厅、服务网、服务热线的建设实现了从现场办向“网上办”“掌上办”的转变,为当事人提供了更加便捷、高效的司法服务。此外,司法部提出的“十四五”期间要建成覆盖全业务、全时空的法律服务网络规划,进一步增强了公共法律服务能力。[20]然而,便民利民司法服务机制的构建仍处于发展阶段,服务的量度、广度、深度以及平衡度仍有待提高。ChatGPT类技术的出现,为便民利民司法服务质变提升提供了极强的推动力。一方面,ChatGPT类技术可以成为当事人便捷、低成本的“律师”,依靠大数据及算力生成法律知识的及时性,可助力法律知识传播去中心化,降低法律服务的边际成本,也客观地回应群众“没有钱打、没有律师求助”的问题。另一方面,Chat-GPT类技术服务的普惠性与公平性可以有效解决法律服务区域、城乡发展不平衡的问题,保障人民司法发展权。在诉源治理方面,ChatGPT类技术的应用可以进一步优化智化司法。相较于传统人工智能,ChatGPT类技术可以生成更加专业、精准以及贴近当事人需求的预估结论。当事人对诉讼结果进行清晰、准确的预计可促使其将主要精力花在多元化纠纷化解上,满足司法助力和赋能新时代“枫桥经验”实践的需求。

三、权利保护语境下通用人工智能赋能智慧司法的现实挑战

(一)通用人工智能赋能智慧司法面对的风险

通用人工智能在通过数据收集、挖掘和分析进行智能赋能的过程中,应用于智慧司法领域时,需要面对与数字治理中权利保护的通用性问题,包括数字安全、数字伦理和数字正义。由于司法在社会治理和权利保护中占据特殊地位,因此相较于其他领域,相关问题的复杂性和重要性等级更高,应对更为复杂。

1.数字安全:国家与个人数据保护。首先,增加了国家数字安全风险。数字安全是国家安全的重要组成部分,智慧司法的发展及数据使用必须在国家数字安全体系的框架下运行,以确保数据安全。一方面,由于ChatGPT 类技术的发展主要源于西方国家,因此基于西方技术研发的通用人工智能在数据收集、挖掘、处理方面容易受到西方价值观和思维方式的影响,从而影响技术的中立性。这可能会带来价值偏向和意识形态渗透,对国家的文化、价值观和国家安全造成威胁。这样的技术应用于司法领域,可能会对我国现有的司法伦理产生破坏性影响,冲击中国特色社会主义制度下的司法正义,甚至可能以西方的价值观干预司法工作,破坏司法公平,进而影响社会稳定。另一方面,通用人工智能的发展必然会面临数据公开化与去中心化的问题。在数字信息敏感度不足、保护意识不强的情况下,一些司法机关在智慧司法考核压力下将整个智慧司法搭建外包给科技公司,可能会导致涉及敏感信息的司法数据被西方获取,并通过深度挖掘、分析对我国进行监控,这将对国家主权和国家安全造成严重影响。因此,数据公开化与去中心化增加了被境外以及不法分子攻击的可能,同时也增加了数据泄露和违法利用的风险。其次,增加了个人数据安全与隐私权保护的风险。一方面,在数据收集过程中可能会引发个人信息保护问题。司法机关在通用人工智能数据库搭建过程中需要收集案件事实、证据等数据材料,并利用这些数据进行训练与优化以提高智能水平,然而,这会产生智慧司法与个人信息保护之间的利益矛盾。如何找到平衡点,做好智能发展与个人数据尊重保护之间的利益协调,是亟待解决的问题。另一方面,通用人工智能的发展也引发了新的隐私权保护问题。由于司法信息公开而引发的隐私权保护问题一直是智慧司法的老问题。然而,随着ChatGPT 类技术的发展,这个问题还面临着现有的保护措施能否有效应对通用人工智能强大的算法和算力的挑战。例如,通过ChatGPT类技术基于相关性分析,可以挖掘出当事人信息;通过画面数据处理,可以去除打码等,将当事人的隐私暴露在阳光下。这些问题都是不能忽视的。

2.数字伦理:社会价值回应与司法责任承担。在人工智能技术的发展过程中,数据伦理问题逐渐成为人们关注的焦点。在司法领域,人工智能技术的运用也引发了一系列伦理问题,如算法歧视和算法黑箱等。然而,最主要的伦理问题是通用人工智能司法的人本温度和社会价值回应。尽管ChatGPT等技术已经展现出人工智能对法律理解的情景判断趋势,但价值判断仍是人工智能无法代替人类在司法中的作用。因此,我们需要回归司法的社会价值来理性判断这一伦理风险。当前法治化进程快速推进,一定程度上泛化了司法的社会价值,过于强调司法的宣传和影响效果,追求公众的司法认同。然而,法治终究是规制之治,需要以客观的标准来规范。无论是宏观层面的法治理念、法治战略,还是微观层面的执法、司法、守法,都需要以某种标准呈现,而且是客观的标准。因此,需要以实用法条主义和适度的司法能动协同,找寻司法法理与社会功能的互补。基于此种意义而言,通用人工智能赋能司法不存在根本性的伦理障碍,至少在司法体系中对于大部分事实清楚、证据确实充分的案件不存在较大的价值冲突抑或判断的案件办理中不存在障碍。司法伦理最需要解决的是复杂、疑难或是无明确的法律规制,需要引领社会价值风尚的案件如何赋能的问题。在这个过程中,我们需要充分发挥人工智能技术的优势,同时注重保护人权、维护社会公正和法治秩序等基本价值。

此外,通用人工智能在司法领域的运用,无疑增加了司法责任承担的复杂性,为新时期全面准确落实司法责任制改革提出了新的挑战。例如,当通用人工智能独立进行司法工作时,如果出现司法不公的情况,责任应由谁承担?是科技公司、算法设计者,还是其他相关人员?如果需要承担责任,又应该遵循何种价值观来设定追责的尺度和标准。另外,当通用人工智能与检察官、法官共同参与司法工作时,责任应该如何分配?责任是否可以减免?如何在人机交互的背景下实现司法权责的统一,以及权力的有效制约?这些问题都需要进行深入的探讨和研究。

3.数字正义:司法人权与平等。数字正义要求在智慧司法中立足人权视角,努力消除数字鸿沟,以确保司法服务的普惠与平等。但现实中,通用人工智能的广泛应用却使这一鸿沟变得更为明显。首先,通用人工智能在司法中的广泛应用加剧了控辩双方的地位不平等。司法机关凭借国家力量推进的通用人工智能技术,在案件数据独占、强大算力和数据整合能力方面占据优势,并进一步强化了其在刑事诉讼中的地位。对于本就处于弱势地位的被追诉人、代理辩护人等,他们往往面临数据信息获取的不对等和信息不对称的尴尬境地,无法保障控辩双方的实力平等与均衡。这种情况可能导致司法权的过度扩张,对相关主体的合法权利造成挤压。其次,在民事案件中,对通用人工智能运用案件处理能力的差异,放大了主体间诉讼地位的不平等,对司法正义造成冲击。例如,在强个体与弱个体之间、个体与大公司之间的诉讼中,这种不平等表现得尤为明显。最后,尽管通用人工智能在司法中的核心目标是司法为民、便民利民,但对于那些对通用人工智能持怀疑态度、习惯于传统方式、不愿接触或无能力运用新技术的当事人来说,通用人工智能并没有增强他们参与司法活动的信任度、便捷度和满意度。相反,他们可能会觉得自己的司法权利受到了侵害。特别是对于难以熟练运用科技的老年人、残疾人等弱势群体来说,他们无法充分享受通用人工智能带来的便利,导致司法权利行使的不充分和司法公正实现的困难。

(二)通用人工智能赋能智慧司法推进过程中的内生障碍

我国智慧司法的发展主要依赖于“自上而下”的推动,但在实施过程中,由于目标差异和考核机制的问题,智慧司法并未形成有效的内在需求,缺乏整体联动,导致智慧司法的整体应用水平相对较低。[21]通用人工智能赋能智慧司法需要以原有的智慧司法建设为基础,然而,目前的建设和发展水平对未来的通用人工智能赋能智慧司法却带来了一定阻碍,其中最大的是数据库问题。数据是通用人工智能发展的基础,ChatGPT类技术在国外法律领域之所以能迅速发展,并在准确性和客观性上实现质的提升,是因为它们对数据法律、政策的模型训练达到了惊人的几十TB程度,这很大程度上依赖于国外公开领域大量高质量的数据支持。相比之下,我国的法律数据不充分、结构化不足,其数量和质量还不能有效满足通用人工智能赋能智慧司法的需求。此外,地方保护主义也是阻碍高质量数据库形成的一个重要因素。[22]除了上述问题,长期以来,我国司法组织倾向于在封闭和半封闭的状态中完成司法行为,与外界交流较少,这在一定程度上影响了信息技术带来的司法变革。[23]尤其是通用人工智能可能会对法官、检察官等司法地位产生一定的影响,对原有的司法工作带来一定的挑战与变革。即使通用人工智能的赋能可以极大地减轻司法人员的工作负担,但基于自身利益的考量和固有的思维惯性,其主动拥抱通用人工智能发展的积极性并不强。

四、权利保护语境下通用人工智能赋能智慧司法的规制路径

(一)数字主权安全与私权保护的双核心地位

我们党和政府一直坚持维护数字主权,加强数字安全屏障,并激发数字经济的活力。习近平总书记指出:“互联网发展也给世界各国主权、安全、发展利益带来许多新的挑战。”[24]没有强大的主权支撑和安全稳定的社会环境,谈论通用人工智能的发展和赋能是不切实际且无法实现的。因此,数字主权和数字安全是通用人工智能赋能智慧司法和权利司法保护的前提条件和实现基础。在技术层面,当前数字主权和数字安全的核心理念是我国应主导本国的数字技术和通用人工智能的发展权。这意味着必须构建数字技术主权,发展核心数字技术,避免对西方技术的依赖,保障国家数字生态链的安全。[25]为此,实现这一目标需要国家力量、政策和资源的推动。首先,要重视数据安全对国家主权和国家安全的影响,关注数据的深层次价值,对数据进行科学审查,实现数据动态分级监控。其次,规范司法信息公开和通用人工智能司法数据库的搭建,合理隐藏或限制公开可能涉及国家主权安全等敏感数据信息,防止境外西方国家对我国数据安全的侵犯。此外,在通用人工智能赋能智慧司法方面,一是基于司法数据国家安全的考虑,可以设置保密资格门槛,对科技公司进行保密资质审查。不符合保密资格要求的不能作为合格的服务方。同时,尽量选择国产技术替代方案,如果不能实现,需要对智慧司法相关技术进行国家安全影响评估和伦理审查,以防止技术不中立并携带西方价值观对我国司法正义的破坏和威胁。二是司法领域应主动与相关科技公司开展通用人工智能研发和课题攻坚,根据我国的司法实践,优化数据结构和算法模型。

在数字主权和数字安全的基础上,应着重关注当事人的数据安全和隐私权。首先,应在个人数据的收集、处理和应用上坚持最小限度原则。无论是基于司法数据库搭建还是侦查、监督工作需要收集当事人个人信息的,都应严格按照收集的目的来确定范围和界限,并确保当事人的知情权和同意权。即使相关信息收集涉及公共利益的保护,也要在履行告知程序后,以最小限度的方式进行收集,并进行有效的隐私保护。特别是在通用人工智能时代,数据收集变得更加便捷,因此要对司法机关的收集行为进行限制,防止其以“公共利益”为名滥用司法权力并造成对个人权利的侵害。另外,当司法机关运用通用人工智能对相关数据进行分析和处理时,也应该坚持最小限度原则,仅应围绕案件诉求和关联度进行有限度的数据挖掘,而不能过度分析和处理。基于此,需要出台相关规则,以最小限度原则理念,保障当事人的数据权利,并对司法机关的收集、使用行为进行规制。其次,应对公开数据进行合理的保护,特别是对信息数据标识化处理技术的有效性进行检验。而现有的通过隐名、遮盖、打码、删除等技术对案件信息进行去标识化后进行公布的方式实际上存在一定的风险,因此要改变隐私保护的方式,[26]从通用人工智能模型算法的反向思维入手,主动查找现有去标识化被破译的风险,优化司法公开信息中的隐私权保护。

(二)社会价值合理呈现下司法工作机制与包容性司法责任追究机制构建

1.构建人机深度交互和人机分工科学明确的司法工作机制。在技术可靠性前提下,应构建通用人工智能与司法人员多层级分工协作的司法工作机制,并制定正面清单和负面清单。首先,随着通用人工智能的发展,对于已经可以实现技术对人替代的司法工作,要敢于制定正面清单,明确相关工作必须应用人工智能来处理。为了防止出现司法伦理问题,可以采用技术和组织机制进行合理规避。在技术层面,可以基于区块链、元宇宙技术,构建多个机器人多级审理、审核与监督机制,最大限度地防止因单个机器人算法被渗透而引发的司法公正问题。同时,区块链、元宇宙技术的应用也可以规制算法黑箱问题。在组织层面,应尊重并考虑当事人可能需要此类案件进行价值判断,可以增设伦理审查委员会,对相关事项进行价值判断,发挥“人在回路”的作用。其次,对于目前通用人工智能发展水平尚不能完全替代的司法工作,应科学制定负面清单。例如,在相对保守的审判领域,最高人民法院发布《关于规范和加强人工智能司法应用的意见》明确指出,“无论技术发展到何种水平,人工智能都不得代替法官裁判”,[27]这确定了人工智能在审判领域的负面清单基调,但其并非要完全剔除人工智能,而是要实现人与机器的合理分工协作。随着通用人工智能的发展,可以逐步减少人的要素占比,通用人工智能可以在审判中发挥初步分析、预判等优势,而法官则在此基础上可进行深入的伦理标注,以最大限度保障司法结果的公正。最后,应充分利用司法伦理争议较小的司法环节,如案件预估、审前羁押、保释等,以此完成司法数据的收集、大量的数据模型训练以及算法调整等工作,逐步完善通用人工智能的司法功能。

2.构建包容性司法责任追究机制。在构建责任机制时,要处理好安全与发展的关系,不能因通用人工智能赋能司法这个特殊领域就过于严苛,以免束缚研发人员的创新精神与积极性,阻碍通用人工智能赋能智慧司法的进度与深度。[28]在追究通用人工智能的司法责任时,要总体保持包容合理的限度,严格区分故意、过失与不可抗力等,构建科学的司法责任追究机制。对此,可以借鉴企业合规试点经营的经验,如果科技公司、研发人员对通用人工智能的不足与错误率进行事前充分预估、明示以及提出相关方案,并在全流程技术服务上合规尽职履责,对在发生风险时积极采取措施控制风险蔓延,等等,应考虑减轻或免除处罚。同时,积极探索以经济责任为主的追究机制。此外,要探索人机合作下责任的划分与责任减免。虽然以人承担责任为主,但要科学划定责任范围,做好责任减免工作,防止挫败司法人员运用人工智能的热情。例如,司法人员完全按照使用标准使用人工智能造成危害后果的,应构建合理的责任减免机制。

(三)通用人工智能赋能智慧司法的“当事人中心”走向

1.在数字人权背景下构建通用人工智能时代实质平等的控辩关系。我国控辩关系已经进入“合作为主,对抗为辅”的阶段,并不断向以控辩平等为追求的方向良性、科学发展。[29]通用人工智能的赋能有助于扫除控辩平等发展中的障碍,推动协商性司法的发展,构建科学的控辩机制。因此,需要构建数据信息共享与信息披露机制,增加透明度,降低因力量和资源悬殊而带来的实质不平等。但也不能回避因信息对称与绝对透明,犯罪嫌疑人可能会借助通用人工智能了解到司法机关的调查进度与深度,而故意隐瞒犯罪事实等,从而增加刑事侦查的复杂性、难度性以及提高证据收集的要求。在这种情况下,司法机关需要顺应数字经济时代的发展特点,根据技术发展不断转变理念、创新工作方法。例如,数据信息共享可以基于证据信息进行依法、双向、诚信、分级开示。[30]同时,为了减轻因信息对称和透明造成的司法机关权限和筹码被知晓,在司法协商中处境尴尬,需要创新认罪认罚等相关制度。

2.基于知情权与选择权下建立互信与普惠的司法服务体系。对于那些对通用人工智能抱有疑虑的人群,应给予他们合理的选择权和拒绝权。同时,要不断提升司法服务的水平与方式,使通用人工智能在司法领域的运用更加人性化,提高其信任度和便捷度,引导相关当事人逐步接受并适应司法工作与服务的变革。为了实现普惠司法,需要特别关注弱势群体,并帮助他们更好地利用通用人工智能进行司法活动。同时,从全局出发,加大投入力度,关注通用人工智能赋能智慧司法区域和城乡发展不平衡的问题,确保每个人都能平等地享受司法服务。此外,在通用人工智能的背景下,应给予诉讼地位弱势群体合法且合理的赋能援助,以尽可能平衡双方的诉讼地位,实现司法正义。

(四)上下联动与观念创新支撑通用人工智能赋能

解决好数据问题和人机冲突问题是推进司法领域通用人工智能赋能的关键。首先,在坚持原有智慧司法、数字司法自上而下推进模式的同时,重点关注通用人工智能赋能智慧司法发展的障碍性问题,特别是高质量数据库的搭建。通过在中央层面设置司法数据采集内容的统一标准与规范,可以克服司法数据地方化的“百家争鸣”现象,从全局性统筹规划高度建设司法数据库。其次,坚持渐进性的推进思路,重视内生动力的产生和向上推动。在通用人工智能赋能阶段要优化考核机制、畅通上下联结沟通渠道,充分听取一线司法人员对智慧司法的现实性需求与运用障碍;同时,要在上级统一规划的基础上,充分调动下级的积极性,实现上下联动创新发展,推进通用人工智能赋能智慧司法更加高效实用与便捷。最后,要创新司法文化,引导司法人员转型。随着通用人工智能的发展,法律工作的去中心化、技能化、资历化等已成为必然趋势。这对许多依赖习惯和经验从事司法工作的司法人员提出了变革性挑战。因此,要引导司法人员理性认识通用人工智能的发展,接受初级和中级司法工作将逐步被机器替代的事实,逐步转向从事高阶司法工作,主导知识验证、创新与价值判断等知识权利,巩固人在司法工作中的主体地位。[31]

猜你喜欢
司法人工智能智慧
制定法解释中的司法自由裁量权
司法所悉心调解 垫付款有了着落
2019:人工智能
非正式司法的悖谬
人工智能与就业
数读人工智能
下一幕,人工智能!
论司法公开的困惑与消解
有智慧的羊
智慧派