人工智能引发的伦理问题及其规避对策

文/刘飞

一、引言

由于人工智能革新了人类的工作方式，使人类有更多时间从事更有价值的工作，同时，也为降低社会资源能耗、推动经济社会发展发挥着有益作用，人工智能已经成为世界各国重点投入科研力量的社会民生领域。但由于存在技术人员一定程度上在设计算法的过程中对智能化产品缺乏安全意识的现象，可能会导致场景应用隐私泄露，且基于人工智能技术所使用的算法引发的问题也日益受到关注，在智能产品及应用中暗藏的算法偏见或算法歧视给不少群体带来使用的担忧，可能进一步干扰人们的正常生产生活。因此，政府、科研院所、相关企业及商业机构都应给予人工智能伦理高度重视，推动人工智能伦理在法律法规所允许的标准规制范围内搭建必要的科技治理体系，更好实现科技适应人类发展的目标。

二、人工智能伦理发展的重要意义

人工智能日益加速渗透到社会发展的各个角落，推动着社会朝着更加便利的方向发展，不仅提高了一些行业的工作效率，而且有利于降低资源的消耗，践行绿色发展方式；但与此同时，人工智能伦理问题也随之而来，影响着人类的生产生活。人工智能产品及应用的开发设计主要依靠科研技术人员，并且算法中的数据都是人为选区的，算法作为人工智能技术的核心，无法保证算法最后所训练出来的模型不带有某些歧视或者偏见，甚至会违背人类意愿。

人工智能在制度标准方面的完善，不仅能在监管中发挥治理效能，而且能够推动商业技术开发机构在合法合规的范围内运行。科研院所及专家学者等应积极培养与人工智能相关的跨学科、跨专业的复合型人才，并需要有针对性地在人工智能伦理方面付诸实践指导，深入把握人工智能伦理界限，切实把人工智能伦理的相关标准规范制度做深做实，营造良好的人工智能伦理实践氛围，为人工智能有序健康发展打下坚实基础。人们应秉持理性精神使用智能相关产品及应用，在面对智能系统推荐的个性化定制服务时，务必加以辨别，若不加以辨别，对智能系统推荐的内容囫囵吞枣、照单全收，则可能会陷入算法编织的信息茧房，极有可能被智能系统所误导，进而可能带来不少伦理问题。

如今，人工智能加速扩展及深化在各领域各产业的应用，日益成为人类发展不可或缺的重要推动力。人工智能逐渐成为未来社会发展的重要新引擎，在社会生活领域，一些简单重复的工作可以由智能系统来替代完成；而在特殊领域，一些危险精密或执行危险任务可以由人工智能技术辅助完成，在提高效率的同时，也成为社会发展的关键力量。但人工智能深入应用场景的领域在不断扩大的过程中，人类与人工智能系统存在的矛盾冲突与日益严重的伦理问题，日渐成为人们关注的焦点。

三、人工智能引发伦理问题的主要表征

在人工智能的发展过程中，不断催生出许多产品及应用，其中在这一过程中就有引发出伦理问题的可能，这些问题主要包括数据隐私保护存在隐患、安全防范能力不足、算法规制意识较弱等伦理问题，为人工智能有序健康发展增加了许多不确定性因素。

（一）数据隐私保护存隐患

人工智能的发展，离不开数据这一关键要素，但也正是对数据资源的开发利用，给隐私问题带来不小的伦理问题。当今社会，互联网平台及各类移动端应用都需要注册后才能使用其相关功能，因此而收集到用户的个人数据不断增多，成为企业掌握用户个人消费及行为的重要参考。人工智能系统中所使用的数据挖掘分析技术可以通过海量数据挖掘分析出有价值的内容，人类的现实身份信息、互联网使用行为以及个人生活习惯轨迹极有可能被某些商业机构用来进行商业开发。人类通过使用网络便捷地获取想要知晓的信息，同时也在网络留下了使用痕迹，这些痕迹可能成为一些机构进行开发的支撑数据。一些人工智能产品及应用通过挖掘分析用户的喜好来推荐个性化定制服务，使用户无形之中接受了智能系统的推荐，且智能系统能够根据用户留下的体验反馈及使用数据进一步优化推荐方案，不断贴近用户所需，导致用户的个人隐私等信息不断被智能系统所吸纳。长此以往，用户的个人隐私数据信息就有可能暴露在网络中，使用户随时有遭受隐私泄露风险的可能性，甚至造成财产损失，给人类伦理有序健康发展带来较大的不良影响。

（二）安全防范能力不足

人工智能的突飞猛进为伦理方面带来不少的安全风险，其中以下三个部分较为突出：第一，人工智能所拥有的机器学习能力需要持续不断的数据作为支撑，机器学习在持续提高分析决策性能的同时，算法所需要挖掘的数据的内容会更深入，极有可能使保护的信息受到破坏，以及不法分子可能通过人工智能技术盗取用户在互联网平台上所保存的数据信息，即技术开发应用不加节制。第二，有些技术未被合理规制就被使用在智能系统中，极有可能使系统出现异常，并且算法中的“黑箱”操作无法被准确判断，导致算法决策后果定性困难，为安全带来更大的不确定性，即技术本身存在缺陷。第三，人工智能系统的安全防护得不到应有的保障，极有可能受到不法分子及黑客的网络攻击，发生窃取用户数据信息等问题，导致社会安全风险增加，即缺乏必要的监管体系机制。

（三）算法规制意识较弱

人工智能系统的开发过程离不开算法的支撑，此外，人工智能系统主要是运用算法模型与数据信息来不断学习人们已经产生的行为数据，从而做出相关的分析与预测。但是由科研技术人员选取的数据而得出的训练模型不一定能确切地体现出真实的现实情况，算法的设计者和开发者很可能将其主观偏见带入算法系统，因所选取的样本数据中存在一部分对抗样本的干扰，故人工智能系统体现出来的结果未能符合预期，会导致生成一部分错误决策。且在所使用的数据中极有可能存在容易被人忽视的价值取向以及当地风俗特征，一旦发生此类忽视价值取向等事件，很难在短时间内纠正，也无法从技术方面取得立竿见影的效果，想要辨别哪些数据带有歧视性是非常困难的。一旦在算法设计中携带某些歧视，就极有可能对社会公正发展产生不利影响。

四、人工智能引发的伦理问题规避对策

（一）加快完善人工智能伦理相关法律建设营造行业守法自律的良好环境

随着人工智能伦理所应用范围的不断扩大，其治理也离不开法律的约束。法律从人工智能产品设计、开发、应用等方面作了相关规定，可以有效引导人工智能伦理有序健康发展，并有力推动人工智能技术最大程度朝着合理规范的方向发展，对提升人工智能产品的安全性、可靠性有较好的促进作用。此外，应明确人工智能企业的法律主体责任与义务，最大程度践行人工智能产品的伦理准则。在企业层面，人工智能企业在开发各类智能化产品时要遵循相关制度规定；在政府及相关组织层面，要加强对智能化产品的审查及监督力度，使其符合相关标准。

（二）严把人工智能产品安全关加快推进专业检测机构建设

近年来，人工智能相关产品及应用诱导用户下载病毒软件甚至诈骗软件的现象屡有发生，导致用户个人隐私甚至财产受到损失，因此，人工智能的产品及应用的安全可靠稳定性能越来越受到人们的关注。为了加强人工智能产品及应用的安全性，应严格把关产品及应用的测试过程、测试结果，设立独立的监测监督机构，最大程度保证人工智能产品及应用的安全性良好，稳定性、可靠性持续增加。并应同时加强对人工智能相关科研人员的伦理方面的培训，强化科研技术人员的伦理意识，不断提升科研技术人员的道德素养教育水平，进一步明确人工智能在设计、研发等环节的伦理标准准则，把人工智能伦理始终规制在合理合法范围内。

（三）完善人工智能伦理监管与审查制度促进产业有序健康发展

作为当下的新兴科技产业，人工智能的发展日新月异，要推动人工智能各方面有序健康发展，应完善人工智能伦理监管体系及制度。政府及相关部门应制定应用于各行业各产业的应用规范与监管制度，加强对人工智能产品及应用的监管，在初步设计、实际研发、产品及应用的推广及落地等环节细化监管体系，全面严格筛查产品及应用伦理漏洞，最大限度保护消费者权益。组织科研院所专家学者、企业技术骨干等对市场上使用的人工智能产品及应用进行伦理审查，主要审查其是否符合相关规范制度等；对不符合相关要求的智能产品及应用应强制要求下架整改，并举一反三督促相关企业产品及应用加强自身伦理检查，切实推动人工智能相关企业及产业健康发展。

（四）加强科研人员伦理意识培养优化算法机制合理管控伦理风险

算法是智能化产品中的重要因素，因此应加强算法开发监管，尤其在算法设计、数据选取方面应格外注意。科研人员在进行算法设计、开发时，由于个人认知、周围环境影响等因素，极有可能在开发产品及应用时出现算法歧视、算法偏见等，导致出现人工智能伦理问题，进而引发许多不良社会伦理舆论。因此，应加强政府在人工智能伦理顶层设计与统筹规划中的作用，科学引导人工智能相关科研院所及企业在设计开发人工智能产品及应用时充分分析人工智能伦理方面可能带来的影响，加强企业在人工智能产品及应用中的算法监管，严格制定算法开发规则制度，加大人工智能产品及应用审查力度，强化科研人员及开发人员等的伦理意识，提升人工智能在符合伦理规范范围内的发展水平。

（五）强化国际协同创新合作携手推动人工智能伦理创造性发展

人工智能为推动全球发展持续注入强大动力，惠及世界各国人民。世界各国在人工智能研究方面应进一步加强跨学科、跨领域、跨地区合作，加大人工智能国际人才协同培养力度，完善人工智能项目创新协作体系，合理规制人工智能伦理开发与应用，增强各国在人工智能技术创新、产业落地应用、知识产权保护等方面的协作意识。各国政府及学术机构等应牵头举办与人工智能伦理相关的专业研讨会及论坛，提升各国国家政府相关部门及专家学者、行业从业者等关于人工智能伦理方面的重视程度，健全各国在人工智能方面互相参观、交流、合作机制，更大程度上保障各国在人工智能领域能够更好实现共享、共创、共治、共赢。

五、结束语

随着人工智能在不同应用场景中的深入应用，人工智能伦理问题也不断增多。在实践中切实有效地解决这些问题需要加快完善人工智能伦理相关法律建设，严把人工智能产品安全关，完善人工智能伦理监管与审查制度，加强科研人员伦理意识培养，强化国际协同创新合作，携手推动人工智能伦理创造性发展等，共同化解伦理风险，以服务于人民美好生活需要为宗旨，引导人工智能向上向善。