技术赋权与算法的价值选择*

吴 飞 段 竺 辰

人类文明的演化与新技术的涌现相伴而生，诚如布莱恩·阿瑟所说：“技术不管是过去还是现在依然是文化的；同时，文化不管是过去还是现在都牵涉技术。”①每向前迈进一步，技术、文明、认知都会发生相应的改变，打造出一种新的平衡，继而赋予人类在生存与发展层面更强大的力量。从结绳记事开始，人类已经学会将记忆和知识依靠媒介进行存储和输出。15世纪中期，印刷机的出现使人们开始体会到技术带来的信息爆炸，“图书馆”成为早期用来承载海量知识的介质。而现在，文本数量正在以前所未有的速度不断增长，大规模的知识生产使人类信息超载成为一种普遍的现象。数字基础建设使依托互联网的数据库逐步替代了图书馆的功能——即便图书馆依旧存在。据说约翰·弥尔顿读遍了他那个时代能够获取的所有书籍，但是今天，没有人能像弥尔顿当年那样了。即便是弥尔顿在世，他也不可能做到。②

长期以来，我们认为人类的思维与大脑是密不可分的，大脑对知识的存储是人类与生俱来的天赋。但随着技术的发展，当各种生物特质开始以数字化的方式脱离人体，被转移到电脑或别人身上时，人的大脑内思维这个过去我们认为始终与人这一物质不能分离的对象，也开始出现了脱离人体的可能。③我们逐渐认识到，在人类创造技术的同时，也潜移默化地被技术所同化，而这其中包含着人类引以为傲的智慧与文明。从人类主宰技术到人机共存，再到如今喧嚣尘上的技术统治人类说，人工智能和数据化对人类的威胁，无异于人类对于自然界其他生物所带来的恐吓。在这场文化生活巨大变革中，我们应该反思，到底如何定义人与技术的关系？如何把握技术演化的法则？如何处理智能时代的技术创新的边界？

一、觉醒：技术的自主性知识创造

2020年8月，埃隆·马斯克旗下的脑机接口公司Neuralink举行发布会，通过直播的方式展示脑机接口新设备。该设备用于感知或改善大脑活动，体积只有一枚硬币大小，通过手术植入头骨，就像安装在大脑上的Fitbit，充满电可用一整天。脑机接口的核心是在大脑和机器之间传输高保真的信息，短期目标致力于修复脑损伤和复杂的神经系统疾病，未来将无须药物调节大脑中的化学物质水平，直接控制情绪障碍，提高学习能力，甚至在特定情况下帮人做出选择。目前，Neuralink已经获得FDA批准在人脑进行实验。这是在人类发现脑电波近100年后，脑机交互迎来的又一次跨时代突破，人机互动，脑机相连，人类与AI共生不再是科幻电影中神秘莫测的情景，未来，它将真实地存在于我们的生活。④

借力外物以利于事，人类发明和更迭技术，旨在创造一个更美好的生存环境。在本能的生物到自觉的人这一转变过程中，工具意识伴随着主体性开始不断进化，技术与人共存并成为人们值得信赖的伙伴——从刀耕火种到几次工业革命，技术每迈进一步，人类在行为、认知与文化层面就会与之达成一个全新平衡。虽然长期以来，技术工具对人类某些能力缺陷的弥补使我们一度相信，技术只具备零阶意向性，它们只是对人类的辅助，并不能领会人类的意图。如机器人的英文robot原意就有“奴隶、奴仆”之意⑤。但“各种技术及其后续的环境一个紧接着一个很快发生，所以旧环境使人觉察到紧随其后的新环境。通过使我们意识到它的心理和社会后果，技术开始发挥艺术的作用”⑥。事实上，面对技术与文化的交织，人类的完成度和交融度远比我们想象得要好得多。从早期的石器时代、铁器时代、钢铁时代到口述文明、书写文明、印刷文明和电子文明，技术特征与精神文化不断紧密交织，相互融合，成为一个不可分割的整体。

“任何媒介(即人的任何延伸)对个人和社会的任何影响，都是由于新的尺度产生的；我们的任何一种延伸(或曰任何一种新的技术)，都要在我们的事务中引进一种新的尺度。”⑦新技术改变了我们所理解的“知识”和“真理”，改变了根植于文化之中的思维习惯，从而赋予我们认识世界的能力。⑧当下，人类正在经历以智能化为核心的第四次技术革命，这将会更全面地重构人的环境，进而影响“人类世”⑨的存有方式。计算机创造了人类与信息、工作、力量和自然之间的新型关系，从而定义了我们的时代。对这种关系的最佳描述是，计算机将人类重新定义为信息处理器，人类本质上则是被处理的信息。简而言之，计算机最基本的隐喻信息，是人类是机器，是会思考的机器，是确确实实除了机器什么也不是的机器。也正因如此，计算机成了技术垄断时期最典型、无可比拟、近乎完美的机器。它征服了人类在天性、生物学特征、情感、精神等方面的各种诉求，使人类体验的方方面面臣服，并表现出比人更善于“思考”⑩，甚至可以在人类一度引以为傲的知识生产领域做到以假乱真。2005年，麻省理工学院计算机科学与人工智能实验的三个学生曾经一起开发过一款自动生成论文的小程序SCIgen，该程序只需输入作者姓名，就可以自动生成一篇SCI级别的计算机论文，摘要、背景介绍、实验结果、图表、讨论以及结论一应俱全。程序生成的论文甚至被WMSCI会议(系统论、控制论与信息论多学科国际会议)接受并邀请作者出席会议做报告——大会评委甚至丝毫没有发现创作者是一台人工智能机器。加州大学圣克鲁兹分校的音乐教授戴维·柯普曾撰写了一个名为EMI的程序，该程序专门模仿巴赫的风格，并曾在短短一天时间内谱出5000首巴赫风格的赞美诗。在EMI成功后，柯普又继续写出了更复杂的新程序安妮。安妮以机器学习为基础，能随着外界新的音乐输入不断变化发展音乐风格——甚至柯普也不知道安妮接下来会谱写出什么作品。除了写音乐，安妮还对其他艺术形式很感兴趣，比如俳句。2011年，柯普出版的《激情之夜：人和机器所作的俳句两千首》中，混合了安妮和真正的诗人的文章，而这并没有什么读者看得出来。

在《技术垄断》一书中，尼尔·波兹曼将文明分为三类，即工具运用文明、技术统治文明和技术垄断文明。在这一语境下，技术成为文明中不可分割且居于核心位置的一部分，知识、文明、社会开始逐渐顺应技术的发展方向。事实上，人工智能对于人类思维模式的捕捉和效仿建立在其独有的算法基础上，理论上是以线性或因果的方式建立数学模型，复现人的思考路径与决策策略，在可控的边界条件下，智能技术依靠强大的计算能力勾画出人的思考图谱。它在理解我们认知里的知识、真理和人类思维习惯的同时，学习世间万物的法则——虽然它并不能理解得十分透彻。而人工智能在学习和适应了人类对外部刺激的反应后，其自主性很大程度上会基于对人类思维的解读继续发展，那么在它进行新一轮的知识创造和深度学习后，其能力和产出将不再是人类可以预料和掌握的。特别是以算法为代表的人工智能技术引入知识生产和信息传播领域之后，人与技术之间的关系再次被重塑，主奴边界开始逐渐模糊。法国技术哲学家雅克·埃吕尔明确表示，技术相对于人是自主的。“我们已经看到，在技术的自我增长方面，技术沿着它自己的路线前进，越来越独立于人。这意味着人越来越少地主动参与到技术创造中，技术创造通过先前要素的自动结合，成为一种宿命。人降低到了催化剂的层次。”

当下，人工智能技术正成就更多的可能性。2019年，新华社与搜狗联合推出全球首个站立AI合成虚拟主播，“AI合成主播”由“搜狗分身”技术打造，能够利用搜狗的AI能力，从图像表情、声音语言习惯、逻辑思维等层面对AI进行拟人化训练，可以实现逼真的语音合成效果和更加逼真的表情生成、自然肢体动作以及嘴唇动作预测等能力，然后克隆制造人类的AI分身，完成了站立并可以做出肢体动作的主播形象，进而帮助人类提高信息表达和传递的效率。当人与技术之间的关系被重新定义，在经历了人对机器的全面控制、人机共存的伦理问题后，我们将面临新的挑战：当机器人成为一个有意识的新的自我时，由现代理性哲学确定的“人”会不会反而成为机器的工具？人工智能又能否从本质上代替人进行思考与知识生产？

二、虚构与反思：人类主体性的探索

人之所以为人，智人之所以统治世界，是因为只有智人才能编织出互为主体的意义之网：其中的法律、约束力、实体和地点都只能存在于他们的共同想象之中。与其他灵长类生物相比，人类最大的优势在于能够创造出互为主体的实体，积累环境与现实生活中经验，从而生产和创造需要去改造和认识自然的知识。大约7万年前，认知革命让智人开始谈论只存在于人类想象之中的事情。此后，这些虚构的故事开始成为连接人类社会的精神支柱，并随着时间的流逝愈发强大，宛如一只看不见的手，在主宰着客观世界的同时，也影响着人类对主体性的追问与探索。千百年前，宗教引导人类将美好憧憬寄托于天上人间的传说，认为人类生存于地上，而神明遥居于天上。权威来自神祇，知识源自天神，杀伐决断源于自然之手，应该推崇的是自然的能力和神的话语，而非人的内心。两河流域文明时期，神庙的建筑、祭祀的仪式、节庆的典礼和占卜都是历代君王在统治时期重要的内容之一，倾注着对现世的祈福，请求神明的庇佑。虽然其中很多故事的影响力有限，但仅仅是这种带着浓郁神话色彩的内容，就已经使族群和社会拥有了创造者渴望达到的秩序与宁静，使该领域内的智人遵守着约定俗成的规律。

没有生物能够与人匹敌，并不是因为他们没有心灵，而是因为它们缺乏必要的想象力——这当然不意味着动物不会思考，猎豹在捕捉羚羊之前，即便没有发现羚羊的踪迹，也会想象到羚羊的样子，然后迅速攻击。但是，动物不会想象不存在的东西，也不会基于对自然现象和社会现象表现出困惑和惊奇，迫切地想要解释其中的奥秘。智者普罗泰戈拉提出“人是万物的尺度，是判断一切的标准”，思想和智慧是人之为人的根本所在。苏格拉底、柏拉图、赫拉克利特、巴门尼德、毕达哥拉斯都思考着人的存在问题。亚里士多德将研究的重点置于寻求本体何以是本体这一问题上，即个体是怎样成为自己的。亚里士多德认为，哲学研究的对象是“实是之所以是，以及实是由于本性所应有的秉赋”。这里的“实是”(存在)，他认为是“是”，是“一个确定的事物”；“秉赋”(本性)，他认为“不仅是那原始物，亦需是那‘通式’或‘怎是’，那是创生过程的终极目的”，是“自然万物的变动渊源”。在漫长的探索中，人类的主体意味在觉醒，上帝不再能够主宰众生，人类与其他生物也开始分道扬镳。

人类最伟大的发现绝大部分源于对自我的反思。这也是人的主体性问题所包含的两个向度，即主体性的外向度和主体性的内向度。主体性的外向度是指主体对外处理与客观世界的关系，强调人是自然界的主人，即人对自然界的主体性。主体性的内向度是指人进一步把自身作为认识和改造的客体，内在地指向自身，是一个反身建构自己的主体意识、提高自身主体能力的过程，是一个改造主观世界的过程。伽利略通过比萨斜塔上“两个小球同时落地”的实验证明了不同质量的物体下落速度相同。但早在实验进行之前，伽利略已经知道他在脑中演练过的这一实验将会产生怎样的结果。伽利略对物理定律的理解指引着他的思考，他能够准确地推断出，无论质量大小，这些物体都会以相同的速度下落。虽然我们的想象力不及科学家与哲学家一般深刻而独特，但在生活中，每个人都或多或少的以自己的方式将想象力融入生活中，比如晚饭吃什么？色香味如何？“我思故我在”，笛卡尔用普遍怀疑的方式检验知识的真实性，他认为人类乃能思者，即以智识证存在，源于思考能力非血肉之躯。他从中得出的结论是，思维属于精神范畴，与肉体所属的物质范畴也有着天壤之别。但两者间必有交互作用。毕竟，思维也只是通过躯体感知这个世界的。我们思考所给予的信息是由目、耳、鼻和其他感官一同捕获的。而且，感官与思维之间的互动也是双向的：思维做出决定，告知感官如何行动。

在《纯粹理性批判》中，康德提出先验论，“凡一切知识不与对象相关，而唯与吾人认知对象之方法相关，且此种认知方法又限于其先天的可能性，我名此种知识为先验的。此一类概念之体系，可以名为先验哲学”。在这里，他强调的不再是传统思维上的主体与客体之间的相互联系，而是将目光聚焦于主体自身的认知方式上。同时，他将人类知识分为先天知识和经验知识两部分，先天的知识脱离一切经验而独立存在，必然性和严格的普遍性是其主要特征。他突出人在知识生产与获得这一过程中的不可替代性，将知识划分为感性与悟性两个主干，其中，感性层面的知识由人授予，而悟性层面则需要人通过理性的思维获得。从根本上说，先验哲学是一种主体性哲学，它重视人自身的理性与感性，突出人类主体性在认识和改造世界中的先导地位。

20世纪50年代，认知科学开始成为一门学科，人类开始关注思考是如何实现的？究竟是什么使人类对数字敏感，用数学去计算和理解死亡率，让行为符合道德却有时很自私，或让我们做出哪怕只是用刀叉吃东西这种最简单的行为？20世纪80年代，兰道尔决定用计算机内存的相同标准来衡量人类的记忆容量，他计算了人们究竟能掌握多少信息，即人脑的知识库到底有多大。兰道尔假设人们在70年的寿命中习得知识的速度始终恒定，他尝试过的每一种测量方法大都指向同一个答案：1GB。这与现在动辄几百G的智能手机相比几乎可以忽略不计，这意味着人类的记忆能力可能得让位于机器了。而字节跳动和百度人工智能算法的发展，又似乎意味着人的信息分类和部分计算的能力又得让位于机器了。但古代先贤们坚信的人的思维能力至少目前还掌握在人的手中，“人是独一无二的生物”这一命题似乎并没有被推翻。而思维不仅存储于大脑中，还在肉体和情绪中。这意味着，人在思考的时刻，并不是在头脑中对已知内容搜索和使用，而是借助与思考对象的互动进行层层推进。大脑、身体、情绪在外部环境的刺激下，一次次深入思考，共同做出决策并解决问题。而上述这些行为的能力都是人类独有的，无论是机器还是动物，目前都无法做到。

三、技术也会有思想？

刘易斯·芒福德指出，电报及其后的一系列发明，都在克服空间距离的障碍并且缩小表达与反应之间的时间差。首先是电报，然后是电话，接着是无线电报、无线电话，最后是电视。结果，借助机械装置，通信又回到最初的人与人之间的瞬时反应了。现在，即时联系的可能性不再受到时间和空间的限制，而仅仅取决于机械设备的完善、设备的容量以及个人当前的精力。这种灵肉分离的模式为人类主体性的拓展提供了更多可能，使人类在实现数字永生的同时，得以在现实和虚拟的世界中自由地穿梭。同时，随着人类的自我意识逐渐融入技术，技术表现出与人类前所未有的亲密性和延展性，这意味着“肉身化主体”不再等同于“身体主体”。正如麦克卢汉所提出的“媒介是人的延伸”，主体意识不囿于人的躯体，空间壁垒也逐渐被打破，任何可以储存意识的物体皆能成为受人类控制的载体，远距离主体间的沟通与碰撞得以成为可能。

但人创造了技术，而技术却有自主性，因为从人类之手放出的技术物，有了自己的发展逻辑，具有脱离人类控制与驯服的内驱力。“人们在将自然逻辑输入机器的同时，也把技术逻辑带到了生命之中。”今天，人工智能参与知识生产的深度、广度和强度已经超越了以往任何一个时期，技术的工具性已经渗透到人类文化生活的方方面面，理论成果、科学技术和伦理纲常三者处于一个既相互矛盾又相伴而生的状态下。技术和人文之间的壁垒开始被打破，现代科技与传统伦理之间的关系在不断重塑，社会结构及人机关系正在逐渐重组。埃隆·马斯克、史蒂芬·霍金和比尔·盖茨都曾发出警告：技术可能会变得更复杂，以至于能够追寻它们自己的目标而不再唯人类命令是从。牛津大学哲学家尼克·博斯特罗姆不无担忧地说，技术的进步如此神速，以至我们对如大兵压境般的超级人工智能望而生畏。

显然，这种压迫感不仅源自人工智能的无处不在，更是人工智能开始拥有主导性和自主性，并在自我意识逐渐觉醒的同时，反过来对作为创造者和使用者的人灌输某种标准化的思想，使人类开始抛弃固有的思维，并接受人工智能对理性层面潜移默化的重塑。随着科研人员对人类认知和决策机制的了解，大数据算法的准确性得以提升，而这同时意味着与人工智能相比，人类凭借主观感受做出决策的可靠性变得值得商榷。经验让我们把越来越多的问题交给算法来处理，最后也就逐渐失去自己思考与决定的能力——换句话说，人类越了解自己，对算法的依赖可能就会越强烈。算法现在正看着你，看着你去了哪里、买了什么、遇见了谁。再过不久，算法就会监视你走的每一步、每一次呼吸、每一次心跳。尤瓦尔·赫拉利指出：“凭借大数据和机器学习，算法对你的了解只会越来越深。而等到这些算法比你更了解你自己，就能控制你、操纵你，而且你无力抵抗。”数据主义指出，同样的数学定律同时适用于生化算法及电子算法，于是让两者合而为一，打破了动物和机器之间的隔阂，并期待电子算法终有一天能够解开甚至超越生化算法。

在不到20年的时间里，人类虽然依旧在知识生产的终极层面把握着自主权，但在基础层面，我们早已经将搜索重要知识、真切信息的权利从自主寻找到赋予谷歌和百度，并选择无条件地相信它们。而当我们越来越依赖智能搜索引擎时，人类自主搜索信息和对知识深入思考的能力将逐渐下降。技术使人在现实和思考中松弛，同时，随着时间的推移，算法变得更聪明，而人类却在认知层面逐渐趋向垂直化与专业化，因此，人工智能取代人类则变得越来越容易。如果我们不能在人工智能与算法面前进退有度，那么人类将会在知识生产领域丧失一定程度的自由，甚至被驯化：平台可以根据你的行为算出你的喜好，直接把你最喜欢看的内容推送给你，人变得越来越懒，甚至都已经懒得选择和辨别了，这就是“推送”改变世界。谷歌内部道德设计师特里斯坦·哈里斯曾指出，技术超越人类的第一个阶段点是超越弱点，其结果就是上瘾。上瘾会激化愤怒。激化虚荣，压制人类原欲，挫伤天性。技术超越人类的第二个点是超越人类的智慧。算法喂养的世界里容易出现种种激化的矛盾，每个人的意见越来越不相容，因为每个人都从不同的推送里了解信息，而这些信息、知识又因为推送不同而不同。

我们必须承认，在构建社会与文明的和谐关系中，任何一项技术的革新都发挥了重要作用。人工智能以一种极为强大的机器学习能力，将知识生产置于一种神秘的逻辑之下，这使知识变得看似有迹可循实则庞大浩瀚。智力创作既不是人类所独享的内容，也再难明晰地指出文化的创作过程。同时，如所有的技术一般，由于缺乏对人类道德属性的学习，人工智能自身不具备价值观念属性和内容过滤机制，无法对善恶是非做出区分，因此也不能预测事情发生后所带来的一系列影响，于是，人工智能创作中的伦理问题变得尤为突出。正如塞尔所言：“技术本身不能够构成心灵，技术的形式也无法确保正确的心智内容的出现。”2017年12月，一个名为“DeepFakes”的Reddit社交网站用户将斯嘉丽·约翰逊等女演员的面孔移花接木到色情表演者身上，至此拉开了深度伪造的序幕。这种知识生产领域的深度伪造让原本就鱼龙混杂的新闻行业雪上加霜。美国情报界发布的《2019年全球威胁评估》指出，“深度伪造”技术已经对美国国家安全构成威胁，敌对势力和战略竞争对手很有可能企图利用“深度伪造”技术或类似的机器学习技术，创造出高度可信但却完全虚假的图片、音频和视频资料，以加强针对美国及其盟友和合作伙伴的影响渗透运动。。这不仅仅是美国所面临的危机，当情感因素和个人信念在当下已经对真相产生了遮蔽，技术对影像的更改及核实的复杂性，更会极大削弱公众对于影音真实性的信任和对真相本身的追求，从而降低整个行业乃至政府的社会公信力。

或许有人会说，我们只需要纯粹地享受技术，而无须纠结是否被技术裹挟的深层次问题。但实际上，如果人类永远都认为自己拥有独特的能力，无意识的算法永远无法赶上，这只能说是一厢情愿。我们将视野放大到整个人类生命，就会发现每种动物(包括智人)都是各种有机算法的结合，这是数百万年间自然选择的结果；算法的运作不受组成物质的影响。就好比算盘的算珠无论是木质、铁质还是塑料质，两个珠子加上两个珠子还是等于四个珠子；因此，没有理由相信非有机算法永远无法复制或超越有机算法能做的事。只要运算结果有效，算法是以碳为载体还是硅为载体并无差别。

四、共生：智能尚未成为自我

大数据使我们对研究的思考方式发生了重大转变，并在认识论和伦理学层面带来了深刻的变化。它重塑了知识构成、研究过程、处理信息的方式、现实的性质及分类等关键问题。现代科学改变了游戏规则，但并不是“以事实替代神话”那么简单。神话依旧主宰人类，科学只是让神话更为强大，让它比以往更加能完全控制客观现实与主观现实。在计算机和生物工程的双重推动下，虚构与现实世界的界限变得更加模糊。在1985年的电影《银翼杀手》中，2020年机器人能交流、会思考、有感情，完全可以达到以假乱真的地步。对他们的辨别甚至需要极其有经验的测试者通过一系列特定精密仪器的辅助才能完成。虽然在当下，人工智能技术的发展尚未达到雷德利·斯科特所想象的境地，但人工智能对人和技术的数字化重组，使技术本体与人不再是两个毫不相关的个体。同时，人的特征开始逐渐尝试脱离人体本身而单独存在。2019年4月，加州大学旧金山分校的研究团队基于脑机接口技术设计了一种新型的神经解码器，这种解码器能够通过提取大脑皮层活动对发声器官的运动情况来实现语音的合成。

机器体系所完成的最深远意义的征服并不在某台设备本身，因为一种设备总是会很快过时；也不在于它生产的产品——因为产品总是很快被消费掉了。最具有深远意义的影响在于通过机器体系所创造的、机器体系本身所体现的全新的生活方式。如今，人类正在经历由生物基因到理性结构重塑的剧烈变化，同时，人类的文明与社会将面临一场全新的变革。不得不承认，在构建社会与文明的和谐关系中，人工智能所拥有的强大力量在某些层面给人类带来了焦虑与恐慌，这种来自内心身处的恐惧在我们毫无意识的情况下表现在生活的种种方面，如洪水一般将人类吞没：我们呼唤传统，关注环境，回归家庭，强调隐私。而这些反应的背后，折射出的是我们担忧技术将人类与自然分离，害怕技术不在我们掌控之下，害怕自己曾经的什么虚无缥缈的行为在某种程度上获得了它的生命，然后它会在某种程度上反过来控制我们，害怕技术作为一种有生命的东西将会给我们带来死亡。不是“不存在”这个意义上的死亡，而是更糟糕的死亡，一种丧失意识的死亡，一种意志的死亡。但产生一系列问题的本源，不过是掌握了现在技术传播生产力的人们，跟过去既有的掌握制度传播生产力的人们之间，在一个特定的发展阶段上的一种矛盾与对冲，也可以说是一种博弈。。而这期间存在的问题不在于我们是否应该拥有或彻底地驯化技术，而在于我们应该接受和引导怎样的技术——是机械的、无意识的，还是有温度的、有智慧的技术。

技术是把双刃剑，任何一种技术都不是非黑即白、善恶分明，而是利弊共存。当下，数字革命使我们担忧智能与意识相关联，恐慌技术终将反扑人类，如同美剧《西部世界》第一季结尾，机器人开启了“人类清除计划”。人类通过高阶的智能算法研究出来的高级玩具，最终对人类举起屠刀。但是，危险之所在就是孕育救赎力量的地方。从人工智能的主体结构上看，人机交往的本质实则是人与机器的相互信任，信息的接受、转化、再生产实则是基于人的思维与伦理道德，其本质依旧是服务于人类中心主义，机器的深度学习能力尚未脱离人类的操控。正如尼科莱利斯所认为的，我们的大脑并不是数字的，它有类似数字的部分，也有模拟的部分，后者非常强大。所以当你将数字和模拟的部分组合起来时，得到的是比这个手机更强大的事物。电脑无法复制这个模拟的部分，它只能模拟人脑非常小的一部分。所以不管电脑性能将来变得有多强，都无法复制人脑中模拟的部分。因此，不管人工智能的表现形式多么以假乱真，哪怕是像初音未来那样拥有大量粉丝的虚拟偶像，或是像沙特第一位公民机器人索菲亚，都依旧只是一具“没得感情的工作机器”。在未来相当长的时间里，人工智能的高度拟人化都只是模仿，在保证人类崇高的主体地位的前提下，试图深入至人文主义和人文关怀中，理解人的情感与生存意义。

此外，人类精神世界的一个显著特征就是“内心演练”，这通常需要充分考虑各种替代选择，评估各种可能的后果，并在做出一个选择后，在内心反复演练，以便找出最佳的执行方案。虽然这一点和人工智能做出选择判断的方式很接近，但不同的是，人类拥有将心比心和感同身受的能力：你的头撞伤了，你因为考试成绩不理想而哭泣，你因为写不出文章而焦虑，这一切我都可以感同身受——而至少现在，人工智能无法做到。这也就是为什么人工智能也能在饱读名家诗篇后写诗，也可以在熟知所有语法和单词后进行翻译，却很难做到意境美和信达雅。哪怕是不涉及情感的科学类文章撰写，我们在仔细阅读后就会发现，文章只不过是专业术语和漂亮图标的堆砌，并没有什么实质性的内容。

人工智能对一切事物的认知，来自于人对该物体细致入微的描述，是在问题导向下基于既定的逻辑、程序与海量大数据共同作用的结果，在思维和理性层面对人类的心智与逻辑进行模仿与深度学习，而非生活经验。因此，一旦可识别的事物与预先的认知有出入，这种“知其然不知其所以然”的理解使人工智能很容易被欺骗。2011年2月14日，在美国电视知识竞赛节目《危险边缘》中，由IBM公司研发的Watson人机对话系统击败两位前冠军，取得最终的胜利。IBM的工作表明，在人机对话中，如果提的问题是明确的，答案是唯一的，领域是有限的——在符合这些条件的情况下，机器可以达到甚至超过人类的水平。但假如提出的问题是不限定领域的常识，那么人工智能就会束手无策。假设问一个小朋友今天中午吃了什么，小朋友就会声情并茂地告诉你中午吃了什么，好不好吃，吃了多少。但我们用这个问题去问计算机，它就无法作答。同样，如果拿出一张清晰的小狗图片，人和机器都能迅速识别，但只要在图片上加上一些噪点，人工智能就可能会做出错误的判断。

凯文·凯利认为，技术元素乃是信息与人类心智两种增长率交叉作用的结果。人工智能归根结底是基于人类智力设计出来的，力求解决非人力所能及的问题，这种推理和设想的本质是在设定好的领域中不断积累更迭，缺乏创新与变化。人的主体地位来自人的社会属性，而人工智能在可以预见的将来是无法成为“社会关系的总和”——这就意味着，人类的主体性至今还掌握在人类自己手中。但值得警惕的是，如果我们过分强调人工智能的发展而忽视自我意识的提升，人类将陷入自然愚蠢。传统上，人生主要分为两大时期：学习期，再加上之后的工作期。但这种传统模式很快就会彻底过时，想要不被淘汰只有一条路：一辈子不断学习，不断打造全新的自己。只不过，许多人甚至绝大多数人，大概都做不到这一点。这意味着人类还有时间做出选择，还要保持不断地学习和思考，尽管人类可能正在一步步一点点地放弃这样的主体性。

五、结语

约翰·杜海姆·彼得斯提到，当人类对火形成依赖时，也就对火所依赖的东西形成了依赖。火在给予使用者巨大权力的同时，也要求后者承担带来的副作用。非人类资源被整合到人类社会，能提高人类的能力，但也增加了人类的脆弱性。技术已经成为人们认识世界、感知世界的本质性要素，数据与算法使得人类的知识生产方式和生活状态发生了改变，人与技术之间的关系在知识生产领域面临重新洗牌的局面，一个新的世界正在出现。

从知识创新的角度看，技术对人类的思考和创新是有极大的推动力的，因为诸如计数、绘图、制图和遥测读数等技术手段的进步，有利于提升人们学术思考的严谨性和客观性。人工智能分析确实会为人类在知识生产层面提供一些见解，但它的范围具有局限性，并仅能依据现有的理论和相关领域的信息产生特定种类的知识。当然，人们也会担心算法背后的价值观和价值偏向问题，提出技术向善的命题。但数据的阐释权，至少到目前为止还不是算法与技术能够很好地完成的，所谓算法的价值，严格意义上说还是人在编写算法程序时所赋予的价值，算法的偏向严格意义上说是人的偏向。媒介作为我们身体和神经系统的延伸，构成了一个生物化学性的、相互作用的世界；因为新的延伸在不断发生，这个世界必然要永不停息地谋求新的平衡。从表面上看，是算法在收集我们的信息，是机器在处理我们的信息，并在看着我们的一举一动，事实上，算法背后都站着一个个“老大哥”，算法背后都是权力(商业的或者政治的权力)在支配。

事实上，我们并不排斥人工智能，甚至潜意识里的反应是人工智能会使生活变得更加美好。毕竟我们不得不承认，相较于人工智能，我们无论从体力、速度还是效率上都无法占据上风。罗伯特·皮尔西格说：“佛陀与上帝居住在数字计算机的电路里或周期传动的齿轮中与居住在山巅或莲心中同样舒服。”技术与文明实际上是一个整体，是人类自主选择和发展所得到的结果，它只是人类文化中的元素，本身不提出任何要求，也不能保证做什么。因此，向恶抑或向善，承诺做到什么，都是人类的精神任务。相比沉湎于人工智能所构建的舒适的网，人类更多的是要强调自身作为独立个体的自主性、创造性和价值观，关注理性、人性与自然的结合。要想更好地掌握人工智能算法，谋划一个可以预测的人机共生的美好的未来，人类现在能做的，也许就是不停地使用自己的心智和情感，培养自己的分析和反思的能力。

注释

①潘霁、李凌燕：《媒介研究、技术创新与知识生产：来自媒体考古视野的洞见——与齐林斯基教授的对话》，《国际新闻界》2020年第7期。②[美]约翰·杜海姆·彼得斯：《奇云：媒介即存有》，邓建国译，复旦大学出版社，2021年，第44、179页。③彭兰：《赛博格化：智能时代的人与人际关系》，中国人民大学出版社，2020年，第357页。④《马斯克震撼发布脑机接口 Neuralink无损植入猪脑 下一步植入人脑》，新浪网，http://auto.sina.com.cn/newcar/zz/2020-08-29/detail-iivhvpwy3790714.shtml?oaid=00111，2020年8月29日。⑤1920年，捷克作家卡雷尔·卡佩克发表了科幻剧本《罗萨姆的万能机器人》，“机器人”一词开始进入人们的视野。英文机器人“robot”一词亦源于此。剧本的主角是一群叫作“Robot”的自动化机器，它们长得跟人一样，但是没有人类的感情，只会做事。“Robot”取自捷克语Robota，在捷克语中，Robota是奴隶的意思。⑥⑦[加]马歇尔·麦克卢汉：《理解媒介：论人的延伸》，何道宽译，译林出版社，2019年，第13、18、231页。⑧⑩[美]尼尔·波兹曼：《技术垄断：文明向技术投降》，蔡金栋、梁薇译，机械工业出版社，2013年，第109、101、19页。⑨“人类世”是诺贝尔化学奖得主保罗·克鲁岑提出的一个与更新世、全新世并列的地质学新纪元。他认为，人类已不再处于全新世了,已经到了“人类世”(The Anthropocene)的新阶段。宋欣仪：《拯救期末！大四留学生发“论文机器人”，替你读文献给方向调格式，已被ACL2019收录》，https://www.jianshu.com/p/223eb519c89d，2019年6月2日。[以色列]尤瓦尔·赫拉利：《未来简史：从智人到神人》，林俊宏，中信出版社，2017年，第292、132、137、333、160、249页。李建中：《人工智能：不确定的自主性知识创造》，《自然辩证法研究》2019年第1期。吴飞：《新闻传播研究的未来面向：人的主体性与技术的自主性》，《社会科学战线》2017年第1期。《搜狐联合新华社推出全球首个站立AI合成虚拟主播》，搜狐网，https://www.sohu.com/a/295669686_549351，2019年2月19日。任建涛：《人工智能与公共拟制》，《当代美国评论》2019年第1期。解登禄：《从唯物主义到唯心主义——评亚里士多德哲学思想的演变》，《内蒙古师范大学学报》1990年第1期。[美]史蒂文·斯洛曼、菲利普·费恩巴赫：《知识的错觉：为什么我们从未独立思考》，祝常悦译，中信出版集团，2018年，第56、81、XII、10、130页。[德]康德：《纯粹理性批判》，蓝公武译，商务印书馆，1960年，第47页。庞学铨、邓飞虎：《先验论的真实意义》，《浙江学刊》2003年第2期。[美]刘易斯·芒福德：《技术与文明》，陈允明、王可仁、李华山译，中国工业出版社，2009年，第213页。韩敏、赵海明：《智能时代身体主体性的颠覆与重构——兼论人类与人工智能的主体间性》，《西南民族大学学报》(人文社会科学版)2020年第5期。[美]凯文·凯利：《失控——全人类的最终命运和结局》，张行舟等译，电子工业出版社，2016年，第5页。[以色列]尤瓦尔·赫拉利：《今日简史：人类命运大议题》，林俊宏译，中信出版集团，2018年，第260、286—287页。《对抗硅谷：为了“楚门的世界”里的27亿人》，新浪网，https://tech.sina.com.cn/csj/2020-09-29/doc-iivhuipp7076993.shtml，2020年9月29日。喻国明、杨雅：《5G时代：未来传播中“人—机”关系的模式重构》，《新闻与传播评论》2020年第1期。2017年12月，一个名为“DeepFakes”的用户在Reddit网站发布“假视频”，将成人色情电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸，画面以假乱真。这为人工智能换脸技术吸引来了一大波流量，“DeepFake”深度伪造，也逐渐成为这一技术的代称，同名算法也在Github开源，这是一个面向开源及私有软件项目的托管平台。陈昌凤、徐芳依：《智能时代的“深度伪造”信息及其治理方式》，《新闻与写作》2020年第4期。Rob Kitchin. Big Data, New Epistemologies and Paradigm Shift.BigData&Society, 2014, Vol.1, No.1, pp.1-12.Gopala K. Anumanchipalli, Josh Chartier, Edward F. Chang. Speech Synthesis from Neural Decoding of Spoken Sentences.Nature, 2019, Vol.568, No.7753, pp.493-498.王敏芝：《算法时代传播主体性的虚置与复归》，《苏州大学学报》(哲学社会科学版)2021年第2期。[美]布莱德·阿瑟：《技术的本质》，曹东溟、王健译，浙江人民出版社，2018年，第239—240、240页。喻国明：《传播学科的迭代：对数据与算法的纳入与包容》，《新闻与传播评论》2019年第5期。《专访脑机接口研究先驱米格尔·尼科莱利斯：马斯克的观点我不同意(顺祝大家GAIR参会愉快)》，搜狐网，https://www.sohu.com/a/154972109_114877，2017年7月6日。[英]罗宾·邓巴：《人类的算法》，胡正飞译，四川人民出版社，2019年，第75—76页。张钹：《人工智能进入后深度学习时代》，《智能科学与技术学报》2019年第1期。