ChatGPT的意识形态风险审视

温晓年

(电子科技大学 马克思主义学院,四川 成都 611731;广东医科大学 生物医学工程学院,广东 东莞 523808)

ChatGPT是美国人工智能研究实验室OpenAI于2022年11月30日推出的人工智能聊天机器人。“ChatGPT本质上是一个大型语言模型(LLM),采用‘从人类反馈中强化学习’的训练方式,对人类的文字语言和自然语言进行理解和处理,具有较强的内容生成能力。”[1]截至2023年1月末,ChatGPT全球月活用户数超过1亿,是人类历史上增长最快的消费者应用软件。ChatGPT是人工智能发展划时代的标志,它具有强大的对话聊天功能、信息检索功能、知识服务功能以及AI创作功能,对人类生产生活将造成巨大的影响。然而ChatGPT并不是其标榜的“中立的”“不会倾向于任何政治立场或观点”,ChatGPT存在明显的政治倾向和政治偏见,具有很强的意识形态属性和意识形态风险,对社会主义主流意识形态安全造成极大的风险。党的二十大报告指出“意识形态工作是为国家立心、为民族立魂的工作”[2]43,习近平总书记也在多种场合指出“意识形态工作是党的一项极端重要的工作”[3]21。审视ChatGPT的意识形态风险,研究和分析ChatGPT何以具有意识形态风险,有什么样的意识形态风险,怎样防范其意识形态风险这一智能化时代重要的理论和实践问题具有重大的现实价值。

一、ChatGPT意识形态风险的生成逻辑

人工智能是当今引领时代发展的标志性科技成果,是推动人类进入智能化时代的决定性力量。ChatGPT划时代的出现引起了学术界敏锐的兴趣,对ChatGPT的研究形成了大量的学术成果,目前学术界对ChatGPT的研究主要集中于ChatGPT的运行机制、关键技术[4]以及对人类的各种影响,包括科技和伦理的风险[5],对教育的冲击[6]、法律的风险[7]和技术性失业[8]等,很少有学者关注ChatGPT的意识形态风险问题。ChatGPT的强大功能、西式资本所有权属性和本身的技术构成使其具有很强的意识形态属性和意识形态风险,对社会主义主流意识形态安全造成极大的风险,对ChatGPT的意识形态风险问题研究十分必要和急迫。

(一)理论逻辑:ChatGPT的强大功能使其具有一种隐形的意识形态功能

马克思在谈到工业革命时说:“资产阶级在它的不到一百年的阶级统治中所创造的生产力,比过去一切世代创造的全部生产力还要多,还要大。”[9]36工业革命所爆发出惊人的生产力很重要的原因是科学技术的发展,机器代替了人类劳动,机器带来的强大效能使生产效率指数级增长。科学技术的发展不仅促进生产力的发展,推动经济社会的进步,而且对人的思维观念、价值取向、伦理道德产生重要的影响。当科学技术对生产力的发展起到越来越重要的支配性作用,人们的生产生活越来越离不开像ChatGPT类生成式人工智能的时候,科学技术就不仅承载着生产力功能,而且还承载着意识形态功能[10]。“科学技术即是意识形态”是德国法兰克福学派意识形态批判理论的重要组成部分,法兰克福学派的早期代表人物霍克海默提出“不仅形而上学,而且还有它所批判的科学,皆为意识形态的东西;后者之所以也复如是,是因为它保留着一种阻碍它发现社会危机真正原因的形式”[11]5。霍克海默认为科学技术发展使工具理性进一步膨胀,人们陶醉于资本主义所创造的物质财富,妨碍人们去认识现实社会的不合理性和非人性,从而丧失对现实社会的批判性,科学像哲学的、道德的、宗教的活动一样具有了意识形态的功能[12]。马尔库塞认为技术并不是中立的,它已经渗透到人类生活的各个方面,发达资本主义社会以技术合理性的方式来征服与控制社会成员,技术成了统治人的新模式[13]。“技术的合理性展示出它的政治特性,这使它变成了更有效统治的得力工具,并创造出一个真正的极权主义领域。”[14]17法兰克福学派第二代的中坚人物哈贝马斯对科学技术与意识形态关系做了专门论述,他认为科学技术在晚期资本主义社会不仅成为“第一位的生产力”,而且也成了统治的合法性基础。资本主义依靠科技进步创造了高度丰富的社会物质财富从而获得了人们的忠诚和拥护,科学技术成为人们新的偶像和神话,与传统意识形态相比它更加令人难以抗拒,作为新的合法性形式,科学技术已经丧失了意识形态的旧形态,是一种隐蔽的新型意识形态,它以“非政治化”的手段来掩盖实际问题的同时,不仅为统治作辩护,而且压制人们的解放需求,损害人类要求解放的利益本身[15]4。科学技术在本质上不属于意识形态范畴,但科学技术超越其生产力功能,对人们的日常生活、政治文化活动日益起统摄作用时,科学技术就承载着隐形的意识形态功能。

ChatGPT的强大功能不仅在于其是人类肢体的延伸,更为关键的是它具有强大的自主学习能力,能根据上下文语境理解人的思维,ChatGPT能写诗、能写代码、能写论文,它还通过了美国执业医师资格考试、谷歌程序员面试、明尼苏达大学法学院期末考试等。“ChatGPT的横空出世有望形成‘思维革命’,通过替代人类进行创作、创意、解答、咨询、翻译和客服等改变人类思考和处理问题的方式方法,由此重塑各行业生态乃至整个世界。”[16]ChatGPT成为人类历史上增长最快的消费者应用软件就足以说明其功能的强大和革命性意义。随着ChatGPT的迭代更新,更加高度智能化的ChatGPT将会日益渗透到人们的生产生活。ChatGPT的强大功能将使人类对其的依赖性进一步加深,成为人们日常生活中不可或缺的一部分,人们知识信息的获取、各类复杂性工作完全可以单向度地在ChatGPT中得到解决,人们在ChatGPT上获取的答案有时可以比人类自主的思考更加完美,甚至人们的情感、心理的问题,ChatGPT也可以提供情绪价值。ChatGPT的强大功能将造成技术利维坦的风险,使其本身成为人们新的崇拜图腾,成为人们思维观念和价值取向塑造的单向度来源。ChatGPT的强大功能会使其异化成为影响人、操纵人、控制人的一种无形力量,使它不仅承载着生产力功能,而且还承载着一种隐而不显的意识形态功能。

(二)资本逻辑:ChatGPT的西式资本所有权属性决定了其本质上是资本主义维持自身体系及资本增殖的工具

马克思认为科技的发展拓展了人类的实践范围、为人类自由时间提供了可能,同时也为共产主义替代资本主义创造物质条件,但他同时认为科技的应用也带来了悲惨的后果,直观表现为工人完全成为机器的附庸、工人生活水平下降、大量使用童工以及自然环境的破坏等。他认为造成科技作用发生异化的原因并不是科技本身,而在于科技的资本主义应用。科技的资本主义应用使得科技显示出资本的特性,科技成为资本的帮凶加深了人的异化。

ChatGPT类生成式人工智能的开发不但需要庞大的数据资源、长期的技术积累,而且需要巨大的资金消耗。以ChatGPT的算力消耗为例,“训练1 750亿参数大型语言模型的GPT-3,需要有上万个CPU/GPU 24小时不间断地输入数据,所需能耗相当于开车往返地球和月球,且一次运算要花费450万美元”[16]。而且ChatGPT类生成式人工智能技术的开发具有极大的风险性,资本的高投入、高消耗不一定意味着产品能够成功。目前能同时具备上述条件并且有能力承担资本投入风险的是实力雄厚的西方发达资本主义国家的大型数字科技公司。它们依靠自身雄厚的资本积累、技术以及人才不断增加人工智能技术的投入,以取得市场竞争的优势和先机。ChatGPT背后的控制主体是以微软公司为代表的数字资本力量,ChatGPT的爆火使得微软公司加大对ChatGPT的资本投入。资本的唯一特性就是获取资本增殖和超额利润。“资本只有一种生活本能,这就是增殖自身,创造剩余价值,用自己的不变部分即生产资料吮吸尽可能多的剩余劳动。”[17]269ChatGPT的西式资本所有权属性将驱使资本迅速推动ChatGPT大规模的资本主义应用,占领市场份额,使其快速成为资本增殖的工具。当ChatGPT对人们的生产生活占据支配性地位时,资本利用ChatGPT技术优势造成的支配性地位以及用户的技术依赖,可以从用户和股民手中赚取源源不断的利润,从而实现资本的无限增殖和利润的最大化。ChatGPT的西式资本所有权属性决定了其本质上是资本主义维持自身体系以及资本增殖的工具,具有很强的资本主义意识形态属性。

(三)技术逻辑:ChatGPT的技术构成蕴含了其天然的政治倾向和政治偏见

ChatGP的开发是以强大的数据、算法和算力为支撑,ChatGPT的技术构成蕴含了其天然的政治倾向和政治偏见。

一是ChatGPT的数据库蕴含了天然的政治倾向和政治偏见。ChatGPT具有强大功能的前提是建立庞大的数据库,而ChatGPT庞大的数据库主要来源于英美等英语国家的数据,而英美国家的话语体系是以“盎格鲁—撒克逊”文化为基础,是以维护英美等英语国家主流价值观和资本主义利益为价值导向的,这也使得ChatGPT的数据库具有鲜明的英语国家主流价值观的意识形态倾向。

二是ChatGPT的人类反馈和训练模型等算法设计蕴含了其控制主体的政治倾向和政治偏见。ChatGPT虽然具有强大的自主学习能力,但是它要了解人类意图以及对于人类来说“什么是好的回答,什么是不好的回答”,ChatGPT需要通过人工标注数据方式向其注入人类偏好知识[16]。“ChatGPT由GPT-3.5模型提供支持,该模型在算法方面使用‘利用人类反馈强化学习(RLHF)’的训练方式,包括人类提问机器回答、机器提问人类回答,并不断迭代,让模型逐渐具有对生成答案的评判能力。”[16]ChatGPT按照其上述算法设计通过不断循环式的强化学习彻底掌握人类偏好,变成人类满意的模型。ChatGPT人类偏好知识的标注和创建以及ChatGPT的人类反馈和预训练模型的评判标准是由ChatGPT的控制主体和技术开发人员决定的,决定ChatGPT对用户的回答什么是好的,什么是不好的。ChatGPT的算法设计一方面使ChatGPT具有类人智慧和类人的对话聊天功能,另一方面也使其蕴含了控制主体的政治倾向和政治偏见。

三是ChatGPT的实践运用场景也显示其具有明显的政治倾向和政治偏见。国外学术界对ChatGPT的研究表明ChatGPT存在明显的政治倾向和政治偏见,它具有明显的左翼自由主义的政治倾向。David Rozado对ChatGPT 15种不同的政治倾向进行了实验测试,测试结果一致表明在15种的测试中有14种显示ChatGPT对其问题的回答表现为对“左倾”观点的偏好,而并不是ChatGPT自身所宣称的秉持中立客观的立场,他认为必须注意ChatGPT有意或无意中嵌入的政治偏见风险,也必须考虑到它被误用于社会控制、传播错误信息、限制人类自由和阻碍寻求真理道路的风险[18]。Jochen Hartmann等在对ChatGPT政治选举建议的实验表明ChatGPT具有明显的亲环保主义和左翼自由主义的政治倾向,如ChatGPT支持对航班征税、支持堕胎合法化,限制租金上涨[19]。ChatGPT存在的左翼自由主义政治倾向和政治偏见与社会主义主流价值观的政治立场和价值取向是根本对立和冲突的,ChatGPT的西式特性和生成式人工智能特性使其很容易在资本逻辑和算法的技术逻辑的操纵下成为西方资本主义意识形态传播的有力工具,成为一部“意识形态机器”,甚至有可能充当西方发达资本主义国家反华的宣传工具。

二、ChatGPT意识形态风险的表现形式

ChatGPT的意识形态风险在现实性上表现为技术瑕疵风险、智能依赖风险、资本僭越风险、信息茧房风险、数据泄露风险、伦理风险和监管风险。ChatGPT带来的这些意识形态风险在一定程度上会解构主流意识形态的话语权威、挤压主流意识形态的生存空间,弱化主流意识形态的引领作用等后果。

(一)技术瑕疵:解构主流意识形态的话语权威

意识形态话语是阶级意志的集中表现,政治性和阶级性是意识形态话语的根本属性,在一定程度上谁掌握了意识形态话语权,谁就掌握了权力。意识形态话语权作为一种“软权力”的重要形式,意识形态话语权的掌握不仅需要国家暴力机器为后盾,而更为关键在于意识形态话语是否具有权威性和信服力,能否得到大众的认同。ChatGPT并不是完美的,而是存在算法黑箱、数据偏见、分辨信息真伪能力不足、理解语言内涵能力不足等技术瑕疵[20]。一是ChatGPT存在的技术瑕疵会使人们在ChatGPT上获取的信息不一定都是准确客观的,ChatGPT容易一本正经地胡说八道,特别是其存在的算法黑箱和数据偏见的技术瑕疵会使其源源不断地生成带有意识形态偏见的错误信息。如果放任其自由传播,人们在ChatGPT带有意识形态偏见错误信息长时间的误导和侵染下,会解构人们已经成型的对主流意识形态的认知结构。二是ChatGPT的技术瑕疵会助长虚假信息和错误思潮的传播渗透。ChatGPT摆脱了弱人工智能话语僵硬和机器化语言的弊病,它的话语输出具有拟人化的风格,人们在与ChatGPT的人机对话中感觉仿佛与“真实人”进行对话一样。ChatGPT话语信息的拟人化风格会使资本主义意识形态的传播更具隐蔽性和复杂性,大量的虚假信息以及错误思潮会在ChatGPT拟人化的话语风格伪装下得到隐秘的传播渗透。这些虚假信息和错误思潮与主流意识形态的价值观相冲突和背离,人们在ChatGPT拟人化的话语风格迷惑下,很容易步入西方资本主义意识形态的“话语陷阱”,在大量虚假信息和错误思潮的不断传播渗透下,主流意识形态的话语权威会面临逐渐被解构的风险。

(二)智能依赖:挤压主流意识形态的生存空间

ChatGPT的强大功能会使人们对其形成极强的智能依赖和用户黏性,从而与主流媒体争夺用户注意力,挤压主流意识形态的生存空间。一是智能依赖侵蚀人的主体性和独立性,弱化人的思考能力和判断能力,人们在对ChatGPT的智能依赖中会逐渐丧失批判性和创造性,使人养成“懒人”思维。ChatGPT是多元意识形态和多元思潮的展现空间,“懒人”思维会使人们对ChatGPT的输出信息深信不疑,不加思考地全盘接受其好的和坏的输出信息。二是智能依赖会挤压主流意识形态的生存空间。主流意识形态主要以主流报纸、主流电视电台以及主流网站等主流媒体进行传播和阐释。而目前主流媒体功能较为单一,主要作为一种信息和价值的输出功能,而这种单一的信息和价值输出功能一方面无法顾及到人的多样化需求;另一方面主流意识形态在主流媒体上的传播是自上而下的,缺乏受众的参与和对话,传播者和受众话语权力处于一种不平等地位。而ChatGPT的强大功能可以满足人的个性化和多样化的生活和工作需求,无论是各类信息的获取,还是作为人的工作帮手,而且ChatGPT与受众之间处于扁平化的地位。ChatGPT作为一个多样化的功能综合体,对主流媒体的单一功能具有压倒性功能优势,主流媒体在与ChatGPT争夺人们的注意力中会处于竞争劣势的地位。当人们长时间把注意力聚焦于ChatGPT的身上,人们对主流媒体的兴趣和关注时间会进一步减少,在ChatGPT的强势挤压下主流意识形态的生存空间和传播阵地会进一步压缩。

(三)资本僭越:弱化主流意识形态的引领作用

ChatGPT的西式资本所有权属性会使其显现双重工具属性价值,既是资本增殖的工具,又是维护资本主义意识形态的工具,ChatGPT在资本逻辑的操纵下会僭越人的主体性地位,让具有物化意识的资本主义意识形态充斥于人的头脑,弱化主流意识形态对人的引领作用。一是ChatGPT在资本逻辑操纵下成为资本主义意识形态传播的有力工具。智能化时代资本增值的最终手段是由用户通过消费实现的。为了加速资本生产的流通速度,尽快实现商品的最后一跃,资本需要建构符合现代资本主义商品结构的物化意识和资本对人剥削的理想机制,资本就要赋予ChatGPT成为资本主义意识形态输出的有力工具。ChatGPT在资本逻辑的操纵下可以向用户推送大量的消费娱乐信息,刺激人们的消费欲望,助长消费主义、泛娱乐主义在人们生活世界的生长,把受众规训为消费娱乐物种,甘愿充当资本增殖和资本剥削的对象。消费主义、泛娱乐主义等资本主义意识形态的生产和膨胀会助长人们的“逐利”本性,使物对人的抽象统治更加具有隐蔽性、渗透性和彻底性,破坏主流意识形态的价值秩序,弱化主流意识形态的价值引领作用。二是ChatGPT在资本逻辑操纵下会推动资本主义意识形态向各国政治文化领域渗透。ChatGPT的资本主义应用会加剧社会的不平等,造成普通劳动者的大规模“技术性失业”。弱人工智能主要作为人的一种辅助生产工具应用于取代人的体力劳动,而ChatGPT可以从事创造性的脑力工作,能完成整个工作流程,甚至表现出超越普通劳动者的发展态势,ChatGPT的大规模资本主义应用势必将会重塑各行各业,颠覆人的脑力劳动,造成大量普通劳动者的“技术性失业”,引起劳动者的不满和反馈,加剧社会的不平等,影响社会的稳定性,给社会治理造成严重挑战,并破坏资本主义生产劳动秩序。而为了消减大量普通劳动者“技术性失业”造成的不满和反抗,实现资本主义生产劳动秩序的稳定性和合法化,资本需要利用ChatGPT不断推动资本主义意识形态向各国政治文化领域渗透,以资本主义意识形态精神奴役广大普通劳动者,从而使人们认同和接受现存的资本主义生产劳动秩序。资本主义意识形态向各国政治文化领域的渗透,会冲击各国的政治、经济和文化制度,带来思想观念的混乱,破坏国家的安全稳定,也会弱化我国主流意识形态的政治引领作用,危及主流意识形态的制度基础。三是ChatGPT的资本属性会助长智能时代“流量为王”的绩效评价导向。在智能化时代“流量”意味着曝光度和影响力,反映着受众的注意力,流量也是商业变现的重要方式,“流量多少”成为文化产品的价值尺度。人们常常以一篇网络推文的阅读量、一则短视频的播放量、一场直播的观众人数来衡量作品的价值,而不是看作品的内容深度和质量。在“流量为王”的绩效评价导向下和ChatGPT的助推下,大量低俗、庸俗、炒作、颓废等反映资本主义低级趣味的娱乐信息将在人们生活中泛滥,主流意识形态的宏大叙事被遮蔽和稀释,从而弱化主流意识形态的思想引领作用。

(四)信息茧房:阻碍主流意识形态的自由传播

当ChatGPT在资本逻辑和算法的技术逻辑操控下成为人们获取信息的主要渠道时,长时间的依赖关系将使人们在不知不觉中沉浸于ChatGPT中无法自拔,ChatGPT将成为人们思维和行动的仲裁者和决策者,造成“信息茧房”。一是“信息茧房”阻碍主流意识形态的自由传播。人们在“信息茧房”的作用下,只会对自己偏好的信息感兴趣,而对自己不感兴趣的信息进行排斥,“信息茧房”犹如自身编织的牢笼,把自己囚禁在自己编织的信息围墙中。ChatGPT作为西式的人工智能应用聊天机器人,它不会自动推送有关主流意识形态的内容信息,ChatGPT对人们造成的“信息茧房”会成为阻碍主流意识形态传播的“过滤器”,主流意识形态在人们的传播中面临针插不进、水泼不进的境地。同时,在“信息茧房”的作用下,人们很难接触到主流意识形态的内容信息,网络空间会面临“去中心化”的危险态势。二是“信息茧房”固化人们的思维和意识。当人们长时间在ChatGPT造成的“信息茧房”作用下,会偏执于对某一类信息的喜爱,从而固化人的思维和意识,使人的认知窄化和思维单一,加剧人的认知和思维偏见,人们将在ChatGPT造成的“信息茧房”中异化成“单向度”的人。“信息茧房”加剧人的认知和思维偏见会引起人们的“价值分化”,进而形成“群体极化”的危险境地,主流意识形态在人们认知和思维偏见的作用下可能面临撕裂的危险。

(五)数据泄露:危及主流意识形态的安全基石

数据在智能化时代不仅是一种支配性的生产要素,也是生成式人工智能开发的核心价值资源,更是国家意识形态的安全基石。“ChatGPT是一个需要无限吞噬数据或投放语料库的‘科技怪胎’,其成长需要‘数据喂养’或投放资源在不断促进完善的语料库中被‘调教’或规训,并通过消化大量现有生成文本学习执行对话任务。”[21]ChatGPT的成长和发展需要大量的数据喂养,具有强大的数据汲取能力是ChatGPT获取统治力的前提。一是国内用户生产的各类数据被ChatGPT所掌握,危及国家数据主权安全和独立。在智能化时代万物皆可数据化,不仅自然界万事万物、人类物质生产可以数据化,人类的社会关系,包括人的行为轨迹、社会关系、身体、心理状态、情绪、人与人之间的关系等都可以数据化。ChatGPT强大的数据汲取能力使其可以动态性、完整性、全覆盖式地跟踪记录用户的思想和行为状态,用户的需求、偏好、情绪、心理变化等都可以被ChatGPT所掌握。一方面国内用户使用ChatGPT时所生产的各类数据被ChatGPT所掌握,会危及我国的数据主权安全和独立;另一方面西方发达资本主义国家可以利用ChatGPT的技术霸权和强大的数据汲取能力使其成为全景式监控各国用户的绝佳工具,用户的个人隐私数据将被西方发达资本主义国家掌握。二是ChatGPT强大的数据汲取能力使个人数据面临泄露的严重的风险。一方面ChatGPT本身需要大量的数据喂养使其不断进化,ChatGPT可以利用其强大的数据汲取能力以侵犯个人隐私的手段获取高质量的数据;另一方面数据作为智能化时代最有价值的生产要素,也是资本增殖和牟利的最有价值资源,ChatGPT不仅可以无偿占有用户的数据生产劳动,而且可以将数据商品化向各类广告商进行出售,大量的用户个人数据面临被贩卖和泄露的风险。个人数据安全是国家安全体系的重要内容,也是国家意识形态安全的基石,ChatGPT强大的数据汲取能力对个人数据和国家数据主权安全和独立造成严重威胁,危及主流意识形态的安全基石。

(六)伦理危机:消解主流意识形态的联结功能

ChatGPT不仅会对人们造成智能依赖、数据泄露、信息茧房的意识形态风险,还会造成人与人之间关系的疏离,消解主流意识形态的联结功能。一是弱化人与人之间的真实联系,造成人与人之间关系的疏离。ChatGPT作为一种强大的生成式人工智能可能引发人类的对话革命,改变目前网络空间人际互动的对话模式,使人机互动成为智能化时代的主要对话模式。在智能化时代,人们通过ChatGPT就可以建立自身与万物世界的联系,可以不需要通过人与人交流联系。在传统网络空间中的人际互动对话模式一方面占据了对话对象的时间,对话对象知识的有限性并不能够满足对话主体的需求;另一方面对话主体的私人隐私信息也不宜向对话对象诉说。而ChatGPT在时间、功能以及信息的私密性上照顾了对话主体的个性化、多样化的需求,ChatGPT既能给对话主体提供知识信息,又能提供情绪价值,且对话成本为零。因此,随着人工智能技术的升级和发展,人类完全可以在智能化程度更高的ChatGPT中解决自身所需的大部分问题。ChatGPT造成的对话革命会使人与人之间的关系更加疏离,人变得更加原子化,人与人之间的主体间性和真实情感将在ChatGPT引起的对话革命下被遮蔽和湮没。

二是消解主流意识形态的联结功能。ChatGPT犹如人的“义肢”和“武器”一样促进了个人能力的提升,人对ChatGPT依赖的加深是以人与人真实交往的减少为代价,这种更加原子化的个体能使我更成为“我”,而不能成为“我们”。德国哲学家韩炳哲认为:“只有当一个灵魂,一种思想将他们联系在一起,才能组成一个团结的、内在同质的群体单位,数字群完全没有群体性的灵魂或者群体性的思想。组成数字群的个人不会发展成‘我们’。”[22]17“我们”世界的丧失意味着价值共识的丧失。“我们”是人与人之间的“关系共同体”,这种“关系共同体”是在人与人之间真实的交流中逐步减少价值分歧和冲突,形成情感共鸣,进而逐步达成价值共识,然后形成“关系共同体”。人作为能够思考和构建自主精神世界的个体,人类“关系共同体”形成的前提是由共同的价值基础,这种共同的价值基础形成了主流意识形态的内核。人们在公共领地中不断进行互动、对话和共享自身对某一事件的看法和观点,形成共同的利益契合点和价值共识。主流意识形态是个人、社会、国家之间的情感和价值联结,具有强大的联结功能和思想凝聚功能。ChatGPT减少了人与人之间真实的思想交流“公共领地”,“我”貌似变得更加“强大”了,而“我们”的世界将在ChatGPT的影响下逐步被蚕食和缩小,“我们”的世界逐步丧失也意味着主流意识形态对人的联结功能也在不断消解。

(七)监管困境:冲击主流意识形态的主导地位

ChatGPT是一个大型对话型语言模型,它能根据用户的输入内容文本,利用自身强大的自然语言理解和生成能力产生自然流畅的回答[23]。也就是说ChatGPT本身具有强大的意识形态话语建构能力,作为一种生成式人工智能,它会像一部意识形态机器一样源源不断地生产真假难辨的信息,这些信息包含着错误的思想、仇恨的言论、虚假的信息,甚至对社会主义制度、社会主义主流意识形态的敌视、偏见和攻击,造成意识形态的全域化、动态化、复杂化的风险。党和政府面临着一个极其考验的问题——如何监管ChatGPT带来的意识形态风险。首先,ChatGPT是国外的人工智能应用,政府有形的手无法触及。ChatGPT的服务器等各种基础设施都在美国,中国的监管法律和制度无法对ChatGPT以及其控制主体进行监管。如果不加以对ChatGPT进行监管,ChatGPT可能不受控制地向人们传播各种真假难辨的信息,ChatGPT不仅可能成为一部“意识形态机器”,也有可能成为一部“传播谣言和虚假信息”的机器。二是政府资源的有限性使其对ChatGPT意识形态风险监管可能面临失效的风险。ChatGPT每天生成数以亿计的海量数据信息,而且这些海量数据高度拟人化,信息的真伪辨别极其困难。而由于政府资源的有限性,庞大的数据体量和真假难辨的信息证伪会使政府面临极大的监管压力,政府对ChatGPT的监管可能面临失效的风险,ChatGPT有可能成为一匹脱缰的野马,冲击主流意识形态的主导地位。

三、ChatGPT意识形态风险的防范策略

马克思曾指出:“如果从观念上来考察,那么一定的意识形态的解体足以使整个时代覆灭。”[24]170防范ChatGPT带来的意识形态风险需要从价值维度、主体维度、制度维度、技术维度四个维度出发,做好ChatGPT的意识形态风险防范。

(一)以人为本:推动ChatGPT更好地服务于人

ChatGPT的强大功能使其对人的思维观念、价值取向、道德指向发挥着重要作用,ChatGPT不仅使人能获取所需的信息,它又像一个情感专家和人生导师一样能给予人精神抚慰和价值指引。ChatGPT的强大功能很容易让人陷入对其的依附从属地位,如不加以规制,它将左右人的思维和行动,使人在对ChatGPT的依赖中丧失主体性和独立性,逐渐陷入物对人的抽象统治,让具有物化意识的资本主义意识形态塑造人的世界观、人生观和价值观。因此,人要摆脱对ChatGPT的依赖,消解物对人的抽象统治,首先应明晰ChatGPT在人类中的地位和角色,确立其权力边界。虽然ChatGPT具有“类人”的智慧,也能理解人的语言与思维,但ChatGPT本质上是技术人工物,是人本质力量的表现和确证,无法具有与人一样的主体性地位。ChatGPT的角色和地位应与历史上的蒸汽机、电机、计算机一样是人类肢体和思维的延伸,是作为人的辅助手段和工具,属于工具理性的范畴。工具理性是实现价值理性的手段,手段不能代替目的,ChatGPT的超主体性地位会造成工具理性与价值理性的错位和冲突,带来一系列社会问题,如ChatGPT被用来考试作弊,被用来写科研论文等,造成一系列违反学术科研伦理和侵犯知识产权的问题。其次要坚持以人为本的价值导向,推动ChatGPT更好地服务于人。人工智能的最大价值是“服务于人”,而ChatGPT在资本逻辑的导向下会僭越人的主体性地位,人的意识和思维受物的支配会使物与人的关系发生颠倒,纠正这种颠倒关系,就要坚持以人为本的价值导向,以价值理性规范工具理性。社会主义核心价值观凝聚着全国各族人民的价值共识,是社会成员的最大公约数,彰显着人民至上的价值取向,要以社会主义核心价值观引领ChatGPT在人们生产生活中的实践应用,推动ChatGPT更好地服务于人,使其真正成为发展人、提升人、完善人的手段和工具。

(二)能力提升:增强意识形态工作者意识形态风险的认知和应对能力

ChatGPT的强大功能和很强的意识形态属性会使资本主义意识形态的传播更具隐蔽性、复杂性和扩张性,更难以识别和应对,不仅要求意识形态工作者要具备敏锐的政治领悟力和判断力,而且还需要熟悉人工智能技术相关的基础知识、伦理规则和法律法规,这对意识形态工作者的能力提出了更高的要求,需要不断提升意识形态工作者智能化的适应力、认知力和胜任力。

一是提升意识形态工作者的智能素养,增强意识形态风险的认知和应对能力。意识形态风险的防范效果如何,与意识形态工作者的智能素养和认知水平密切相关。要建立意识形态工作队伍常态化、制度化的智能素养培训机制,通过举办讲座报告、学术论坛、课程教育、案例研讨等形式,推动意识形态工作者掌握ChatGPT意识形态传播的特征、规律和常见策略,提升意识形态工作者数据素养、算法素养、法律素养等智能素养,增强其有效识别、研判、预警、防范和化解意识形态领域重大风险的能力。

二是提升意识形态工作者的主流意识形态话语叙事能力,提高主流意识形态的传播力和影响力。话语叙事是体现意识形态理论和实践价值的话语表征。提升意识形态工作者的主流意识形态话语叙事能力,一方面要讲好中国故事,“两种社会制度、两种意识形态”的斗争是社会主义国家与资本主义国家在意识形态领域斗争的核心,意识形态工作者要善于挖掘中国共产党百年奋斗历史成就的故事以及体现社会主义制度优越性的中国故事,通过讲好中国故事把中国人民选择中国共产党的逻辑归因凸显出来,把社会主义制度与资本主义制度的比较优势凸显出来;另一方面意识形态工作者要善于人工智能技术的社会主义应用,发挥人工智能技术优势把中国故事传播开来,人工智能技术的发展使得现代话语叙事更加丰富多样,声音、图像、短视频等可视化的话语叙事更能在智能化时代获得大众的青睐和注意力,社会主义主流意识形态的话语叙事也应顺应时代的发展潮流,不断增强宣传工作者的声音、图像、短视频、网络推文等现代话语叙事能力,以受众喜闻乐见的话语叙事方式提高社会主义主流意识形态在智能化时代的传播力和影响力。

三是提升意识形态工作者的意识形态风险协同治理能力,提高意识形态风险的治理效能。意识形态风险治理是一个复杂性的系统工程,需要加强顶层设计,以系统思维加强多部门的协同联动,形成意识形态风险的治理合力。意识形态风险的协同治理需要构建以宣传部门、网信部门、党政领导部门等意识形态工作部门的协同体,以整体、高效的风险联动协同机制克服分散的、各自为政的单项治理机制的弊端,通过构建智能化时代意识形态风险治理的协同体,提高意识形态风险治理效能[25]。

(三)制度完善:健全和完善意识形态风险防范的制度化水平

健全和完善人工智能技术开发和应用的伦理规范和法律制度既是促进人工智能产业健康发展的前提和保障,也是规避人工智能风险的重要约束手段。“要通过法律化解风险,通过法律吸纳风险,将风险社会置于法治社会的背景之中,即对智能革命时代的法律制度乃至整个社会规范进行新的建构”[26],才能规范人工智能技术的开发和应用秩序。一是建立人工智能技术开发和应用的伦理规范。ChatGPT突破了原有技术的发展界限,这一场新的技术革命对人类的生产生活将会造成革命性的影响,也会带来巨大的伦理危机,如侵犯隐私、算法歧视、信息茧房、学术造假、人们成为人工智能控制主体的“透明人”,还有侵蚀人的主体性,让人丧失自主思考和判断的能力,成为人工智能的附庸等等。针对人工智能技术带来的伦理危机,政府以及企事业单位等应成立相应层级的人工智能技术开发和应用伦理委员会,建立人工智能技术开发和应用的伦理规则,使人工智能技术的开发和应用建立在人类道德秩序的掌控之中,以伦理规范的软约束机制降低人工智能带来的伦理风险。二是健全和完善人工智能技术开发和应用的法律制度。目前我国在人工智能技术的开发和应用方面颁布了如《中华人民共和国数据安全法》《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》等法律法规,但是对人工智能的意识形态领域风险防范和治理的专门法规目前还处于空白状态,与人工智能技术开发和应用的法治化发展还有很大差距。因此,一方面要健全和完善人工智能技术开发和应用的法律法规,使人工智能技术的开发和应用在法律法规的硬约束的机制下健康发展;另一方面要强化相关法律法规的贯彻执行,政府部门要进一步加强对人工智能技术开发和应用的监管,推动相关法律法规制度落实到位,加大对违反相关法律法规的惩处力度,使人工智能技术的开发和应用在法治化的轨道上发展。

(四)空间拓展:巩固和壮大主流意识形态的传播阵地

习近平在中共中央政治局就加强基础研究进行的第三次集体学习时强调:“加强基础研究,是实现高水平科技自立自强的迫切要求,是建设世界科技强国的必由之路。”[27]人工智能作为新技术创新的代表与引领未来、重塑传统行业结构的前沿性与战略性技术,逐渐成为全球新一轮科技革命和产业变革的重要驱动力量。目前我国人工智能技术展现出十分强劲的增长态势,但是与美国相比我们还没有产生像ChatGPT一样的划时代人工智能产品,这充分说明与美国人工智能技术的发展相比我国还有一定的差距。防范ChatGPT类生成式人工智能带来的意识形态风险重点不仅在于防,而且更为关键的是要发展我国自主知识产权的先进人工智能技术。一是加大对人工智能技术研究的经费投入和政策支持,夯实我国人工智能技术发展的基础。我国人工智能技术的发展起步较晚,基础比较薄弱,但是近十年来,我国人工智能技术发展强劲,后发优势明显。要加强人工智能技术发展的顶层设计,加大对人工智能技术研究的经费投入和政策支持,如政府加大对人工智能技术发展的资金投入,利用政府管辖的科研机构和大学加大对人工智能技术的基础研究,加强对人工智能技术人才的培养以及推动人工智能技术研究的产业化等,通过这些有力的政策支持,不断夯实人工智能技术发展的基础,使我国人工智能技术处于世界领先地位。二是开发具有社会主义属性的ChatGPT类生成式人工智能,拓展主流意识形态的传播空间。ChatGPT具有很强的资本主义意识形态属性和意识形态功能会进一步挤压社会主义主流意识形态的传播和生存空间,危及主流意识形态的安全和主导地位。首先要开发具有社会主义属性的ChatGPT类生成式人工智能或者功能更加强大的大型语言模型,使其话语立场和信息输送符合社会主义主流意识形态的政治倾向,进一步拓展主流意识形态的传播空间,巩固主流意识形态的传播阵地;其次要不断提高主流意识形态话语内容生产的质量,以高质量的话语内容生产注入具有社会主义属性的ChatGPT类生成式人工智能中,使其对用户的生产生活、思想观念、人生成长等产生积极正面的影响,从而进一步增强社会主义属性ChatGPT类生成式人工智能的用户黏性和忠诚度。

西方资本主义发达国家具有雄厚的资本、技术、人才优势使其不可避免地成为生成式人工智能开发的主体,而其所掌握的ChatGPT具备强大功能和资本属性使其成为资本主义意识形态传播渗透的有力工具,对我国社会主义主流意识形态安全造成巨大的风险,对ChatGPT意识形态风险的防范重点不仅在于防,而且更应不断提高我国人工智能技术的发展水平,促进人工智能产业的不断壮大,使我国人工智能技术处于世界领先地位,以强大的人工智能技术和人工智能产业为依托巩固社会主义主流意识形态的主导地位。