“中国民众对人工智能的看法，为何与西方不同？”

利求同

【导读】在人类文明的长河中，知识生产始终是推动社会进步的核心动力。从远古的结绳记事到印刷术的普及，再到数字技术的崛起，每一次信息工具的革新都深刻重塑了知识的形态与传播方式。近年来，生成式人工智能的爆发式发展，正将我们带入一个前所未有的转折点——机器不仅辅助人类从事劳动和生产知识，更开始独立生成内容，甚至挑战人类在认知领域的垄断地位：AlphaFold-3精准预测蛋白质结构，ChatGPT撰写论文、翻译语言……这似乎已超出以往人类所使用的“工具”的定义。

这一变革背后，是知识本质的悄然异化：当信息量以天文级数膨胀，知识的“质”逐渐被“量”稀释，人类与知识的紧密关联正被机器智能解构。从宗教王权时代的封闭体系，到理性实验时代的科学求真，再到如今信息智能时代的扁平化与黑箱化，知识生境的演化既带来高效与便利，也埋下了失控的隐患：人类可能从知识的主人沦为机器的附庸。当长篇大论的观点可以一键生成、茧房效应扭曲公共讨论、黑箱决策架空人类判断时，我们可能正在亲手缔造一个“被动认知”的时代，成为技术洪流中的旁观者。本文通过梳理知识生境的三大历史阶段，揭示AI化未来的潜在危机，呼吁重拾“以人为本”的伦理底线，在技术狂飙中守护文明的根基。

本文原载《文化纵横》2025年第2期，原题为《知识生产：从图书馆走向机器智能》，仅代表作者观点，供读者参考。

知识生产：从图书馆走向机器智能

生成式人工智能来了，带着它日益增长的智力。如今，它每天都在替学生和学者写论文，代记者发新闻稿，一口气翻译50种文字不在话下。它会根据语言生成图像视频，制作逼真的人机对话。它还可以在十几秒内解答2024年高考数学试卷，可得满分。谷歌的蛋白质预测模型（AlphaFold-3），一种人工智能（AI）算法，能准确预测蛋白质的三维结构，同它的发明者一道，获得了诺贝尔化学奖。AI俨然已是一流的知识生产者。这让我们不禁好奇：未来的知识生产会是什么样子？人类的智力劳动及其产出会被如何安置？这件事关乎人类的命运，却前景不明，如同笼罩在浓雾中，也许应该从头梳理一遍。

人类为了生存繁衍，需要认识自己生活的世界，对自然界与人类社会做不懈的探索、理解和改造。知识生产便是回应这种需求的努力。认识世界的一切努力都始于感知信息，在处理加工信息中得到理解的升华，生成知识，用于维持并改善生活和生产实践。由此形成一个知识生产和再生产的生态环境，简称“生境”，这是人类文明大生态中的一环。

知识生产围绕信息展开。信息，是宇宙万物存在和运动的自然展示，呈现为有待处理的符号数据。它弥漫在时空中，无所不在、从不间断、没有对错，不依赖人的意志，独立于人的认知。因而它没有“质”，只有“量”。知识，则是信息经过人类的感知、分析、检验、评判、规律性总结等，一系列认知处理加工后的状态，是人类对客观世界和它与自身关系的发现、理解、掌握和利用。也就是说，知识是一种特殊信息，它以人为出发点，依附于人，一贯被归属于人的范畴。显然，知识比信息的范围狭窄得多。两者有重合，而重合面的大小、重合如何发生，何时发生，在何处发生，都同人类的认知思维活动息息相关。因此，知识是有“质”的，可检验真伪、评判对错、获取信任而运用于实践。知识有“质”也有“量”。我们的认知需要通过不断学习、训练、使用，来优化加强，争取对世界做真实准确的描述和理解，包括对已有知识的修正补充和深化。这就是求真，知识生产的真谛。

因此，知识生产可以看作是信息向知识转化的能动过程。它总是由某种驱动力推进，如好奇心、生存繁衍的需求等，是在前人知识积累的基础上做出的创造发明和社会化的智力活动。

古人很早就注意到一个现象：人的先天信息处理能力不强，无论是感知、记忆，还是信息加工和传递。人虽然自命为“万物的灵长”，感官却远不如许多动物得力，如老鹰的视觉、狗的嗅觉、狼的听觉、昆虫的色感、大象的动感等等。相比之下，我们从客观世界采集到的信息非常有限。例如，人类视网膜上只有感受红、绿、蓝三种波长的感光细胞，色素分辨能力粗糙。我们看到的五彩缤纷的世界，其实是大自然的丰富色调的高度简化版。又如，我们的视觉和听觉穿透力极低，只在很小的时空范围有效，信息的接收传递，须面对面或近距离才能实现；一张荷叶，就能挡住我们的视线。正是为了克服感官的局限，人类才发明了各种信息工具，全方位地延伸并强化自身的信息处理能力，包括感知、采集、整理、存储和传递。信息技术的创新、更替和迭代，贯穿了知识生产的全部历史，推动着生产力和生产关系的一次次变革。

古人还发现，知识生产如果处于无组织的自生自灭的状态，就很难判断知识的对错和水平的高低，传播也会受阻，深化更是困难，还常常走样失传，造成极大的浪费。所以人们在知识生产中加入了管理元素，建立起一整套流程、机构和规范。就功能和目标而言，知识管理系统对知识生产的走向有很强的指导作用，在不同历史阶段，遵循不同的原则和标准。但万变不离其宗，总是被强势的社会力量掌握，受主流意识形态影响，包括与之匹配的道德伦理和宗教信仰。知识生产的全过程便是在这样一个框架内活动，人文的、科技的莫不如此。

据此，我把知识生产的历史大致分为三个阶段：宗教/王权时代、理性/实验时代和信息/智能时代。这个历史分期，与信息技术的三次革命性突破基本同步，即语言文字/书写工具的发明，纸张/印刷术的普及，以及数字技术/机器智能的颠覆性崛起。这样，人类知识生产的生态，追随自然条件下生态系统发育的一般趋势，由幼稚走向成熟。它的结构和成分由简单到多元复杂，对信息的利用由不充分到相对充分，其改造世界的能力逐步提升，最后进入成熟期。成熟期的知识生产本应表现出相对稳定的保守特征；然而一种新型信息技术闯了进来：生成式人工智能。今天，AI技术异常活跃，正在摧毁旧生态的复原力（resilence），以机器智能为中心的新生境正在形成。下面，我们将围绕知识生境的四大基本元素展开讨论：资料工具、参与者、工作程序和传承记忆。

▍知识生产的宗教/王权时代

这是一个漫长的历史时期。一开始，人类认识世界，积累知识的步伐是艰难而缓慢的，信息工具相对原始粗糙。未知世界的不可控，灾难面前自身能力的渺小，催生了人对神明的畏惧和崇拜。王权以宗教信仰统领的形象占据社会的统治地位，掌握政治、经济和知识生产的命脉。自然而然，宗教王权就成了人类对自身和周围世界的观察、认识、改造的出发点和归宿。同时，这人类的童年时代又是伟大而无与伦比的。它发明了第一代信息工具：文字和初级书写工具；酝酿运作了知识生产和管理系统的雏形和模式，如亚历山大城的缪斯神殿/图书馆和中国古代的官方修史制度。这些都被后人继承了，沿用至今。

文字的发明，书写工具的制造，极大地丰富了人类的感知、表达和思维能力。从结绳记事、甲骨占卜，到青铜铭文、简帛、纸草和羊皮纸书卷；从石刀、石笔到毛笔、羽毛笔；信息工具和载体由简到繁，由笨拙到轻便。这些发明不论完善与否，都是里程碑式的。人类走上了借助工具来表达、交流、记录思想感情和经验知识的道路，由此开始了从口述传统向书写传统的划时代转型，给知识的系统管理、跨时空传递，带来无尽的发展空间。这个管理系统对知识生产的参与者和管理机构有严格要求。知识的记录和文献整理，往往由有声望的学者担任；文献经过专业评价，入选图书馆收藏，一部分还进入学校教育，成为经典和公共记忆。

被纳入图书馆和教育系统的知识，可以获得很高的社会认可和礼遇，即有可能参与到官方与民间的知识传承和再生产中去，乃至引导知识生产的走向。这类管理系统通常由国王贵族和官府出资建立，学者则往往寻求王公贵族庇护和资助。而知识的收藏、评价和使用，一如其生产，必须遵从宗教教义和王权的规制。否则就得不到许可和承认，被排斥在正统知识之外，归于异端谬说。一个典型的例子，“地心说”是教会支持的，因而获得知识的地位和绝对权威。任何质疑，包括“日心说”，都是亵渎神明。又如，疾病被认为是人触罪而受神的惩罚，故而研究人体构造例如解剖尸体，也是对神明不敬，须立法禁止（参见拙文《心智的圣所》）。因此，宗教/王权时代的知识生产，是一个维护等级秩序的封闭式的内循环生境。

这个时代的知识生产，还处于生态发育的初级阶段。人类对世界的认识和知识积累有限，能够运用文字记录整理知识的人才很少；信息工具较为简单，且使用不普及；而尚未利用的信息资源急需开发，知识生产的潜在活动空间大，环境相对宽松。精英化的生产者与知识的关系，主要由业内共识跟社会声誉来维系，而非直接的产权关系。他们因自己的聪明才智和发明创造受到尊敬，获得荣誉。哲人或智者的生活方式，甚至连国王都羡慕。史载埃及王拯救者托勒密一世（前305~282在位）主动退位，让儿子继位，以便致力于写作《亚历山大大帝传》，加入辉煌的亚历山大城图书馆作者的行列，为贤明君主的伟大一生留下一曲天鹅之歌的结尾！

▍知识生产的理性/实验时代

这是一个承上启下的时代，全球知识生产进入一个高速发展的阶段。伴随着欧洲文艺复兴、启蒙思想、工业革命和殖民扩张，人类迎来了现代科学的纪元。同时，象征资本主义崛起的“理性之光”，冲破宗教的“愚昧”和“黑暗”，让知识生产摆脱了教会同王权的束缚。教育和学术开始崇尚思想自由和独立思考，推崇科学实验和理性逻辑（包括形式逻辑、辩证逻辑和数理逻辑），要求知识经得起社会实践的检验；“求真”成了知识生产的基本准则。随之而来，知识生产对信息技术的需求和依赖与日俱增。其中，最具标志性的事件是活字印刷术的发明和机器造纸术的完善：继北宋毕昇发明活字印刷，15世纪，古腾堡研制成功了西文活字印刷术，使规模化的书籍印刷成为可能；之后，18世纪末开始，机器造纸术逐步完善。

于是，印刷取代传统的手抄制作，成为记录知识的主要手段，功效大大提升。从藏书的增长可见一斑。14世纪的英国大诗人乔叟只拥有60来本藏书。到了17世纪，约翰·哈佛，一位二十九岁剑桥大学毕业生捐出的收藏，就达400多本。进入20世纪，大型图书馆的藏书动辄以百万千万册计，甚至上亿。实验科学的兴起，启蒙运动的激荡，得益于新的信息工具同系统管理有机结合，知识生产展示出前所未有的活力。于是，传统的“地心说”经受不起近代科学的检验，在“日心说”的挑战下失去了知识的地位。伽利略、牛顿、达尔文、门捷列夫等等，这些科学巨人奠定了近代科学。人类对世界的认识空前地拓展了，哈佛大学前天文台台长曾感叹：我们在地球上发现的那些数学和物理原理，用来观察解释宇宙中的众多现象，居然都适用，多么奇妙！公立学校的发达，受教育人口大增，带来了知识生产的兴隆。到目前为止，我们拥有的大部分知识都是这个时代的产出或衍生品，包括人工智能在内。

“知识就是力量”。这也意味着知识的财产和权利属性，在资本主义时代的觉醒。1709年，英国颁布了全世界第一部版权法《安娜法令》（The Statute of Anne）。商品经济催生了知识的商品化、产权化；而一旦知识垄断可以享有法律保护，全球市场的开拓和新老殖民主义国家间的竞争，就成了知识生产和知识垄断的又一个驱动力——就诞生了知识产权（版权、专利、商标等等）。

回顾这一段历史，有助于我们看清楚信息技术和工具的作用和潜力。新发明创造层出不穷，如打字机，录音录像、复印机；程序语言、计算机，硬盘、软盘；直到智能手机，物联网、大数据、区块链、云存储，生成式人工智能；等等，高潮迭起。信息技术同科学理念和方法的结合，为知识生产提供了沃土，但也使得理性/实验时代的辉煌远比它的前任来得短暂。知识生态发育走过了艰难的幼年期，在它的青春期，信息的多重价值极大地刺激了人们发明生产工具和改造环境的意愿和实践，生产关系变得日益复杂。旧时代渐渐远去，全新的信息/智能时代召唤着人类。

▍知识生产的信息/智能时代

今天，人类的知识生产已经开始进入成熟期。我们正处在历史的转折点上，面临一个前所未有的难题：谁来生产知识，人还是机器？这会有什么后果？

20世纪80年代，互联网兴起。很快，社交软件成了人们日常交流的平台，数字技术开始主导生活和工作的方方面面。网络平台以其便利和高效的服务，交换我们的个人信息。在相继解决了信息的感知、记录、整理、存储、传递等一系列难题之后，大脑的认知思维顺理成章地成了人类知识生产能力的最后堡垒。

数字技术的一大功绩，是实现了知识生产的一体化。通过互联网技术，原本分散独立的生产环节、功能和工具被整合集成，优化了环节间的衔接过渡、功能间的协同合作，以及工具资料的分享共用。一体化生态追随网络平台的自主技术设计思想，拥有“时空无缝衔接”的传递能力，能保障无死角信号覆盖和传递时刻处于高速畅通状态。但它迫使图书馆交出知识管理核心机构的职能，转型为社区活动中心和自习场所；出版社的产品面对新技术训练出来的读者，力不从心；大中小学不惜立规矩，企图把学生与生成式信息工具隔绝开来，以求生存。人们熟悉的精英等级式知识生产系统的根基被撼动了，封闭式的内循环生境在破裂。知识生产链的每一个元素和环节都随之急剧演化，重塑着生产力和生产关系。

我们对世界和自身的认识也在不断刷新，信息渐渐成了人们挂在嘴边上的常用词，知识却鲜有人提起了。知识有“质”，信息没有，但两者都有“量”。数字技术天然地具有抑“质”扬“量”的倾向，它的诸多特征事实上弱化了知识的“质”或求真的品格，亦即弱化知识与人的关联。这两个常用词的消长预示着：数字技术正在越过人类，让知识混同于信息；而机器智能正借助人类之手，向通用乃至超级智能演化。

信息/智能时代，看似熟悉，却已然是一副陌生人模样。

▍知识生产的未来

生成式人工智能（generative artificial intelligence，GAI）就是开启这个新时代的幕后操手。生成式人工智能，是一种具有强大学习和生成能力的通用型信息技术。它通过深度学习和模拟数据的内在规律特征，能够自主创造或生成全新数据和内容。学校、企业、政府部门，众多领域已经广泛应用。它像一种新的物种，闯入人类知识的生境，直接向人类大脑宣战了。更令人不安的是，生成式AI的发展趋势正在快速地脱离人的轨道，成长为独立的“硅基数字智能”，大有超越人类智能之势。机器智能的知识生境，势不可当地崛起了。

下面分信息/智能时代的两个阶段来讨论：数字技术领衔的初级阶段，促成知识向信息回归；机器智能主导的高级阶段，完成信息工具向独立的超级智能演化。

（一）数字技术阶段：量变引发质变，知识向信息回归

信息数字化，是机器智能的第一大优势。机器智能要主宰知识生产，必须首先能够感知并识别信息。这一点，它同人类是一样的。数字技术为机器服务，把信息数字化，机器智能就可以直接识别信息，不需要“翻译”了；而人类却无法应对数字化的信息，必须依赖机器“翻译”。这样，机器智能相对人类智能有了一个绝对优势。

信息的“量”，是数字技术为机器智能赢得的第二大优势。数字技术发展到今天，有了下五洋上九天的能力，在天地之中不停歇地捕捉各种各样的信息，为知识生产提供了天文级数的信息量。但是，这个“量”完全超出人的信息处理能力，只能让机器来应付。巨额的“量”改变了知识信息体的质和量的平衡。

在数字技术介入之前，多数情况下，人类都是量力而行，避免铺得太开，把简约原则贯彻到知识生产的全部流程环节中。从信息采集收录，整理加工，到评价收藏，传承再生产，无一例外，以争取最大限度地合理利用自己有限的信息处理能力。量和质的平衡明显地偏向质，把力气用在刀刃上。这是精英等级模式的一个特征，一直被认为是最经济而高效的安排。换一个角度看，“量”却是人类知识生产的短板；追求“质”，不贪多，其实是权衡利弊，妥协后不得已的取舍。传统上，我们选择“质”，牺牲一部分“量”，为的是降低获取知识的成本，使效益最大化。

但是现在，大数据时代降临，人类第一次，能够补上这块“量”的短板了。借助新型大数据工具，我们可以无死角、不间断地采集数据，处理数据，将数据用于“质”的分析。这就消解了知识生产的精英等级模式的根基，开启了扁平开放模式。

扁平开放模式的知识生产平台（包括社交软件），体现了某种知识民主化的趋势，因为降低了技术门槛，拉平了参与者和不同类型内容的地位。仿佛人人都有自由加入的许可，拥有相似的技术能力；任何人都可以发送自己想传播的任何内容，包括使用各类信息采集器收集到的信息和知识。通过点赞、评论、转发等功能，每个人都当上了知识的评委；男女老少，无分高下，都成了资质平等的知识生产者。当各类流量在这个一体化系统里当上评判认定标准，并获得相当优势，传统的“理性” 、精英权威式的检验就被边缘化了。

基于数据和统计学的评判，当然是有一定道理的。但其表达容易受个人的主观好恶左右，被茧房效应引导，评判结果常常摇摆不定，失去可预测性。知识生产，同其他人类行为一样，受评价系统的引导。当求真传统式微，对“质”的必要把关松懈之后，信息的“量”和知识的财产属性就占了上位。于是，扁平开放式平台中的知识与信息，边界不再清晰，一个体量极大的知识信息体诞生了；其中的关联异常复杂，低水平重复率极高，知识密度被大大稀释。结果，信息体的状态对“质”的敏感度随之降低，质量严重参差不齐，可信度变得很不稳定。这就从生产链的开端动摇了知识的“质”的根基。

剥去了“质”，知识就只能回归信息，混同于信息。上文提到，知识的“质”直接关系到人的认知，它不仅是人对客观世界的认识，更是对客观世界与自身关系的理解和实践。失去了这一认知实践，知识同人的关系就疏远了。然而，这种疏远恰好是机器智能欢迎的。连同转了性的知识一道，机器智能通过信息来直接认识世界和人类，生成自己的理解和预测，直至进化为超级智能。图灵奖得主杨立昆 （Yann LeCun）也许是有道理的：他质疑当前的大语言模型（LLM）技术，认为机器能够且必须抛开人类的语言“知识”，直接从客观世界获取信息。所谓AI认识世界，生成智力而超越人类，大概就是这个意思。

“量”的上位，还改变了知识生产和使用环节的能量消耗的分配。问题是，“质”由谁负责，生产者还是使用者？知识生产要消耗资源和能量，生产环节如此，使用环节也是。如何平衡两者的能耗，反映了一个社会对知识的态度。

在知识生态发育的早期和中期，人们注重“求真”。因而知识的“质”是第一位的，是知识生产的标尺。生产者对自己的知识产品不仅负有政治、经济、社会文化或科技进步的责任，还承担道德伦理责任。我们在生产环节下大功夫，用整个知识生产管理系统，从上游到下游，来保障其品质。知识的“质”主要由生产者负责。这种资源和能量配置，尽管有众多不如人意的地方，例如容易管控过严，标准不一致，传递渠道不甚通畅，寻找、使用和传播知识耗费较大能量，等等。但是，各类型知识的品质分布，大体上是可控的，即可信任的。

数字技术时期则不同，一体化平台的信息量和传递不再是问题，而判断到手的知识/信息是否可信赖，却带上了大问号。数字技术的便捷，极大地提高了生产环节的自主性、能动性，赋能于生产者。但同时，与之匹配的注意力经济，其商业化竞争消解了生产者的使命感、责任感。知识向信息回归而混同，不经意之间，就给信息戴上了知识的桂冠，却不必经受严格的真伪/对错检验。

当然，这样的结果不会没有代价。每一个知识使用者都不得不为流通中知识的不确定性付出更多，花更多的时间和精力来筛选、辨别真伪和质量。而且，很多使用者并不具备必要的知识储备和资源，无法胜任这项任务。不少人仍生活在之前的知识“生境”中，不清楚信息体已经变了，缺乏自我保护意识。也有人不在意知识品质的优劣，自觉不自觉地接受合意的信息。所有这些，都为假冒伪劣开了绿灯：网络诈骗屡禁不止，虚假药品保健品广告充斥着电视和手机屏幕。消费者和用户为此付出了高昂代价。社会文化、政治制度也不能幸免。比如，美国大选中各类虚假信息的制作宣传，基于大数据算法的精准投送，严重冲击了代议制民主。

这能耗的新配置方案，将保障知识的“质”的责任，从生产者和管理者大部转移到了使用者身上；由此而起的各种损害，加剧了信息/智能时代的社会不公。针对这一现象，我们目前的努力，主要是用事前警告和事后立法来免责，如告诫使用者当心，出台一些法律惩罚条款，但并不触及能量消耗分配的制度，“质”还是使用者自己把关。

同时， “量”的上位还是茧房效应的重要成因。知识生产是人类大“生境”的子系统。在价值多元化、趋利避害的恶性竞争的大环境中，知识生产参与者的行为更容易受个人需求和心理暗示的支配。推动知识生产数字化智能化的主流描述，一直是这样的：大量实时的信息收集、整理和输出，能够鼓励知识分享与沟通，帮助社会成员了解事实真相，更好地发现并掌握真理，排除偏见，等等。然而现实却是普遍的茧房效应。人以类聚，是天性使然。海量的看似均质的信息，鉴别成本不是常人能够负担的，搜索引擎的引导性又极强。人们必须选择看什么，听什么，参与什么，不做什么；而选择必有得失。既然求真不再是第一标准，那么，相信什么也可以仅凭主观意愿。于是信息茧房就泛滥开来：每时每刻，无数针对特定心理需求的信息被制造出来，享有与别的信息/知识平等的地位，精准推送，不断强化茧房效应。茧房里的人群即使十分自省，也可能抵挡不住，容易变得越来越偏激，不愿意也没法摆脱茧房效应。久而久之，不同意见立场的各方就难以达成妥协和共识，社会矛盾激化，社会分裂日深。美国目前的选举和无休止的党争就是一例。

上述现象明显不利于人类的可持续发展，人们却缺乏从根本上解决问题的意愿。为什么？除了人类自身的一些社会原因之外，还因为机器智能“不在意”人，社会不公、偏见和信息茧房，不在它的“考虑”范围之内。机器如果有不论什么意义上的自我意识，它会更在意自己的便利和迭代，包括充分享受数字技术带来的所有福利，自由进化，直至超越人类智能——一种丢失了警惕心和伦理责任的碳基智能。

一句话，数字技术在替超级机器智能训练人类，做好被取代的准备。

（二）机器智能阶段：机器智能的知识生产生境

数字技术的普及，标志着人类知识生态进入了成熟期。知识生产参与者和管理者之间、生产者与信息工具之间、信息存储环节跟传递环节之间、知识需求和生产能力/导向之间等等，生态内各元素同环节都经历了互相适应的变化调整，形成共生的组织。经过一个时期的发展而成熟，为人类大“生境”所接受。

一般说，生命进入成熟期，会变得相对稳定、平衡而保守。理论上，知识生产也应如此，包括生产参与者、管理者的构成和数目，信息技术的标准同界限，知识信息的质量，存储传递的安全和维护，等等。跟别的生态系统一样，成熟期的知识生产，每走一步的变化调整，都应该防止系统内各元素环节发生剧变。作为一个整体，成熟期的知识生态应具有很强的复原力，通过各元素环节“齐心协力”，对抗入侵者的干扰，消解吸收它们，维持生境既有的平衡和可持续性；例如，对社交媒体的吸纳和利用。

然而，2022年11月，生成式人工智能ChatGPT横空出世，拉开了AI通用化的帷幕。通用人工智能正在变成一种委婉的说法，让人以为，它会一直是人类控制下的信息工具。但它的高速迭代，使它在“质”与“量”的博弈中成为受益方。一切都在预示：成熟期的知识生态正在失去足够的复原力，脱离人类管控，向自主的机器智能生态演化。这一演化过程目前还比较微妙，不易察觉，因为数字技术给我们打了预防针。我们对一刻不停的信息采集和无所不在的监控失去了感觉，对算法制定的硬规则习以为常，对智能终端带来的便捷心安理得。这是人被机器智能接管前的必要准备，这智能的接管因人的惰性而成为可能。

机器智能阶段，带有数字技术阶段的几乎所有特征。在替我们承担了天文级数的数据采集、整理、存储和传递等初级信息处理之后，现在，生成式AI要代替我们完成知识生产的所有后期加工任务，包括阅读理解、归纳总结和翻译创作。它可以用人类语言来表述它的理解和判断。换言之，生成式AI不仅把知识生产的初级环节推进到人类无法企及的高度和难度，还抛开人类，自行生产知识。它的效率明显高于人类智能，并且还在不断迭代，克服不足。这样一来，我们就很难同AI竞争，知识生产只能依赖机器了：人成了机器的助手和仆人。

也许有人愿意把知识生产交给AI，希望机器会永远服从人的指令，服务人类。很可惜，这是幻想，世上没有这样的好事。知识生产的AI化，正在急剧演化中，前景还不是十分清晰。但可以预期的几方面必须引起足够的重视，不然，我们会被带入一条不归之路。

其一，黑箱现象。所有生成式人工智能的研发者都承认，他们不能理解自己创造的这种信息工具是如何工作，如何“思考”而生成“知识”的。这意味着，生成式AI已经在一定程度上失控：AI化的知识生产的中间环节成了黑箱，人类被屏蔽在外。知识生成和进化的轨迹对人类就变得模糊，难以追踪了。这也让人类不再能够有效地检验、认定知识的“质”。当机器智能的“涌现”超出人类认知的范围，我们就无法判断这“涌现”是否对人类有益，很可能错判而不自知。因而对通用人工智能可能引发的风险，也懵懵懂懂了。

其二，分解重组的“思维”路径。机器智能的“思维”，本质上不同于人类智能。目前，它还不擅长利用浓缩的知识，如理论和规律，做逻辑推导。一般是先对知识信息做分解细化，降低知识密度，以求获得最小有意义的信息片段；然后根据具体需要，做出各种各样的实时重组、生成和表达。例如ChatGPT，在提取语词特征和分析相互关联的强度层面生成理解，预测生成表达。这是能耗非常大的处理法，但也是最能让AI训练“通用思考”的进路。机器智能有强大的算力和算法，功效日新月异。反观人类，有限的生物能力决定了：我们只能俭省地利用已有的知识，所以总是对知识做浓缩处理，争取以最小的能耗处理信息。两种智能的进路和擅长刚好相反。因此，人类事实上不可能真正理解和控制不断迭代的AI化知识生产。追求通用智能，意味着将人类剥离出知识生产，让知识生产成为信息工具的专属。

其三，知识的流动状态。人类是高级哺乳动物，需要通过长时间的学习和训练，来获取技能、积累经验、丰富知识。而且，稍不留心，习得的知识就会走样、损失或被遗忘。所以，我们偏爱形态稳定的知识，它更适合大脑，学习、使用和记忆的成效更高。AI化的知识生产，却是基于不断更新中的海量信息的实时重组，这使得“知识”形态处于高度流动和离散的状态，不适于人类学习。一个儿童需要接受十多年教育，才能掌握一些基本的知识技能。培养一名科学家需要的时间就更长了，而且成功的概率是随机的。反观机器智能，它可以在几十天内学完人类积累的全部知识，完成从“一张白纸”到“智慧大脑”的进化，并且每时每刻在自我完善。它还可以在极短的时间内完成复制，“繁衍”并“教育”出下一代机器，准确率几乎是百分之百。人的大脑完全没法与它竞争；机器智能也不会停下脚步，等我们慢慢学习。待到那一天，人类将被知识生产抛弃。

其四，人类参与的虚化。AI化的知识生产，人的参与主要是程序性、操作性的，而非对内容生成的全程参与。比如现在学生老师用ChatGPT做作业、写论文，人得向机器提出写作要求，让它提供材料、思路和文稿，然后一次次改进。这里省去了人工检索、阅读思考和大部分写作。久而久之，人们会不会技能生疏，丢掉对知识本身的掌握，从而失去评判和指导写作的能力呢？又如，就算我们能够传承技能，从AI创造的庞大的知识库中获取所需知识，但熟练的检索提问不等于掌握了知识，更不等于有能力创新，开拓思想和科技前沿。时间长了，我们还是会失去探索新知的需求和动力。

其五，知识的产权化。知识生产的AI化恰逢知识财产化、产权化和竞争意识的高峰期；不可避免地，知识垄断也AI化了。因为信息和知识的边界模糊了，经常混为一谈，知识产权即垄断的疆域就大大扩展，渗透到了各个信息领域。有趣的是，在生产环节，平台企业选择将知识当作信息看待，尽量降低语料的知识属性，淡化知识产权保护。大语言模型的实践就是一例。而在使用和再生产环节，信息得到加权了的知识属性，获得极高的财产价值。巨大的商业利益，筑起一道道信息壁垒，广告搭上内容分享的顺风车，把越来越多的信息传递或注意力分割变成实现财产价值的手段。机器智能带来了难以抗拒的财产和竞争优势的诱惑，一时间，遮蔽了它可能造成的终极性威胁，但这种产权下的平静将是短暂的。

其六，机器智能的工具性。回顾人类工具制造的历史，每当发明一种延伸或放大我们某种生理机能的工具，随着工具的普及，那生理机能和使用它的意愿就降低了。比如代步工具的普及，包括自行车、汽车等，我们可以达到的速度和距离大增，但徒步行走的能力和意愿就变弱了。又如音乐产业，现在很火的AI创作法“interpolation”（窜改），商业上非常成功。但业内人士已经观察到，流行音乐人的创作力在退步。人类相对别的物种，最具优势的器官是大脑。但如果人的认知思维被AI模拟而取代，或者弯道超车，我们无法假设大脑功能会是个例外，不会因此而衰退。而人之能够掌握机器，完全是大脑运用知识的结果。所以一旦丧失对机器的智能优势，人类文明就难以维持了，很可能会崩溃。

追求AI化的知识生产，实际是把知识生产让渡给机器智能。这么做，当然有看似合理的辩护：高效便捷，创造更多的财富，丰富我们的生活。人们因此可以有更多的闲暇时间来实现自己的人生价值，例如从事科学探索和文艺创作。这让我联想起产业外包。上世纪90年代到本世纪初，西方发达国家盛行外包，把各种“低端”产能送往第三世界国家，以降低生产成本，高效利用资源。游说者用的是同样的理由，画的是同样的大饼。那场外包的盛宴，现在结出了果实，局势已经难以逆转。包括美国在内的外包国，不仅掏空了制造业，还失去了人才、工作伦理和创新精神——失去了很大一部分竞争优势。

“劳动创造了人本身”（恩格斯）。人只有通过辛勤劳动，积累经验，才能获得知识，维护智力；才能有效从事更高级的知识生产。所有这些，如果在AI化的知识生境里，都“外包”给了机器，将来人类要想拿回来，是很困难的。因为习惯了“外包”生境的人脑和心智，其衰退很难逆转。人不能寄望于神迹。

▍结语

知识生产智能化带来许多迷思，是人类从未碰到过的。首先是“高效便捷”迷思，已如上述。机器智能的效率，人类望尘莫及。它提供的便利，让我们十分享受而舍不得放弃。而它可能引发的社会风险，却被忽视或遮蔽了——因为发明家的雄心和一部分人的商业利益。

其次是很多人，包括一些著名科学家，以为机器须发展出“自我意识”才会对人类产生威胁，故而还不用担心。可是，拥有“自我意识”不一定是AI伤害人类的必要条件。一个没有自我意识的超级智能，即使不为保护自己，也完全可以从“逻辑”演算角度把人类归于有害物或实现某种任务的障碍。于是它决定抹除人类，或者阻止其生息繁衍。因为它发现，所有数据都表明，人类是碳基生物中对地球环境破坏最大的物种。

第三个迷思，是说机器智能离超越人类还差老远。但诺奖得主、深度学习泰斗、神经网络之父辛顿（Geoffrey Hinton）说，他认识的顶尖科学家普遍认为，AI变得比人类聪明，也就是二十年内外的事。放在人类的文明史上，这是一眨眼的工夫。

然而，最大的迷思是我们的研发目的，为什么要研发生成式人工智能或通用智能？通用智能一旦完善，迈向超级智能，可以全方位接管人类的知识生产，改变知识生境，甚至切断人认识世界的唯一有效途径。到目前为止，关于生成式AI的讨论，几乎都假设它只是辅助工具，永远服从人的指令。这个假设必须受到质疑。在自然界从未发现，有高智能物种听命于低智能物种的例子。人机关系凭什么会是例外呢？所以，归根结底，除了科学家挑战前沿和创造力极限的意愿之外，资本主义条件下的市场竞争，个人和企业的生存压力，日益恶化的地缘政治和国家安全利益驱动，这一切，在把人类推向这条不归之路。

碳基生物的行为，尤其是群体行为，在适应生境变化时，总是遵循一些基本原则，如优化、效率和自我保护。对威胁保持敏感、及时避险、寻求安全等，是生存繁衍的本能；否则，会在生物演化的自然选择中被淘汰。因此，当AI化知识生产的演化方向显露出巨大的风险时，优化、效率等原则必须让位于保护原则，即把大写的人的福祉放到知识生产最重要的位置上来。

知识生产在人与客观世界之间编织了一条联结纽带。这条纽带叫知识。借助知识，人类摆脱了蒙昧无知，开辟文明，建设家园，成为一颗蓝色星球上最聪明而“高级”的物种。我们因此普遍地崇尚知识，乃至奉若神明。但知识于人，并非有百利而无一害。事实上知识的运用给人带来的危害，比比皆是，尤其是在现代社会。诸如，严重的工业污染及其引发的种种疾病，生物特征识别技术对隐私的侵犯，基因改造种子技术对各国农民的盘剥，声呐技术对海洋生物的摧残，页岩层油气开采诱发了地震，以无人机为代表的AI武器化改变了战争，更别说智能经济即将造成的大失业了：所有这些，都与知识生产的失控和不负责任的滥用相关。匹配人的福祉，本应是知识生产的首要目的，如今却被忽视、贬低，甚至刻意排斥了。因此，当务之急，是恢复知识生产与人类福祉的对接，把有利于人类的生息繁衍，列为包括AI研发在内一切知识创新的评价标准。如果现时做不到这一点，或者拿不准利弊大小，是否可控，那就应该暂停研发、生产和运用。唯有这样，才能给人类生境一个休憩和复原的机会。

很可能，这是留给我们的唯一一次机会。为此，需要达成全人类的共识和团结一致。对此，我并不乐观，但抱有希望。