首页 >> 哲学 >> 科学技术哲学
致毁知识与科技伦理失灵:科技危机及其引发的智业革命
2019年12月31日 12:15 来源:《山东科技大学学报.社会科学版》 作者:刘益东 字号

内容摘要:

关键词:

作者简介:

Ruin-causing Knowledge and the Failure of the Ethical Governance on Science and Technology: Science and Technology Crisis and Their Intelligence Industry Revolution

  作者简介:刘益东(1961-),男,北京人,中国科学院自然科学史研究所研究员,博士生导师。北京 100190

  原发信息:《山东科技大学学报.社会科学版》第20186期

  内容提要:以致毁知识不可逆增长为核心的科技危机是人类面临的最大的危机与挑战。化解科技危机,当前既有科技发展的乐观派、认识误区根深蒂固、科技发展模式的内外缺陷等难点,更有科技伦理失灵、“囚车剑魔”(PTSR)四大困境、科技冷战与军备竞赛等制约因素。在知识极易扩散的互联网时代,科技伦理因不能约束所有研发活动而失灵,目前兴起的基因技术伦理、人工智能伦理等尖端科技伦理难以奏效。化解和应对科技危机与科技巨风险,必须大力推进以社会科学与交叉科学崛起为特征的新科学革命、以受控技术崛起为特征的新技术革命、以智库与文创产业崛起为特征的新产业革命及人类社会发展模式大转型。只有这样,才能彻底摆脱修昔底德陷阱,共建人类命运共同体,引领世界的和平发展和永续繁荣。

  关键词:致毁知识/科技危机/科技伦理失灵/智业革命/科技底线伦理/研究与编导/科技巨风险

  标题注释:中国科学院自然科学史研究所重点培育方向“科技的社会风险”项目支持。

 

  这是一个快速发展、急剧变化的时代,关心未来成为人们的迫切需要。汤因比的挑战与应战说是思考未来的有效方法。无论是个人、集体还是人类社会,洞察和预知面临的最大危机与挑战都是头等大事,因为它直接决定处境判断、及时应对和战略抉择,面对什么比拥有什么更重要,这决定了自己的安危和出路。为此本文探讨三项内容,一是人类面临的最大危机与挑战是什么?二是化解最大危机与挑战的难点和危机严峻程度,三是科技危机引发的以新科技革命、新产业革命与社会大转型为核心内容的智业革命,最后是主要结论、展望和启动方案。

  一、以致毁知识不可逆增长为核心的科技危机是人类面临的最大危机与挑战

  人类面临的最大危机与挑战是什么?这是关心和思考社会发展与人类命运的有识之士乐于回答、也必须回答的问题。可以说,以看护人类为己任的思想家、学术大师、专家学者、哲人智者们往往都会展望未来、探究人类面临的危机与挑战。看护人类、为世界体检看病,首先关注的当然是最严重的病患。谁能够最先、最深刻、最准确地发现人类面临的最大的困境、危机与挑战,谁就揭示了关乎人类命运的头等重要的奥秘。这既是最具现实意义的探索,也形成了争相探究最大危机真相的高端智力竞赛。

  1945年原子弹爆炸之后,“科技发展下去将发生毁灭性灾难甚至毁灭人类”就逐渐成为流行的观点,甚至在电影银幕上大行其道,但这种看法并没有得到学术界和社会主流的认可,迄今为止悲观派与乐观派仍然各执一词。笔者认为,两派是不对称的,如果悲观派错了,至多只是放缓、延迟科技的发展而已,如果乐观派错了,则将积重难返、万劫不复,将错失人类自我拯救的最后时机。

  为突破悲观派与乐观派相持不下的学术僵局与科技发展乐观论这一主流共识,更为探究“科技发展下去将毁灭人类”这一判断是真是假?笔者于1999年提出“致毁知识”概念并以其增长、传播、扩散、应用、禁止、治理等为研究对象开展科技巨风险研究至今20年,提出独特的基本假设、核心概念、核心问题、研究思路、分析框架与方法及基本结论,开辟了以科技巨风险为专门研究对象的学术领域,将科技发展下去会发生毁灭性灾难甚至毁灭人类这一老生常谈转化为严谨的学术研究,对其进行了较精确的表述并作出充分的肯定性论证,并给出条件关系。所谓致毁知识,即可用于制造毁灭性武器等导致毁灭性灾难的各种产品或方案的核心原理、核心技术等核心知识,如核裂变知识、链式反应知识、DNA重组技术和基因编辑技术。核裂变知识出现的1938年是致毁知识元年。致毁知识概念的基本内涵非常鲜明,核裂变知识、DNA重组技术等非常独特,一旦应用破坏力巨大,但是其外延则因不断有新的尖端科技出现而有所变化,存在半致毁、软致毁知识等,而且从不同学科的角度也可以有大同小异的理解。拙著《智业革命》对提出致毁知识概念的合理性、狭义与广义、硬致毁知识与软致毁知识等有详细讨论[1]158-163,在此不赘。笔者提出的核心问题包括三个前提和一个问题,三个前提是“尖端科技的正负效应不可抵消、科技知识增长不可逆、知识与应用具有连锁效应”,一个问题是“在科技知识增长的同时,能否阻止其中一类破坏力极大的科技知识——致毁知识——的增长与扩散?能否有选择地生产知识?能否有选择地进行创新?”在这三个前提下,凸显研究该问题的至关重要。尖端科技正负效应不能抵消、不能弥补,即无论尖端科技的正面效应(如核电站、核医学)多大,也无法抵消、无法弥补其负面效应(如核武器灾难、核事故),是“一坏遮百好”,是可以扬长却不能避短;科技知识增长不可逆意味着可以销毁核武器、却不能销毁制造核武器的知识;知识与应用具有连锁效应,R&D就是连锁的制度化。越是威力巨大的知识就越要付诸应用,意味着尖端科技会被军方制度化地、在法律保护下用于武器研发(往往声称是用于防御),显然科技伦理就会失灵,因为仅对非军用领域进行伦理约束并不能禁止该致毁知识的增长,或早或晚必然会扩散。因此是否接受和发展一种科技,不是由其正面效应决定的,而是由其负面效应能否被化解所决定的。这与目前的科技发展观完全不同。显然用致毁知识概念分析科技风险要简洁有效的多,比如用双刃剑分析容易陷入各执一词,用不可抵消的致毁知识则很容易说清楚是否该禁止;又如关于限制AI发展问题,并不需要发展到接近或超过人脑才必须禁止,只要AI武器可制造毁灭性灾难,只要利用AI可以研究出致毁知识,在此之前的AI就必须禁止了,那种“AI不会超过人脑”的说法不能成为无所顾忌发展AI的借口。

  笔者研究表明,致毁知识增长与扩散是不可逆和不可抵消的,在目前世界主流科技与经济发展模式下,致毁知识的增长与扩散又是不可阻止的,这意味着人类面临毁灭的危险是不断累加和递增的,达到一定程度必然会发生毁灭性灾难,而且这种不可逆增长的危险累进方式,使得毁灭性灾难发生的几率越来越大,如不及时制止,必然直至爆发。这是科技的生存危机(简称科技危机),也是人类面临的最大危机和挑战。[2,3]目前恐怖及个人恐怖主义盛行,企业实验室与创客的知识生产更难以控制,互联网使致毁知识易于扩散,人类处境越发凶险。简言之,人类面临的最大危机和挑战不是好东西(自然资源等)快消耗殆尽,而是坏东西(“三废”、致毁知识等)越积越多快到地球容负容废的极限,[4]而且这种自毁进程陷入“动车困境”而难以终止。[5]

  造成科技危机的原因是多方面的,主要有如下五项。①科技模式自身的缺陷。长期以来的科技发展大多是粗放式发展,科学技术与生俱来的在观念(科学无禁区)、机制(只有关于理论与事实符合与否的纠错机制,没有关于科学发展与应用正确与否的纠错机制)、体制(优先权和专利权制度,眼前利益优先)和管理(奖惩极不对称)方面存在的内在重大缺陷。②科技与社会关系方面的缺陷。现行世界主流科技与经济发展模式是18世纪工业革命之后形成的,其核心特征是科技与经济一体化并在市场经济的体制机制下运行发展。正如名著《后工业社会的来临》的作者丹尼尔·贝尔所指出的“通过研究的制度化,把科学并入现行的经济结构,使之成为商业组织的一个正常部分”。与资本的结合是系统性的,从观念(科学技术的优先权和专利权竞争与资本的眼前利益优先是一拍即合)、组织(R&D、科技园区等)到制度(科技经济一体化、知识经济制度等),这种结合一方面使得科技发展迅猛,另一方面也呈现出短视行为、忽视科技风险、忽视负的外部性的特征,体现出资本主义制度的贪婪和短视。美国著名经济学家瑟罗(Leste C.Thurow)指出当代资本主义具有贪婪、利己主义、生产力和缺乏远见等四大特点,资本主义最基本的原理就是激发人的贪欲,只考虑如何在此时此地获取最大利益。[6]③技术理性和商业理性。工业革命在思想观念上的最大变化是不仅使得技术理性和商业理性得到极大发展,而且两者紧密地结合生成一种新型的强势理性,成为主导社会、全面渗透社会的思想力量,笔者将其称为“技术-商业理性”,并以此为基础形成新型的“技术-商业意识形态”,与相应的制度、组织、管理和科技等因素一同建构出“技术-商业社会”或“科技-商业社会”。[1]100-105按照李约瑟的概括,西方文化在涉及科学方面有两个特点:“第一是认为科学是认识和理解宇宙的唯一有效途径;第二是认为将科学应用于掠夺性技术从而增加个人财富是天经地义的”。[7]④人性中的好奇心、竞争性、占有欲。这些天性在科研体制机制中得到很好的保护和激励,也造成了只顾个人眼前利益。⑤利益驱动的辩护系统和话语系统,使得危机愈演愈烈。贝克(Ulrich Beck)利用“有组织地不负责任”概念进行了深刻的分析,他在《风险时代的生态政治》一书中指出:公司、政策制定者和专家结成的联盟制造了当代社会中的危险,然后又建立—套话语和理由来推卸责任。[8]利令智昏,资本主义的缺乏远见,也让一些绝顶聪明的战略思想家目光短浅。例如,布热津斯基提出的著名“奶头乐”战略,要采取麻醉、低成本、半满足的办法解除世界上80%“边缘化”人口的不满,让20%高端人口高枕无忧。他在自己的得意之作《大棋局》中直言不讳地写道:“这世界上没有什么对与错,只有国家利益最大化。”在笔者看来,布热津斯基只知其一不知其二,缺乏对科技及其巨风险的深刻理解使他(也包括基辛格等貌似深谋远虑的人物)根本驾驭不了人类发展这样的宏大主题。从总体上看,资本主义社会何尝不是沉溺于追逐金钱和消费的“奶头乐”生存方式呢,以致目光短浅,丧失了思考人类命运和未来发展的能力。国家利益最大化是以人类持续生存为前提的,当代资本主义是科技资本主义,追逐科技与资本及其结合的游戏就是加强版本的“奶头乐”生存方式而已,损人害己,高科技时代的丛林法则、弱肉强食只能玉石俱焚、共同毁灭。综上所述,产生科技危机的原因是观念、文化、组织、制度、结构、系统等多方面的,因此也是制度危机、文化危机、系统性危机。科技在争议中快进,20年的研究与观察不断验证了笔者的判断和预言。

作者简介

姓名:刘益东 工作单位:

转载请注明来源:中国社会科学网 (责编:李秀伟)
W020180116412817190956.jpg
用户昵称:  (您填写的昵称将出现在评论列表中)  匿名
 验证码 
所有评论仅代表网友意见
最新发表的评论0条,总共0 查看全部评论

回到频道首页
QQ图片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
内文页广告3(手机版).jpg
中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|联系我们