《弗兰肯斯坦》 资料图片

　　从科幻小说的角度来考察人工智能伦理问题是当下跨学科研究中的新锐选题。目前，最为前沿的人工智能技术以ChatGPT为代表，主要涉及计算科学，意图模仿人类的语言和思维，进而创造出等价（甚至超越）人类智能的电脑程序。随着人工智能技术的迅猛发展和广泛应用，必然会在社会中引发一系列的伦理问题。尤其在库兹韦尔“奇点理论”的加持下，不少人甚至担忧人工智能在通过图灵测试后，很有可能在未来取代人类。有鉴于此，对人工智能相关伦理问题的研究不仅是必要的，更是迫在眉睫的。值得玩味的是，来自诸多学科领域的专家在论辩时，常常引用科幻作品来佐证自己的观点，毕竟故事里的人工智能形象更鲜活，也广为大众所熟悉。

　　与现实科技相比，科幻小说中的人工智能描写并不局限于计算科学，还拓展至机器人（Robot）、仿生人（Android）、赛博格（Cyborg）等更为宽广的领域。并且，科幻作家对“人造智能生命”的想象和书写要远远早于人工智能这个概念被明确提出的1956年（达特茅斯会议）。姑且不论代达罗斯（Daedalus）和偃师造人的神话传说，仅从现代科幻文学之母玛丽·雪莱（Mary Shelley）的《弗兰肯斯坦》（1818）算起，科幻小说对人工智能的描写就至少持续了两百年。与科技界“曲高和寡”的艰深论辩相比，科幻小说借助“思想实验”这一特殊优势，依凭作家的生花妙笔，对人工智能及相关伦理的探讨更为具象，所设定的矛盾冲突也更为激烈，能够通过引人入胜的虚构故事来潜移默化地影响读者的伦理观念。

　　综观全球的经典科幻小说，从众多涉及广义人工智能的故事中，我们可以辨析出最基本的四大伦理范式：神本主义、人类中心主义、非人类中心主义、后人类主义。细细梳理，每种范式背后都囊括了海量文本，也都有着源远流长的文化传统和理论支撑。

　　一、神本主义范式。作为肇始于西方世界的一种类型文学，科幻小说自然无法完全摆脱以基督教为代表的宗教影响，神本主义的潜意识深藏在很多作品中。例如赫尔曼·麦尔维尔（Herman Melville）的《钟楼》（1855），身为基督徒的作者拒绝接纳人工智能生命。遵照基督教的基本教义，人并不享有毫无约束的自由，在上帝面前必须保持谦卑和恭顺。然而，科幻小说中的一些科学家却妄图复制上帝造人的神迹，通过制造人工智能来挑衅上帝的权威，最终却无法控制自己的造物，无奈落入被反噬的绝境。随着时代的发展和观念的演进，如今的科幻作家能够比前人更自由地探讨人工智能的相关神学问题。例如，迈克·雷斯尼克（Mike Resnick）的《机器人的信条》（2008）分析了人工智能是否应被允许有宗教信仰的问题；佐尔坦·伊斯特万（Zoltan Istvan）的《超人类主义赌注》（2013）明确表示：耶稣拯救的是所有生物，甚至包括人工智能；丹尼尔·威尔森（Daniel Wilson）的《机器人启示录》（2011）讲述了人工智能自称神灵、创立宗教、进而统治人类的故事。可以说，此类科幻小说在特定神学领域的形而上思考，即便与经院哲学相比，亦毫不逊色。

　　二、人类中心主义范式。科幻小说中的人机伦理关系以阿西莫夫（Isaac Asimov）创设的“机器人三定律”最为流行，其背后隐藏着一条基本的等级铁律：人工智能天生为人类的奴仆。该观点在《环舞》（1942）中被首次明确提出，1950年出版的小说集《我，机器人》则对其进行了系统阐释。在阿西莫夫之后创作的科幻小说，如果不是特意将人工智能伦理作为探讨对象，大多会秉承三定律的圭臬，如魏雅华的《温柔之乡的梦》（1980）。因为这暗合了思想界及文化传统里的共识：人类作为“宇宙的精华，万物的灵长”，必然比地球上的其他物种要高级，在等级关系中理所当然地位居上层。此类观点以亚里士多德的“自然阶梯”理论、康德的“人是目的本身”律令最为著名，据此建构的伦理学必然是以人类为中心的。从这一立场来看，人工智能即便拥有生命，也没有“灵魂”，依然没有脱离“工具”的范畴，被人类役使是“天经地义”的事情。

　　三、非人类中心主义范式。在阿西莫夫的三定律广为流传的同时，不少科幻小说却反其道而行，试图用精妙的故事和严谨的情节推演来证明：人类中心主义的伦理范式在预设人机关系时有着根本缺陷，机械控制论和内隐的丛林法则是该等级关系得以确立的基石，但科技变革极有可能在未来逆转双方的强弱地位。正如黑格尔提出的“主奴关系辩证法”，主人和奴仆的身份是可能互换的。就连阿西莫夫也毫不避讳这一矛盾，因此对三定律的“诘难”成为他后期创作的重要主题。此外，一些科幻作家还不断尝试非人类中心主义的选项，借鉴亚里士多德在《尼各马可伦理学》中提出的“情感”观点，试图让人类和人工智能构建公正、友好的关系。由于人类的情感是复杂莫测的，也许一些人和人工智能朝夕相处，会产生类似亲情的感情，例如王晋康的《生命之歌》（1995）；也有一些人会和人工智能产生类似友情的感情，例如江波的《机器之道》（2015）；更有人甚至和人工智能坠入情网，并最终成婚，例如阿西莫夫的《两百岁的人》（1976）。也许局外人会觉得匪夷所思，但当事人却认为这份感情和人类之间的感情相比并无差别。从这一维度来看，当人工智能具备了情感之后，也就超越了纯粹工具的定位。人类的伦理建构也应与时俱进，尝试探索一种互惠的人机关系。

　　四、后人类主义范式。后人类是近年来广受关注的科技和科幻议题。作为一种理论思潮，它形成和发展于20世纪80年代。面对血肉之躯不断被高科技改造的趋势，以唐娜·哈拉维（Donna Haraway）为代表的一批理论家相信：人类千万年的自然演化历程终将落幕，而人工自主进化的大幕正徐徐开启，未来的后人类（或称“新人”）将全方位（包括但不限于寿命、体能、智力）超越当今的人类（《赛博格宣言》，1985）。此类科幻小说的代表有玛吉·皮尔斯（Marge Piercy）的《他、她和它》（1991）、陈楸帆的《荒潮》（2013）等。关于后人类的具体形态，因科技发展和观念演变的不确定性，目前没有人能够给出准确的预测。科幻小说中的后人类故事，最早可以追溯至爱伦·坡的《被用光的人》（1839），主要描写了作为一时风潮的义体之美。20世纪中期以后，赛博格概念开始流行，涌现了一批以赛博格为主角的科幻小说，代表作是弗雷德里克·波尔（Frederik Pohl）的《升级人》（1976）。到了电脑出现的80年代，赛博格的一种特殊形态赛博朋克（Cyberpunk）越来越多地出现在科幻小说中，主要讨论电脑与人脑的融合问题，代表作是威廉·吉伯森（William Gibson）的《神经浪游者》（1984）。在后人类主义的拥趸看来，人类要想实现“星辰大海的目标”，就必须经历从猿到后人类的存在论升级，而人工智能则是促成这一跃迁的重要推力。

　　从上述分析我们不难看出，科幻小说对人工智能伦理的描写并不拘泥于特定时代的科技水平，更侧重与人类价值观演变的深度融合，在批判工具理性、弘扬价值理性的同时，凸显着终极性的哲学思考。作为一种相对超前而又无远弗届的思想实验，诸多科幻故事聚焦在了“什么是人”这个根本的哲学问题上。回顾历史，人类对这一“斯芬克斯之谜”的思考持续了数千年，而且诸如文艺复兴、启蒙运动等每一次文化观念变革，都会引发关于“人”的定义变化。古希腊传说中的“斯芬克斯之谜”，本质上是一个将人类与野兽区隔的哲学隐喻，宣告人类脱离了茹毛饮血的蒙昧阶段，进入了文明时期。而科幻小说对于人工智能故事的不断书写，则预言了后人类时代的终将来临。毕竟，作为一种特定概念和知识类型的“人”，只能是阶段性的：既有肇始之处，也有终结之点。持此类观点的学者以福柯最为著名，他在《词与物》（1966）中决然宣告了“人之死”，认为在可预见的未来，传统概念上的人“终将被抹去，如同海边沙滩上的一张脸”。

　　综上所述，科幻小说中所描写的人工智能伦理四大范式，既有建设性的乐观憧憬，也不乏悲观拒斥的消极元素。在审阅聚讼纷纭的各家观点后，笔者对人工智能伦理的未来建构持审慎中立的态度：基于科技发展、物种演化，以及价值观念的更迭，作为创造者的人类只有摒弃“物我两分”“主客对立”的传统认知模式，将作为创造物的人工智能纳入人类自身的进化论范畴，才能规避人工智能“反客为主”的风险，进而打破人机二元割裂的难解悖论，最终从人类“自相关”的维度推导出可持续发展的蓝图。

　　（本文系国家社科基金“科幻文学与人工智能伦理问题研究”（20BZW018）阶段性成果）

　　（作者系天津师范大学文学院教授）