近年来，人工智能发展迅猛，被广泛应用于商业、物流、通信、交通、教育、传播、翻译等众多领域，军事领域也对其高度重视。大量研究和实践表明，人工智能大体可以取代人类在众多岗位上的工作，因此，用人工智能开展军事行动并主导未来战争中的所有行动成为人工智能在军事领域的目标。未来战争，实质是人工智能的战争。阿维·高德法伯与乔恩R.林赛在《预见与判断：为什么人工智能增强了人在未来战争中的重要性》（Prediction and Judgment: Why Artificial Intelligence Increases the Importance of Humans in War）一文中指出，未来战争中，人工智能不可能取代人类，人工智能不但没有弱化人类的作用，相反还增强了人类在战争中的重要性。作者认为，纯粹机器支持下的人工智能解决不了当下和未来战争中的问题，主要是数据的质量问题以及判断的困难性，加上对手的掩盖、欺骗和干扰，纯粹机器支持下的人工智能在未来战争中的作用将大打折扣。两位作者主要从战略语境、战争中的人工智能、人工智能在军事决策中的表现以及军事人工智能战略意义的讨论与反思四个主要方面论述了人工智能在当下及未来战争中依然无法取代纯人工，相反，人类的作用在未来战争中依旧重要。其分析过程和主要观点如下所示。为了便于对相关观点直接做出评价，我们也一并在各方观点之后给出了相应的评论。

　　军事组织决策的战略语境给人工智能带来了巨大挑战

　　作者指出，军事组织的决策会受到多方面的影响，总体说来，可能会表现为如下情况：（1）政治语境：政治语境主要表现为战略环境和设施条件与心理偏好；（2）技术语境：机器学习的快速推进可以完成包括图像识别、导航等在内的更加精准、复杂、便捷以及更大数量上的预报；（3）决策过程：本过程主要涉及目标、价值、环境的客观事实以及由此抽取出来的推理，也就是一个判断、数据以及预测的过程；（4）人机分工：人工智能的运用都是数据质量和判断困难性所形成的函数，数据的质量高低、判断的明确或者困难决定了人机在决策中的相对优势。

　　应该说，作者此处抓住了当前人工智能参与军事决策、担当军事具体角色、完成各种军事任务、实现战略战役意图过程中面临的主要宏观语境因素。政治语境往往是人工智能最难以把握的条件，国际政治与国内政治，特别是国际间外交关系不稳定性、国际政治的风云突变、国内政治的稳定与突变性、国际地理和自然环境变化的不可预测性、国际与国内人员的心理变化等，是人工智能难以把握的。在技术方面，尽管人工智能飞速发展，但是，其无法脱离对数据的高度依赖性，这使得技术发展等同于物理学中的基本事实，即物体的移动速度再快也无法超越光速限制。决策过程，是人工智能参与军事决策影响未来战争的最为重要的方面，也是战争背景下军事指挥最为复杂的过程。但是，目前还没有哪一个国家的军队、哪一支军队的指挥员能够如此自信地说，人工智能可以将决策的所有环节做到像人一样有独特的理性。面对庞大的数据，人工智能的最大优势是计算，但是，人类的先决条件是，有些数据不需要计算，凭直觉便能得出结论，更何况决策指挥往往体现指挥员更为高超的智慧与艺术。人机分工的语境实际上让我们愈发认识到，未来将有更多数据运用到战争决策中，人类可以将某些事务的决策权交给人工智能，必要的决策仍要由人类来做。人机分工实际走向的阶段，是人机的和谐分工与人机协同，尤其是人类对战争的理性、人性、道德与伦理的重视。

　　战争中人工智能在预测与判断上的不可靠性

　　（1）战略环境的不可控数据难免影响预测：这可能表现在数据本身以及数据的获得与使用上。数据方面较为突出的表现为：数据造假、数据受限、数据受控、数据无效、无法分析等。在数据的源头和数据分析中的主要表现为：数据源头众多，难以预料；数据分析受技术限制；数据范围随网络发展不断扩大，稀释有效数据；网络系统和软件易受多方干扰；黑客以及多方的袭扰；多种技术的冲突。

　　（2）军事管理的判断无法脱离人工参与：人工智能在参与军事管理过程中面临众多考验。第一，军事管理的判断是个主观性极强的问题。第二，运用机器学习来完成这个计算过程也不得不受人为判断影响。第三， AI使用的函数目标明确，各相关方为共同目标所牵引达成一致，发挥部队领导指挥力。军队的指挥往往要面临不同军兵种、分支机构、单位人员，各自的技战术、能力以及认知等都会有差异，让人工智能来解决这些集体行动问题时，难免会出现巨大的争议，往往会使得问题变得更糟糕。

　　在这部分，作者指出了人工智能参与军事指挥中不可不面对，而且至少当下无法解决的两个致命弱点：一个是数据的可靠性难以保证，一个是人工参与问题。关于数据的可靠性，在战争过程中，数据往往存在大量真假难辨的情况。再加上数据的受控性，作为对手一方以及第三方，可能有意控制某方面的数据，提供的数据也做了特殊内容以及逻辑关系的安排，甚至还有可能将数据做有意歪曲以及提供无理性的分散数据，使得数据分析结果毫无关联性，也无法得出有效结论，从而丧失判断能力。人类在未来很长时间内不会解决人工智能判断过程中必须有人工参与这一问题。当下的人工智能都是由人类设计出来的，尽管可以通过大量数据对其进行训练以及优化，但是，当下人类还不允许人工智能脱离人类事先的规定和约束，完全由人工智能来决定自身的设计与优化和升级。考虑到军事决策过程充满了变数，不可能将一个军事决策过程完全交给人工智能来完成。人工智能能够完成的，就是自动化的传递数据以及大批量的数据分析并提供结果。如果说一般的管理决策可以交给人工智能来完成，那么真正的关键决策，还是要交给人工来实现。实际上，考虑到军事管理的决策，特别是战争环境下更为复杂、更具有挑战性、更为受控的决策与过程，人工智能要想完美体现指挥员的个人决策魅力和意图，要想完全实现军队集体一体化行动以及多样化军兵种的个性化指挥，还有很长的路要走。人类战争条件下，每一个参战方，特别是作战者末端和高级指挥方对战争的执行有着很多的变量，比如，风雨冰雪、江河湖海、战斗意志、道路状况、运输能力、生产运行、材料补给等方面的变化往往会导致突发情况。因此，实际的战场往往变数大于设计。在军事管理与战场决策的众多判断中，即便是在未来智能化作战条件下，人工的参与将依旧处于主导地位。

　　人工智能在军事决策任务机制中参与受限

　　文章指出，人工智能在军事决策任务机制中体现了四种决策过程，也体现了相应的四种决策特点，其主要表现如下。

　　自动决策过程：人工智能性能的最佳案例就是“自动决策”。首先，它可以减少行政机构的工作。其次，人工智能有助于提高常规活动的效率和规模。最后，人工智能有利于优化物流供应链。但即便是在这些任务中，人的判断的介入才是自动决策提供决策的依据和判断的尺度。

　　人工决策过程：人工智能无法执行以有限、有偏见的数据和模棱两可、有争议的判断为特征的任务，这必须要人工决策来完成。对于军事战略和指挥任务来说，环境中的“迷雾”、组织中的“摩擦”等都需要人类的“聪明才智”来解决。每当“迷雾”和“摩擦”最大，最需要人类“天才”的时候，人工智能的作用就变得弱小了。

　　决策自动化过程：过早的自动化主要是指在条件不成熟的情况下开展人工智能的介入。在数据质量低下但机器有明确目标并获得授权采取行动的情况下，依赖人工智能尤其危险。当授权采取杀戮行动时，风险最大。另外，数据也可能存在偏差，而且机器也不能很好地理解人类的行为。过早自动化的风险在军事领域是极端的（例如，误伤和平民伤亡）。人工智能武器可能会无意中以无辜平民或友军为目标，或引发敌对报复。因此，AI 往往会不顾及后果地杀人。

　　人机合作过程：人机合作指的是在大量信息处理中需要人工和机器的共同协作。实际上，在许多判断任务中困难重重，要想获得高质量的数据必须介入人工。在实践中，情报分析人员处理欺骗性目标和模糊数据有着一种本能，人工智能难以学到这种基于本能的能力。将人工智能应用到这类问题的判断中是一项困难和挑战性极大的实践。但是，人工智能在人机合作中更多的还是在人工指导下解决复杂、庞大的数据以及分析复杂问题。不过，无论是高质量的数据分析，还是最后的决策，主导力量仍然是人。

　　以上罗列了当前人工智能在参与军事决策机制过程中，四种不同决策模式情况下人工智能所发挥的作用。尽管作者没有明说，但是我们能够感觉到，这四个过程要么是需要人工的参与，要么是人工智能的作用受限；在这个整体过程中，人工智能还隐约呈现出弱化的趋势。这四个过程可以重新解读为：自动决策过程中人工智能占主导地位，人工决策过程中人工智能决策受限，决策自动化过程中决策过早自动化以及人机合作过程中人工经验难以取代。在第一个过程中，显然人工智能能够体现自身在常规惯例性工作、大数据重复性任务、程式化程序性活动中的优势，但是，即便是在这类活动中，人的判断尺度和依据依旧是人工智能得以实现的关键。在第二个过程中，主要是那些数据偏小、态度性强、主观性突出、判断极易出现模棱两可情况，由于数据量不足，机器学习难以完成，而且每一个个案可能都有具体变化，无法形成总体的判断尺度，在这样的情况下，人工智能往往难以作为。人类独有的价值观、世界观、人生观、道德情感、个人精神境界以及个人工作经验，往往会对类似这样的决策做出非常合理的判断，这个是人工智能一时难以完成的，尽管这方面的实验依旧很多，但是人类决策中综合调用个人综合知识以及情感与价值判断的能力明显优于人工智能。在第三个过程中，决策自动化过程由于具有数据量庞大、处理数据反应快、分析数据结果实时化、读者界面亲近友好化等优势，因此，对于许多问题来说，人们特别倾向于一开始就将有关数据集合起来，并利用人工智能开展数据学习和分析，但由于数据可能刚刚开始呈现，或者数据易被操控或者安排，实际获得数据往往只是实际数据的前端部分，因此，无论是用人工智能进行深度学习还是用人工智能开展数据的分析，都会出现过早自动化分析的情况，所训练的人工智能或者说分析的结果都无法全面标识所关心的问题。而实际上，我们在开展任何问题研究时，很难保证我们获取的某个方面的数据代表了所关心问题的全部数据，尽管外部数据看上去很庞大，但是这个数据很可能只是有关事物的极为偏态或者极为局部、极为初期乃至不成熟的数据。在此基础上的人工智能，无论是训练和计算，其结果都是过早计算，过早代表了问题数据信息的全部。而人工智能自身，由于对于数据的高度依赖性，很难逃离数据本身的先设决定。因此，在战争背景下，如果人工智能的数据经常受到有关方面的干扰、破坏、欺骗、操控与设计，那么，人工智能得出的决策判断往往是不可信赖，甚至是非常危险或者可悲的。因此，完全把战争交给人工智能的结局肯定是可怕的：要么是战争出现了无限制的烈度，要么出现惨无人道的杀戮，毕竟人工智能很难做到人类理性的价值判断以及人道情感决策。在第四个过程中，作者高度强调了人机合作中，人工的判断能够在欺骗性、微小差别、模棱两可、模糊不清的数据以及多样化数据中产生一种高水平的判断，这是一种职业经验产生的本能；尽管人工智能能在大数据的学习中获取某些让人惊叹的结论，但是这样的分析标准和策略，始终逃脱不过人工的设计，也始终在人工的干预下不断调整。当然，我们还要指出的是，人工智能的价值观、道德感、人性和情感，无论如何是超越不了人类的，尽管其可以具备超强的知识含量、逻辑性和计算能力，但是在目前和未来相当长一段时间，考虑到人工智能在人机合作中的辅助处理数据地位，即便人工智能达到人类的敏感、复杂、敏锐、自觉与直觉，我们依旧还是会将复杂而重要的最后决策权交给人类本身。

　　针对以上情况，作者对人工智能在战争中的作用做了一番讨论和反思，得出如下结论：首先，军事组织使用的人工智能数据和判断都依赖人工的干预；其次，战争中的对手有动机使人工智能依赖的数据和判断复杂化；再次，现在人工智能机器取代人类战士所带来的优势还为时尚早；最后，人工智能所驱动的战争带来的不可意想的后果和争议日益突出。为此，作者强调，现在就认为人工智能将在战争或任何其他竞争活动中取代人类还为时过早。无论从战争本身的环境和条件，战争决策的过程，战争的人工智能深度学习与计算，以及人工智能参与军事任务执行中的表现来看，有充分的理由相信，即便是未来在由人工智能主导的战争中，人类的作用也会愈加重要。

　　此处，作者提出了与当下主流观点很是相左的观点：军事人工智能不会在战争中取代人类的主导，相反还会凸显人工在未来战争中的突出地位与作用。作者的观点应该值得人工智能研究者，特别是军事人工智能研究者的深度思考。作者从多方面分析了人工智能无法做到在未来战争中独当一面、独立人类、独行其道、独当大任：战争的多样化语境为人工智能带来不可逾越的挑战；战争中人工智能的预测与判断无法做到可靠；人工智能在军事决策中参与能力有限、无法完全取代人类的参与和决策。特别是强调了战争本身的难以把握性、多方因素的不可预知性、各参与方的难以捉摸和刻意设计与欺骗性，所获得的战争数据的复杂性、多变性、欺骗性、不可控性、难以确保真实性，人工智能在预测和判断中的脆弱性：人工智能所解决的问题、解决的依据、解决问题的过程、解决的程序以及解决的模型都受人工因素的影响，以及人工智能在军事决策中参与能力的受限三大方面，向人们展示了战争中人工智能还面临诸多挑战，给了我们重要的启示：人工智能要想主宰未来战场，成为未来战争中真正独立于人类之外的战士和战争指挥者，还为时尚早。唯有人类才是战争的主人和主宰者。由于人类对人工智能设计的高度主宰性，我们希望人工智能主宰战争这一天永远不会到来。作为人类的我们期望人工智能在战争的赛道上疾驰时，人工智能的开发者也要把伦理情感和国际法、战争法、人道主义始终作为底线，这是在地球上和平发展、和睦发展、和谐发展，追求美好、追求和平、追求幸福的基本保证。

　　当前，我们对人工智能的快速发展高度关注。特别是ChatGPT的发展，它在日常聊天、知识搜索、问题应答、难题求解、编写程序、经营管理、项目策划、语言翻译、论文撰写、文学创作等方面能够接受百般刁难，确实已向承担深度脑力工作的众多岗位拉响了警报。但是，无论人工智能怎样发展，无论类似于ChatGPT这样具有颠覆性的人工智能在军事领域怎样发展，人类才是人工智能的主导者和战争中的主宰者，也只有人类才能确保战争的人道性、合法性和有效性。但愿人工智能的发展能够消灭战争。

　　原文责任编辑：舒建军 马毓鸿

　　（本文注释内容略）