随着移动化、智能化、社交化时代的到来,认知域作战已经成为世界各国关注的重点。认知域作战不仅是战时配合武力作战的一种重要战略手段,也是平时用于大国政治博弈的一种重要战略工具,在引导国际社会认知、塑造有利战略态势等方面发挥了极其重要的作用。2019年国际知名智库兰德公司发布了《虚拟社会战争的新风险——变化信息环境中的社会操纵》的研究报告,首次提出“虚拟社会战争”的概念,引发国际舆论关注。
虚拟社会战争,是指通过计算宣传、虚假信息、深度伪造、人工智能、增强现实等技术的应用,系统生成和传播特定的信息,对目标国家和地区进行社会信息操纵,以影响其民众的信仰、态度和行为,干预其社会、政治和经济正常运行并带来不利后果,成为认知域作战的一种新的样式。
虚拟社会战争的本质是操纵社会认知
“操纵”源于拉丁词语“manus”(手),意思是“有企图、有目的地对待对象”。俄罗斯学者谢·卡拉-穆尔扎在《论意识操纵》一书中指出,“手法灵活的魔术师利用观众的心理范式,引开、转移和集中其注意力,影响其想象力,并制造接受时的幻觉。当这些原则成为控制人的行为的操作技巧时,就产生了操纵这个隐喻的现代意义,即为大众的意见、志趣、情绪、甚至心理状态编制程序,其目的是操纵者制造出所需要的行为。”由此可以看出,操纵是一种向操纵对象隐瞒事实的潜在影响,是一种从精神上、心理上、认知上进行影响的形式,人的认知是操纵者的靶标。
虚拟社会战争,是借助人工智能、虚拟现实以及深度伪造等各种新兴技术,创造并改变人们基本社会现实的一种认知战行动,其本质就是一种社会操纵,是根据人的认知特点,通过信息来操纵社会认知,使其按照己方预设的反应方向发生认知转变,营造符合其利益的社会现实。
大数据、人工智能等技术的快速发展,使人们所生活的社会信息环境发生了深刻的改变,“后真相时代”的趋势逐步加剧。对于个人而言,在传播技术所带来的信息洪流之下,实现社会真相与社会认知之间的平衡与调和将变得愈加困难。英国前首相特雷莎·梅曾提出了“将信息武器化”的概念,认为以信息为武器,可以从内部削弱和颠覆一个国家的民主和政权。信息技术的发展加速了信息武器化的潜在影响,也拓宽了认知域作战致效的新途径。人的社会认知遵从“认知吝啬”或者说是“节俭性原则”,经常依赖显而易见的表面信息和简单有效的策略评估来对信息作出判断,以减少认知负担。换言之,就是以最小的信息处理能量损耗,产出那些最能提高繁殖适度性的行为,所以人们会使用各种各样的技巧,来将信息融入自己的世界观,接受来自他们认为可靠的信息源的信息,这其中就包括从众的社会心理。
虚拟社会战争,就是试图借助各种信息技术,实现对目标受众的认知操控,使其在信息洪流的漫灌淹盖、计算宣传的精准攻击、虚假信息的影响渗透之下,产生社会认知的“花车效应”,即主体在无法根据自己的认知能力判断相关信息的真实性时,往往会根据操控预设的社会主流意见来作判断,就像在参加花车游行时随意跳上一辆貌似最花哨的花车一样。在信息操纵下,认知主体往往会通过向社会主流或者相关权威“借脑”来缩减信息处理成本,进而在信息瀑布等裹挟下甘做“沉默的大多数”,因而被一些虚假性、碎片化、侵略性、机器操控的“主流社会意见”所左右,陷入认知陷阱。
新兴技术助推虚拟社会战争“奔现”认知域作战
技术虽然不能直接带来虚拟社会战争的作战效果,却能赋能增效认知域作战。信息与智能技术催生的“智能+”时代的虚拟社会战争,正呈现出物理、网络和社会系统虚实互动、协同共生的发展态势,正全面融入认知域作战的各个层次和领域。兰德公司的报告列举了社会操纵和虚拟社会战争的9项新兴技术:影响力的精确定位、人工智能、算法决策、虚拟现实和增强现实技术、物联网、智能语音、区块链、深度伪造和监控系统。这些技术将快速推动虚拟社会战争“奔现”,深度改变人们在变动信息环境下的社会认知,极大丰富认知域作战的策略手段和工具选择。
新兴技术的运用是如何对人的认知实施影响的?当前在认知域作战领域应用较为广泛的是以下五个方面的技术。
一是利用大数据技术精准绘制关键人群认知图景。随着大数据技术的出现,通过掌握目标对象的上网痕迹、购物经历、智能汽车出行、社交媒体使用等情况,就可以较为精准地了解到其性格特点及认知思维习惯,能够精准绘制出关键人群的认知图景,使特定的认知攻击和有针对性的信息隔离成为可能。
二是利用算法技术持续影响目标对象认知思维。谷歌广泛使用算法来塑造基于先验模式的搜索结果,亚马逊则运用算法来评估顾客可能感兴趣的其它产品。脸书为22亿用户建立了精细的心理档案,根据算法对推送内容进行精心的筛选,再通过效果评估进行算法调整或改变用户的信息流,过滤用户分享的内容,有选择性地让用户看到某些内容,分析用户受影响的情况,然后再有针对性的影响用户情绪,以左右其认知思维。
三是利用人工智能技术对特定受众进行饱和认知攻击。人工智能技术涉及使用计算机模拟对信息输入和处理的智能反应,涉及的领域包括模式和语音识别、策略选择、视觉感知和翻译等,通过机器的深度学习甚至可以超越人类智能,已经影响到了每个行业及个体在物理环境和网络空间日常活动的性质。如利用聊天机器人、水军机器人在社交媒体上对特定受众进行饱和式的认知攻击,使特定受众在这种信息攻击下无法正确判断当前的情势,也很难独立思考得出正确的结论,反而更容易被情绪传染而陷入预设的“认知陷阱”。
四是利用深度伪造技术干扰敌对方决策认知。深度伪造当前典型的应用形式主要包括:人脸替换、人脸再现、人脸合成、语音合成四种,未来深度造假将向着全身合成、音视频和图像综合合成等方向发展。一旦广泛应用于认知域作战领域,将增加虚假信息的泛滥程度,隐蔽干预到目标受众的认知判断,甚至影响到敌对方的决策认知。
五是利用增强现实技术模拟认知场景。该技术结合物联网、区块链等技术,可以构筑一个连接数字世界与现实世界的“元宇宙”,为用户提供一个沉浸式的虚拟空间。在这增强现实技术加持下,能够为特定目标群体量身定制其认知场景,实施有目的操纵,如通过典型宣传、正向引领引导受众认知,也可以通过制造压力、扭曲结果让受众产生挫败感,还可以通过发送特定信息向用户传播特定的观点或干扰,使认知域作战变得更加具身化、精准化、情境化。
前瞻筹划应对虚拟社会战争的思考建议
虚拟社会战争描述的是一个已经到来的现实,是认知域作战运用一个典型的场景。人人都生活在信息社会之中,这种以信息为基础、以技术为手段、以社会认知为攻击目标的作战样式,对未来巩固认知防线、保证社会安全、维护国家稳定等具有十分重要的影响,必须及早应对筹划,以牢牢掌握认知对抗的话语权、主动权。
虚拟社会战争中的社会操纵,最常见的手法就是敌对势力通过信息操作技术的广泛运用,有意炒作国内社会热点敏感问题,投放“专制”“威权”等预设的概念框架,制造形成操纵社会认知的标签效应、花车效应、茧房效应等,引导社会民众转而攻击政府、分化舆论。在信息洪流面前,具有独立思考判断能力的聪明者只是少数,社会民众很容易沦为提线木偶般的“群氓”。
一方面,要加大反制虚拟社会战争的理论研究、制度构建和技术研发力度,统筹军地高校、智库机构、媒体单位及专业团体的力量资源,构建完善认知域作战的相关制度机制,建立理论研究和技术研发团队,针对强敌认知域作战对我社会层面信息攻击的策略手法、技术应用等问题展开集智攻关,吸引互联网企业、科技公司等社会力量深入参与社会信息活动,共同参与网络信息的治理,研制开发反制深伪技术、机器人水军、虚假信息、舆情预警等新兴技术,切实从源头上把控认知信息攻击的关口。
另一方面,要加强对全民网络媒介素养的培养培训,加大反制虚拟社会战争的宣传力度,加快推进事实核查、辟谣防控平台的网络部署,提高社会民众对反华势力通过网络信息进行社会操纵的警惕意识,明确平台和个人制作、转发、传播假消息的法律和社会责任,联合企业主动为公众提供一些简单操作且可靠的技术支持,实时检测虚假信息、监控计算宣传走向,及时向社会公布相关证据资料,切实提升社会民众的媒介素养和防范意识,巩固社会认知防线,确保不被带偏节奏、落入圈套。
(作者单位:中国人民大学社会与人口学院;国防大学政治学院)