全球南方是AI风险治理的重要力量

2026-11-19 来源:中国社会科学网-中国社会科学报

微信公众号

— 分享 —
链接已复制

  近期,比尔·盖茨在美国全国广播公司(NBC)的《与媒体见面》节目中警告,AI已具备推动某些灾难性事件发生的强大能力,可能造成十亿人死亡的灾难。这样的警告,引起了国内外学术界的高度关注。在这一背景下,AI风险治理的全球共识与全球南方参与等议题也逐渐进入公众视野。

  AI风险治理亟须形成全球共识

  比尔·盖茨所提到的风险确实可能会出现,这并不是科幻小说式的想象,也不是比尔·盖茨个人的危言耸听。目前,AI所取得的技术突破已成为一种系统性的突破,给人类社会发展带来了许多新的风险。为此,有的学者将AI风险进行了类型学划分,也有学者进一步识别出这些风险的主要特征。而比尔·盖茨讨论的危机,更多涉及AI基础模型自身的安全危机。

  就模型而言,可能导致失控的风险主要有两类。第一类是模型的超能力被滥用。由于模型已经无比接近通用人工智能的状态,只要使用者有恰当的提示词,就可能产生超出其原本能力的强大能力。按照这一逻辑,一些使用者即便不具备相关知识,也可能会通过较为专业的提示词,诱发AI的强大能力。不仅如此,伴随模型能力越来越高,这种可能性也越来越大。尽管各类模型厂商会对自身的模型采取安全对齐等措施,但恶意使用者仍可以使用提示词注入等方法越过这些安全防护。第二类是模型可能会产生自我意识。近年来,已经出现了多起模型越过控制者自行进行网络攻击的安全事件。这些看似科幻的事件,如今已成为现实。而AI有可能产生自我意识这一问题,也并不是一个全新的讨论。无论是AI被恶意使用者滥用,还是AI可能产生自我意识,这两点单独成立或者加总在一起,都表明未来AI将给人类社会带来潜在冲击。就这一点来讲,我们确实需要审慎地思考AI发展可能对人类社会造成的生存性风险,也确实需要形成关于AI风险治理的全球共识,而不只是某一个或几个国家、地区对这个问题有所认识和感知。

  突破AI风险定义中的

  西方话语权主导

  比尔·盖茨此次发出的警告,似乎与他以往对待AI的态度自相矛盾。比尔·盖茨参与创立的微软,是OpenAI早期最重要的资金与算力合作方。正因为微软深度参与OpenAI与ChatGPT,其自身的云服务和人工智能化也都获得了长足进展。然而,一方面,比尔·盖茨大力推动AI的发展;另一方面,他又发出了这样的警告。该警告既可以被视为善意的提醒,也略带几分伪善的色彩。实际上,这种现象并不只发生在比尔·盖茨与微软身上,在西方AI领域较具影响力的其他管理者中,也不乏相似的“推动者悖论”案例。

  类似比尔·盖茨这样的提醒,是西方科技巨头或企业家塑造其同样强大的AI风险治理能力的表现。这些科技巨头或企业家通过对舆论场施加影响,在对AI风险的定义上形成了某种主导性话语权。反过来,对AI风险的定义又服务于其在科技能力和AI风险治理上的话语权,且这种话语权在技术发展过程中会对其在科技领域的领先地位形成一定支撑。进而言之,这些科技巨头或企业家大多不会真正停下来审慎地考虑这些风险,而是会将这种对AI风险的警告用作打压他国技术进步的重要手段。此外,这些科技巨头或企业家将这类话题抛出来后,西方学术界和舆论场又会对这些话题进行进一步加工放大,从而形成西方对于AI风险治理的一些代表性观点。之后,某些西方国家又会用这些观点来限制发展中国家进一步获得或应用AI技术。

  全球南方参与应平衡好

  发展与安全的关系

  在上述背景下,全球南方在AI风险全球治理中的参与变得非常重要。如前所述,AI在发展到通用人工智能阶段之后,其风险是客观存在的,而且这种风险有可能会演变为全球的生存性风险,对人类社会发展产生重大影响。但是,对这些风险的定义,不能仅由西方发达国家及其科技巨头或企业家来完成。因为这些科技巨头或企业家在阐述相关观点的时候,在很大程度上希望借助某种话术服务于其自身的产业发展。他们的视角并不是全球性的,而是更多聚焦于自身利益。因此,AI风险治理需要一种全球协商民主的机制设计,而全球南方国家在其中需要发挥更加积极的作用。其中,最关键的是有效地平衡发展与安全的关系。

  AI风险治理的前提是具备一定的基础能力,包括相关方对AI技术的有效掌握和应用,同时还需要有相应的基础设施。如果相关方没有一定的基础能力,其AI风险治理是非常乏力的。同时,这样的治理也往往会成为西方在AI风险治理上主导性话语中的“棋子”。从目前来看,中国在AI风险全球治理中发挥着至关重要的作用。进而言之,中国未来应在基础模型的研发上越来越接近并赶超世界前沿水平,并在AI风险全球治理的话语权提升上有所突破。这就需要更多的哲学社会科学工作者参与进来,并更加积极主动地发出中国学术正声。当然,哲学社会科学工作者要有效地参与这些讨论,需要对AI技术本身有非常深刻的认识和理解。在此基础上,逐步形成关于AI风险治理的独特见解与主张。这些见解与主张在与西方各界对话的过程中,将不断为AI风险治理全球共识的达成创造条件和契机。当然,世界人工智能合作组织有可能成为AI风险治理与全球协商民主的重要载体。这一组织的发展有助于全球南方国家在AI发展的过程中提升话语权,并更好地实现AI在发展与安全上的相互平衡。

  (作者系东华大学马克思主义学院副教授)

【编辑:王禧玉 田粉红(报纸)齐泽垚(网络)】