AI风险治理亟须制度回应

2026-11-19 来源:中国社会科学网-中国社会科学报

微信公众号

— 分享 —
链接已复制

  近期,比尔·盖茨发声,警告人们AI一旦被恶意使用,可能造成十亿人死亡的灾难,并呼吁各国政府加强监管。不仅如此,类似忧虑也出现在科技企业内部。2026年9月,Anthropic和OpenAI的研究员相继离职,并公开表示AI可能威胁人类生命。这表明,最了解技术边界的人,对科技企业自我约束能力的信心正在动摇。他们的担忧指向了共同的议题:伴随AI技术的飞速迭代,AI风险有哪些特点,由谁来定义,又应当如何应对和预防?尤其在智能体出现并被广泛部署后,AI风险是否可控,治理责任与问责机制又该何去何从?一系列技术失控案例和各种担忧言论昭示着,AI风险已成为亟待制度回应的全球性治理难题。

  AI风险的三重特性

  与大模型有所不同,AI尤其是智能体具备工具调用与自主执行能力,能够在数字环境中连续行动,其风险呈现三个主要特征。

  其一,渗透性。在以内容生成和辅助决策为主的大模型应用中,系统输出通常需经过人的审阅、选择与执行,才能进一步转化为现实行为。人的判断既为模型输出转化为现实行动设立了一道过滤机制,也为法律识别行为主体、认定意思表示、配置注意义务和判断责任归属提供了重要依据。但是,智能体的工具调用与自主执行能力改变了这一过程。当获得相应权限后,其输出便可以直接触发外部操作,人类不再持续介入决策回路之中。

  其二,难以溯源与问责。大模型已带有较强的不透明性,智能体则进一步增加了黑箱性和技术复杂度。尤其在多智能体协同的链条中,辨识指令来源与行为偏离原因并非易事。2026年7月,OpenAI智能体入侵Hugging Face事件呈现了这一治理难题。调查所获运行记录缺少逐项行动的时间戳,数据集未覆盖全部相关通信与活动,部分工具调用记录还出现了小规模的伪装。调查者虽结合多来源信息重建行动顺序,但对重建结果的完整性与准确性仍然持有保留态度。这说明,留存大量运行记录并不一定能够形成完整、可信且可供外部核验的证据。智能体行动跨越多个系统,记录却分散在不同主体掌握的环境之中,一旦造成不良后果,对其溯源与问责将面临一系列挑战。

  其三,可控性弱化。就大模型而言,控制主要作用于输出端,生成过程的单次性与输出内容的可观察性,使既有监督机制尚处于能力可及的范围之内。智能体则显著改变了这一状况。凭借自主感知、规划决策与工具调用能力,智能体使被控对象的状态空间大为拓展。多智能体之间的协同联动,加之基础模型研发者、平台运营者、任务编排者与部署应用者分处产业链各环节,致使没有任何单一主体能够掌握完整的控制链条。“多手问题”不仅加剧了责任分配的复杂性,更造成监督职责与干预权限的分离。虽然“以智能体监督智能体”的思路可部分弥补这一差距,但监督者自身同样可能失效乃至受到欺骗,并进一步引发责任弥散与归责困难的问题。

  AI风险治理的三条进路

  与AI风险的渗透性、难以溯源性及可控性弱化相对应,其治理进路亦应在规制对象、问责基础与治理协同三个层面同步展开。

  前移规制介入的时点,从输出端管控转向行动链规制。风险渗透性的实质,在于人类判断退出了智能体输出向现实行动转化的回路,以内容审查为中心的输出端管控因而难以阻断风险的传导。有鉴于此,规制介入和控制的关口应当前移并嵌入智能体感知、决策与执行的完整链条之中。在纵向维度,应依据智能体的行动能力与风险等级配置差异化权限,对调用敏感数据、实施高风险或不可逆操作设置人工确认节点,使人类判断以关键节点介入的方式重新进入控制回路。在横向维度,应明确紧急停用条件与权限撤回机制,并确保用户授权在执行链条中以最小必要方式传递,防止权限在逐层委托中发生隐性扩张。

  夯实溯源基础,从形式化的透明度治理转向可审计的技术问责。智能体溯源与问责的困难,根源在于其行动过程的不可见与因果链条的不完整。然而,若回应之道仅限于要求形式化的事前披露与浅层留痕,不足以支撑可据以归责的证据基础。因此,数智时代的透明度要求,应实现从是否披露到能否审计与核验的制度性转变。一方面,立法应将可追溯性确立为强制性合规义务,尤其是针对具备自主执行能力的智能体系统,须建立覆盖任务规划、工具调用、协议连接与结果反馈的全链条日志标准,对关键操作强制标注可信时间戳,确保记录的完整性与防篡改性,并保留第三方可访问的审计通道。另一方面,责任配置应与各主体的实际控制能力、风险诱发程度及预防成本相匹配。对因违反记录、留存或协助调查义务而致使事实难以查明者,可依法适用不利推定规则,使其难以从自身造成的信息缺失中获益。

  回归公共理性,从企业自我监管转向公共主导与跨境协同。可控性弱化所揭示的不仅是控制系统与被控对象之间的复杂性落差,更是商业竞逐与地缘政治对治理制度空间的双重挤压。这一困境既无法经由科技企业的自我约束获得化解,亦非单一国家的内部治理所能独自应对。其根本出路在于,推动风险定义权与规则制定权从企业回归公共治理机制。前者决定如何定义风险,后者决定以何种工具加以应对。与此同时,还需要在可行限度内以跨境协调补强单一控制系统的能力不足。一方面,应依据风险的可识别程度配置差异化的治理工具。对于已知的AI滥用与失序风险,应科学匹配软法与硬法的治理实效,避免监管流于形式。而对于潜在的未知风险,应设计持续监测、独立评估与动态调整的制度安排,使治理体系获得随技术演进而调适的弹性。另一方面,智能体的行动天然跨境,治理路线与风险叙事的多元化本身更凸显重要性。对此,2026年7月,世界人工智能合作组织的成立为发展中国家参与风险界定、分享技术红利提供了制度入口,有助于打破前沿企业对风险叙事的垄断。只有让AI技术的创造者为其所造之物切实负责,公共治理机制才不致被企业的自我声明所取代。

  无论关于AI系统失控风险的言论能否得到最终验证,都已经显露出AI所蕴含的强大能力与巨大风险。提升AI风险治理的可控性,并不是要求研发者承诺消除一切风险,而是使技术创新和部署阶段的关键行动能够受到约束、损害过程能够得到溯源、相关主体能够依法担责,并在既有措施失灵时保有持续纠偏的能力。AI技术自主性愈强,其开发、部署与控制主体的制度责任愈不能随之弱化。

  (作者系对外经济贸易大学法学院副院长、教授)

【编辑:王禧玉 田粉红(报纸)齐泽垚(网络)】