斯瓦兰·辛格(Swaran Singh)/文

　　白乐/译

　　作为一款现象级的人工智能产品，ChatGPT的诞生带来了巨大的社会变革潜力，它的出现改变了众多行业的运作方式，一场有关知识共享的革命正在如火如荼地展开。毫无疑问，包括ChatGPT在内的新型自然语言处理工具为人类日常生活带来了巨大的益处。然而，正如人类历史上大多数科技革命一样，ChatGPT等人工智能技术的进步在使得人类生活更加便捷高效和轻松充实的同时，也会带来不可忽视的冲击与隐患。目前，研发领域对ChatGPT的改善仍在不断进行当中，预防和控制ChatGPT的风险需要一种国际综合协作的方法确保科技创新与网络安全，并保护所有利益相关者的权利。如何确保以负责任的方式开发和使用新兴技术从而实现造福人类的目标，将是各国面临的长期挑战。

　　ChatGPT内容输出存在局限性

　　ChatGPT旨在加强人类交流和知识共享，帮助用户分析处理海量数据并快速作出决策。事实上，ChatGPT在回答任何知识领域问题方面的速度之快，对于初学者而言都是令人着迷的。在提高生产效率、改善人际沟通和提升生活质量等方面，它的确发挥了极大的助益作用。然而，不得不指出，ChatGPT的输出内容存在很大的局限性。首先，与可以实时更新的搜索引擎相比，现有的ChatGPT版本最大的短板在于，其数据库的存储信息及语料素材来源仅限于2021年底之前，这导致它无法提供自2021年之后的前沿知识信息，对话生成内容也无法做到及时更新。若要使ChatGPT基于最新数据实现实时信息关联，还需要对其进行较长周期的模型训练，并等待新一次的系统升级。其次，ChatGPT无法回答超出其数据训练范围及情境知识的问题，只能快速便捷地为用户提供最基本的信息帮助，更深层次的内容还需要相关领域的专家进行反复审查、校验及进一步筛选。

　　ChatGPT观点材料存在选择偏差

　　鉴于ChatGPT由OpenAI开发并维护，而OpenAI是一家总部位于美国旧金山的研究机构，因此ChatGPT在文本生成方面必然存在“国家偏见”的问题。ChatGPT内容输出的质量直接取决于它的训练数据，而这些数据从新闻文章、各类书籍和其他在线内容等来源收集，这意味着纳入ChatGPT数据库的观点和材料可能存在“选择偏差”。同时，那些尚未进入ChatGPT网络空间的观点和材料不构成其数据集的一部分，因此无法确保ChatGPT呈现内容的客观性与公正性。

　　此外，尽管ChatGPT数据库收录的语料素材可以支持世界各国通用的多种语言，包括英语、法语、德语等，但基于英语的训练材料在ChatGPT的数据库中仍然占有过大的份额，这意味着因语言使用会产生不可避免的文化偏见，这些偏见进一步妨碍了其数据集的选择和训练模式。ChatGPT的偏见程度也取决于它从用户那里接收到的问题，用户的个人偏见也可能会增强ChatGPT的内容偏见及价值偏见。为了使ChatGPT成为世界范围内被广泛接受的工具，其创建者必须消除个人偏见或狭隘信念。

　　为国际安全与稳定带来潜在风险

　　正如历史上其他新兴科技一样，ChatGPT也为人类既定的生活方式带来了潜在风险。例如，ChatGPT的引入可以引发多种社会问题及伦理难点，包括传统岗位流失、个人隐私侵犯、主观偏见植入等。对任何技术而言，技术滥用并引发不良行为的可能性将长期存在，对ChatGPT的过度使用也必然会激发其潜在的恶意目的，例如网络攻击、网络战争、虚假信息传播等。在网络攻击中使用人工智能工具的主要风险之一是，它们可以被用来制造极具说服力的深度谎言对话或进行人类行为模仿，这使得检测发起攻击的源头及责任归咎变得困难，导致虚假信息和不当宣传的肆意扩散。

　　人工智能驱动的网络攻击还可以针对某国关键基础设施造成大范围的破坏，导致国家电网、运输系统或金融机构的瘫痪，从而进一步造成经济损失、社会动荡，甚至人员伤亡。在网络信息传播中使用人工智能工具可能会导致民族国家之间现有的紧张局势“螺旋式升级”，各国陷入针锋相对的报复循环，加剧国际地缘政治冲突并引发战争，对国家安全和国际稳定构成重大威胁。由于将攻击归咎于特定行为体变得更加困难，这将挑战国家主权和国际问责制的传统观念。

　　此外，理论上不能排除美国政府或任何其他实体滥用ChatGPT操纵政治叙事的可能性。例如，利用ChatGPT的深度造假技术操纵选举期间的公众舆论，或诋毁政治对手。ChatGPT也可被任何人用于远程监视或进行其他非法行为，其创建者或美国的监管机构都可能会对其运营产生影响和控制。鉴于所有的人工智能工具和技术都会带来类似风险，重要的一点是确保国际社会制定适当的保障措施，以防止任何形式的潜在滥用行为。

　　以合乎伦理的方式使用新兴技术

　　ChatGPT的创建者OpenAI声称已经制定了自己的道德准则，并宣布与决策者和研究人员密切合作以讨论如何优先考虑人工智能的透明度、安全性等。除了OpenAI，所有利益攸关方必须共同努力以应对ChatGPT可能带来的挑战，而良好的国际合作与协调机制是必不可少的先决条件。世界各国及国际机构需要通过共商共议制定规范、标准和法规，以便在网络安全和信息行动中以合理的方式使用人工智能工具，并确保这些工具不会用于任何非法或不道德的目的。这包括在所有行为体中提升透明度、加强问责制，以及加大针对人工智能攻击防御措施的投资研发力度。

　　纵观人类历史的长河，技术和伦理紧密交织。随着技术的日益进步和发展，道德考量变得更加重要。在新兴技术的构思、设计和开发的整个过程中，最大限度地利用技术创新为人类利益服务需要优先考虑伦理问题。这意味着从技术研发之初就应首先考虑技术对社会、环境以及个人权利和自由的潜在影响，而不只是简单地关注其在速度、准确性、效率和利润方面的益处。为确保技术与伦理之间的平衡，所有技术创新都必须使不同的利益相关者参与到其发展过程当中，将不同群体的观点广泛纳入其进步轨迹之中。事实上，技术与伦理之间相互促进、相辅相成。社会伦理决定了人类对技术创新优先事项的选择，而人类对新兴技术的适应则推动伦理观念的进一步合理化。

　　技术对社会的影响总是复杂多面的，充分利用新兴技术的关键是以谦逊的心态对待它。我们必须认识到，技术只是一种工具，其对社会的影响也取决于我们如何选择并使用。也许人们总是可以找到新的方式来使用它，但这并不重要，重要的是必须确保技术的使用方式能够造福人类，而非危害人类的和平与繁荣。如何以合乎伦理的方式使用ChatGPT，同时抵消其对社会的潜在负面作用，这取决于人类将如何干预并与之互动，也取决于组织机构或个人是否能做出明智的决定。

　　（作者系印度尼赫鲁大学国际关系教授、加拿大英属哥伦比亚大学客座教授）