打破人工智能时代的信息获取悖论

2024-11-06 作者:王俊美/编译 来源:中国社会科学网-中国社会科学报
  本报综合外媒报道 联合国可持续发展目标16要求,根据国家立法和国际协议,确保公众获得各种信息,保障基本自由。近日,印度观察家研究基金会技术、经济和社会研究员安努莱卡·南迪(Anulekha Nandi)于该机构官网撰文表示,生成式人工智能降低了信息生成和传播的成本,导致信息过载和信息操纵,在一定程度上破坏了联合国可持续发展目标16中关于公众获取信息的权利,进而导致在人工智能时代出现信息获取悖论。

  信息获取被视为实现联合国可持续发展目标的一个关键要素,并成为国际发展倡议的核心。这些倡议旨在利用无线电等信息和通信技术,向服务欠缺的社区提供经济机会、发展项目和最佳实践的相关信息,以改善当地民众的生活条件。然而,信息获取受到了技术和社会发展的限制。生成式人工智能大规模生产信息与社交媒体强大的传播能力相结合后,引发了认知超载和偏见,使人们面临着大量的虚假信息与合成内容。

  南迪表示,人工智能输出的偏见助长了人们在作出个人判断时出现偏见的可能性,并呈现不断积聚现象,进一步加剧了社会的两极分化。信息获取的方式本应使人们更加积极地参与公共讨论和社会经济活动,但如今却经常导致一些不良后果,例如,通过“深度伪造”技术制造虚假的人物形象等。

  人们早期的信息获取主要取决于传输方式,即通过无线电或电视等途径,许多观点认为此类传输设备是发展成果的催化剂。南迪表示,随着数字技术的发展和互联网的普及,以及生成式人工智能平台易用性的提高,信息的生产和传播成本均在下降。此外,由于大型科技公司在前几轮数字化的基础上建立的数据供应基础设施发生了巨大变化,当下创造的数据可能会长期存在,从而增加了人工智能算法使用这些数据来增强其预测能力的机会。较低的内容生成成本,加之社交媒体强大的传播能力,提升了恶意活动的风险,这被认为是当今世界面临的最重大短期风险之一。

  除了内容生成之外,人工智能还可以通过内容的扩张和病毒式传播来增强社交媒体的传播能力,造成额外的复杂性。当前的人工智能模型是通过从网络上收集的内容而创建的,而未来的人工智能开发可能会在现有的合成内容上进行训练,从而破坏信息和真相的基础。使用合成内容会增加偏见传播的机会,并导致人工智能模型误差增加。这凸显了联合国可持续发展目标16中提到的获取信息以促进公众参与和社会经济发展的目标,与生成式人工智能和社交媒体共同影响造成的信息过载之间的矛盾。

  算法可以通过推荐引擎技术提供相关内容的可见性,而有影响力的人士则会利用这一点,将其策划的内容传播给受众。其实,当前许多国家已经开始制定相关法规要求技术人员标记出人工智能生成的内容,以便用户可以对内容的真实性作出明智的判断。不少多边组织也提出了提升媒体和信息素养的各类倡议,但人们的信息获取过程还是需要与人工智能技术快速发展及其大规模生产虚假信息的能力相抗衡。

  (王俊美/编译)

转载请注明来源:中国社会科学网(责编:程可心)

扫码在手机上查看