中国社会科学网综合外媒报道 随着生成式人工智能系统浪潮席卷全球，英国萨里大学（University of Surrey）研究人员开发了一款软件，用于验证人工智能系统从数字数据库中收集了多少信息。这款软件可以帮助公司或组织识别人工智能系统是否学习了太多甚至访问了敏感数据。

　　该软件的开发者、萨里大学计算机科学学院研究员索洛莫夫米奥诺纳•福尔图纳特•拉乔纳（Solofomampionona Fortunat Rajaona）提到，软件还可以评估人工智能能否识别出原有数据库或软件代码中的缺陷。例如，它可以识别在线游戏软件中是否存在有人利用人工智能掌握游戏漏洞而进行不当获利的行为。

　　拉乔纳还提到，在许多应用程序中都存在人工智能系统间的交互或与人类的交互。例如，自动驾驶汽车或医院机器人，只有弄清楚人工智能系统如何在这些交互中进行学习，才能知道人工智能存在哪些问题。

　　拉乔纳等人的验证软件可以推断出人工智能系统是否有足够的知识来实现目标，以及是否会因为拥有太多的知识而产生侵犯人类隐私的风险。只有通过验证人工智能学到了什么能力，人们才可以放心地将人工智能应用于各种场景之中。

　　对此，萨里大学人工智能研究所所长艾德里安•希尔顿（Adrian Hilton）表示，创建可以验证生成式人工智能系统性能的工具，对于巩固网络环境的安全性和有效性至关重要。只有正确部署人工智能系统，才能让人类信息的隐私性和完整性得到保证。

　　（赵琪/编译）