中国社会科学网讯  4月26日至27日，第五届中国人工智能学会社会计算与社会智能交叉学科战略研讨会在浙江杭州举行。期间，“人工智能（AI）安全、伦理及可持续性发展”论坛围绕AI的安全与伦理议题展开了讨论。

　　人工智能对传统行业带来了前所未有的冲击，西南财经大学大数据研究院院长寇纲举例指出，AI能够以极快的速度生成与人类作家风格高度一致的内容。这一现象反映了AI在文学创作中的“降维打击”。寇纲提出，人工智能应当作为增强人类能力的工具，而非取代工具。若技术被少数大公司所垄断，普通劳动者面临失业与话语权丧失，这种局面将带来“图灵陷阱”。因此，AI发展应当致力于推动人机协作，避免社会陷入技术主导的困境。

　　中国人工智能学会（CAAI）社会计算与社会智能专委会主任、中国人民大学教授孟小峰提出，AI作为新技术的主导力量，正在创造一个全新的“人工系统”。AI系统本身的缺陷，尤其是系统故障的风险，意味着我们必须为AI设计冗余机制，确保其在故障时仍能正常运作。同时，AI技术所涉及的伦理问题，诸如公平、透明性和隐私保护，比传统计算机系统更加复杂。此外，AI技术可能被恶意利用，带来全新的安全风险。因此，只有从根本上解决这些伦理与安全问题，人工智能才能真正服务于社会，推动人类文明的进步。

　　如何看待AI背后的伦理风险，可以从人工智能的短期、中期和长期影响区别对待。香港科技大学（广州）教授齐晔认为，短期内，人工智能对就业市场的冲击尤为显著，尤其是在一些低技能、高重复性的劳动岗位上，AI的替代性将给社会带来深远影响。同时，随着AI在日常生活中的应用，个人隐私面临被侵犯的风险，公众对于隐私保护的担忧不断加剧。中期来看，AI的恶意使用以及环境威胁成为不可忽视的挑战。尤其是在军事领域。此外，AI的算力需求对电力的消耗提出了严峻考验，这对环境的影响不容忽视。齐晔提出，如何保持人类的主体性，避免被技术所主导，将是未来必须解决的关键问题。

　　从短期和中期来看，一些领域内的影响尤为显著，AI创作中的知识产权问题就是其一。北京大学智能学院研究员袁晓如认为，AI的发展正在重塑传统的知识产权制度。随着AI创作能力的提升，机器生成的内容与人类创作之间的界限逐渐模糊，这对现有法律体系提出了前所未有的挑战。他分析了技术进步带来的历史性焦虑，认为AI的迅速发展让我们处于一个快速变化的时代，这种变革的速度超出了以往的任何历史阶段。人工智能不仅带来了挑战，也为人类社会提供了新的机遇，尤其在人文社会科学中，AI为我们提供了全新的研究视角，推动我们重新思考社会伦理与使命。

　　除了作为工具之外，AI在很多情境中也被作为与人类的对照主体，一些问题的探求诉诸于AI与人类有本质差异。华东师范大学心理与认知科学学院院长周晓林提出，尽管AI可以模拟人类的情感和道德判断，但其缺乏真正的情感体验和道德自觉，使其在处理复杂伦理决策时存在局限。他认为，心理学应当深入参与AI系统的设计，帮助将人类的情感、道德规范与行为模式纳入其中，从而使AI更加符合人类的伦理标准，促进更高效的人机协作。基于这一认识，周晓林提出，AI的垂直化的系统更能保障人类的主动控制权与隐私保护，避免对个体产生不良影响。

　　浙江工业大学网络空间安全研究院院长宣琦主持论坛。他提出，AI的发展不仅挑战传统的伦理与安全规范，更推动我们对自身未来的深刻思考。如何在技术创新与社会福祉之间找到平衡，如何确保AI技术既能助力社会进步，又能避免失控和滥用，成为人类共同面临的重大课题。

　　（华南理工大学新闻与传播学院刘宇、中国人民大学新闻与传播学院吴小坤/供稿）