规制教育数字化转型中的算法权力

2024-07-26 来源:中国社会科学网-中国社会科学报

微信公众号

分享
链接已复制

  2024年全国教育工作会议明确提出“要不断开辟教育数字化新赛道”。当前,教育数字化转型加速向纵深推进。从技术层面看,教育数字化是数据驱动的算法应用,建立在优化的算法和强大的计算速度基础之上,“一切皆算法”成为教育数字化的底层逻辑。在可预见的未来,算法在教育领域成为制定规则与引领思想的重要权力,它将从根本上决定教育数字化转型的路径及其可能达致的成就。算法在教育领域中发挥的作用包括推动个性化学习、优化教育空间、解放教师等。但算法的滥用或误用也有可能导致教育的同质化、人的主体性的消解、教师教学技能的退化等问题。基于此,审慎且辩证地审视算法教育应用的利弊,采取措施规制算法权力,寻求突破算法局限的教育数字化转型路径显得颇为重要而迫切。

  首先,基于“以人为本”的教育价值观“驾驭”算法,构建良好教育算法生态。算法是由设计者编写的,每一个算法架构都代表着判断,都意味着取舍,都承载着价值。如果不给算法植入正确的价值观,它就会被错误的价值观所俘获。在数字教育高歌猛进的当下,越来越多的人和教育机构过度追逐算法驱动的精准教育,将教育者和受教育者变成效率为先、算法设计的普通代码而背离人的全面发展,这与教育育人的本质是相悖的。通过优化算法设计,将正确的价值观纳入数字教育的决策设计,是防范风险、形成科学决策的内在要求和价值指南。

  从算法设计的视角来看,需要把握一个适切性的标准——人是技术的尺度。要明确算法的应用是为了更好地服务教育、服务人的全面发展。加强算法技术教育应用的设计关口,明确以算法服务师生的教与学为基本原则,充分重视人的教育体验,尊重人的身心发展规律,让算法的底色中嵌入更多柔性化色泽;定期对算法工程师进行专门的伦理与道德培训,让他们了解算法技术发展与伦理、法律的关系,树立“科技向善”的价值理念,明确自己承担的道德义务和社会责任,认识到正确的算法不仅要有“精度”,更要有“温度”。

  在数字化教学中,同样要秉承“以人为本”的价值理念。面对算法技术的强势影响,教育工作者要深刻认识到,无论技术怎样进步,都应该保障和促进人的发展。为了彰显师生在数字教育中的主体地位,教师要有正确的角色定位,明确在教育数字化转型中自身的主导地位,充分利用丰富多彩的数字教育资源,基于学生的兴趣和认知差异来设计、引导与组织教学,为学生学习赋能,并及时运用教育智慧应对教育中的突发问题;师生要有高度的自觉意识,正确看待并应用算法技术,发展自身的个性、技能、素养,提升对算法技术的驾驭能力,避免掉入数字教育的“效率陷阱”。

  其次,明确算法的教育限度,维护“教育边界”。算法本质上是数学模型,是互联网技术的典型代表。从技术属性层面上讲,算法本身无所谓好或坏,它的好坏取决于如何运用、是否已厘清运用边界。在数字教育实践中,许多教育问题是由于算法运用边界的僭越与失守造成的。

  如若在教育中“善用”算法,教育者必须为它设立清晰、准确、合理的运用边界和使用范围,而不是毫无戒备地接受算法规则及其条款。为此,教育界需要明晰以下问题:教育能从算法中获得什么,又因此失去了什么?哪些工作需要使用算法,哪些工作不需要使用算法也能做得很好,还有哪些工作不能使用算法?算法能否完全取代教师,未来教师的角色是什么?对这些问题的回答实则指向教育和算法相处的规则,从更深层次则指向对教育本质的追问。

  人工智能与人类智能存在的本质差别,决定了算法在教育中应用的限度与定位——在现在乃至未来的很长一段时间,算法只能是教师的智能助手,不能取代教师的教育价值和功能,尤其替代不了教师对学生精神世界的影响。算法有其应用的边界和条件,可以把批改试卷、整理数据、答疑解惑等机械、重复、标准化的工作让渡给智能机器。但由于教育的系统性和学习过程的复杂性,算法技术又不是无所不能的,即使再先进的算法也不可能有人类独有的想象、共情能力,在人际交流、情感教育、灵活应变等方面无法完全取代教师的作用。质言之,教育是人的教育,人只能由人来培养,不可能由机器来培养。

  最后,打破算法“黑箱”控制,斩断教育被隐形控制的源头。“黑箱”原是控制论中的概念,指的是那些既不能打开又不能从外部直接观察其内部情况的系统。算法“黑箱”用来比喻算法过程的不透明性和操作的复杂性。在算法“黑箱”下,由于难以洞悉算法背后的理论假设、算法路径和实现逻辑,教师只能机械地运用智能软件,学生只能被动接受算法结果。打开算法“黑箱”,将“阳光”洒落在算法运行的过程,是消解数字教育应用中的算法偏见、算法歧视以及算法控制风险的理想手段。

  一是加强教育数据的可查性。算法对数据(大数据)的强依赖性决定了算法透明的前提是数据透明。一方面,算法设计者应公开数据的来源、类型、收集方法和处理过程,并提供对关键特征的解释,确保教育数据来源可查、内容可查、应用可查,消解算法“黑箱”对教育的控制。另一方面,应规范数据备份流程,并及时备份数据,如明确标注数据采集的城市、学校、时间以及样本的年龄、性别、学习习惯、成绩考评等相关信息,确保数据的备份记录具有合法的可访问性与不可篡改性,保证数据的完全真实与不可伪造。

  二是建立算法程序公开机制。算法提供者需要及时、有效地向教育利益相关者(包括教育工作者、学生、家长等)公布算法机制机理,解释决策过程及应用情况,实现算法的公开透明。不可否认的是,由于算法的复杂性,即使公布算法源代码和相关技术细节,普通的教育用户可能也难以理解其运行机理和执行规律。即便如此,也不能就此否定算法提供者的解释义务以及探索可行路径的可能。比如,以普通人可以看懂、理解的方式对算法运行逻辑进行可视化描绘,增加算法教育应用的可信度,打消社会公众的疑虑,获得他们对算法运用的态度支持;设立由学校、教师、家长、政府等教育利益攸关方组成的教育审计机构,对算法教育程序合理公开加以审查,避免资本逐利而造成的操纵算法“黑箱”、营造算法神秘性的不当算法行为。

  (作者系山东建筑大学马克思主义学院教授)

转载请注明来源:中国社会科学网【编辑:张玲(报纸) 张黎明(网络)】