人工智能驱动教育变革的伦理风险及其解蔽之路

人工智能驱动教育变革的伦理风险及其解蔽之路

作者：郭颢江楠江宏刘忠骅邓辉映

来源：《中国电化教育》2024年第04期

摘要：人工智能驱动教育变革给教育带来双重影响，使教育中的机会与风险共存。尽管人工智能技术给教育带来强大优势，能够增强教育主体的能力、记录完整的教育信息、推动人的个性发展、以及提高教育效率。但随着技术向度的增强与工具理性思维的介入，这一过程也面临不同维度的伦理风险。人工智能驱动教育变革的伦理风险主要表现为主体风险、安全风险、算法风险和技术滥用四方面。解蔽人工智能裹挟下的四重风险，推动人工智能技术在教育变革中的价值实现，需回归以人为本的价值理念，强化教育主体地位；建立依法规约的伦理体系，加强信息安全管理；遵循算法使用的伦理准则，促进个体生命发展；内化德性为先的伦理意识，健全技术变革边界。

关键词：人工智能；教育变革；伦理风险；解蔽

中图分类号：G434 文献标识码：A

本文系2021年重庆市教育委员会人文社会科学研究项目“中小学生在线学习质量测评研究”（项目编号：21SKGH269）、2023年重庆市教育委员会科学技术项目“基于区域教育大数据的中小学生学业水平增值评价研究”（项目编号：KJQN202301614）研究成果。

①江宏为本文通讯作者。

人工智能作为具有“头雁”效应的变革性技术产物，越来越成为助推教育常进常新的强大引擎，它不断驱动着教育领域的深层发展与创新。伴随人工智能技术的发展与迭代，其能在教育领域的变革性应用也在一定程度上影响及改变了原有的教育生态和教育秩序，特别是在教育理论、教育结构、教育价值、教育文化与教育主体等诸多方面产生了系列冲击。由此，也引发了多维度的伦理风险，此类问题的思索与回应“将是决定人工智能在教育上乃至在未来社会能够走多远的关键”[1]。基于此，阐述人工智能驱动教育变革的表征，系统而全面地审思人工智能驱动教育变革的伦理风险，深度透析伦理风险问题生发的具体表现，进而追寻伦理风险的解蔽之路，为破解当前人工智能教育困境、推动人工智能有效助力教育变革提供理论支持。

若要明晰人工智能驱动教育变革的伦理风险，则应厘清当前人工智能驱动教育变革的表现及其特点。具体如下：

（一）人工智能驱动教育变革的表征

人工智能在教育中的应用既有风险又有机遇，其对教育主体、教育效率等方面的不同程度的影响必将驱动教育系统的深层变革。

第一，在教育主体方面，人工智能可强化教育主体的能力。作为一种技术力量，人工智能在教育系统中的深度融入使其不断内化为教育主体内在的一部分，越来越构成人的存在本身。随着以ChatGPT为主的生成式人工智能的出现，它们与传统技术工具的结合能够让其更加“聪明”，进而在某种意义上成为教育主体的“个人助理”[2]。

第二，在教育过程方面，人工智能可记录完整的教育信息。在课堂场域下，人工智能能够为教育主体提供互联互通的教育环境，通过多种方式对教育主体的相关数据进行抓取与采集，如情感数据信息、体质数据信息、课堂表现数据信息等等，进而实现对教育过程的实时监控。

第三，在教育价值方面，人工智能可推动人的个性发展。人工智能技术与教育的深度融合，为教育提供了更多个性化的教育资源，极大丰富了教育主体的教学体验。通过智能化的指令输出，师生即可获得多元化的适配资源，这为人的个性发展提供了更自由和广阔的空间。

第四，在教育效率方面，人工智能可有效提高教育效率。在ChatGPT的技术背景下，学生作为主体投入学习活动的质量是尤为重要的，它能夠在学生与人工智能有效协作的基础上，“最大化自己的学习体验和产出，而不是把精力浪费在低效、简单、机械的任务上”[3]。

（二）人工智能驱动教育变革的伦理特点

人工智能驱动教育的变革的过程既要遵循人工智能技术本身的发展诉求，又要回归教育以人为本的价值本质，这种伦理特性决定了其内在的特殊性。

第一，实现教师“育人”与“效率”的统一。教育作为育人的事业，任何的技术融入都必须遵循育人为本的价值指向。人工智能进入教育领域，能够为教师的育人工作“减负增效”，但并不意味着教师的教育主权就完全“让渡”给人工智能，在注重教师工作“效率”的同时，仍要坚守育人为本的教育本质。也就是说，人工智能驱动下的教育变革，必然是“育人”与“效率”的统一，必然是工具理性与价值理性合一的过程，这决定了效率与人的发展相统一理应成为人工智能驱动教育变革的伦理目标，即借助教师与人工智能的有效协同实现更高效、更高质量的教育教学，同时始终坚守教育的人本立场，把“人”置于教育变革的轴心位置，从容应对人工智能可能引发的伦理风险。

第二，实现学生“全面发展”与“个性发展”的统一。一般而言，“人的全面发展表现为素质的提高与个性的自由发展”[4]，全面发展也可视作个性的全面发展，而个性的发展，也是全面发展的个性，它体现了人发展过程中的独特性[5]。可见，学生的全面发展与个性发展密不可分，是学生发展“统一性”与“独特性”的结合。一方面，作为一种技术手段，它在教育变革中的驱动作用越明显，教育系统对于学生全面发展的伦理要求就越高，而应用人工智能的能力也会

越来越成为学生适应教育变革、实现全面发展的重要素养要求，在此意义上，人工智能将拓展学生全面发展的维度和范畴，帮助学生为实现更完整、更全面、更自由的发展而不懈付诸努力。另一方面，人工智能拓展了学生的学习空间，为每个学生提供了更为多样化、个性化的学习资源，便于学生将更充裕的时间用于实现个性自由发展和个体潜能的挖掘，在提升学习体验的同时，也可以促进学生更好、更全面地发展。

“伦理”一词属于哲学范畴，其起源最早可追溯至《礼记·乐记》，其中言“乐者，通伦理也”，此中的“伦”即人伦，意指人在亲族中的血缘辈分关系，而后经过简化，“伦”转义为人与人之间的关系。“理”则是处理事务时所遵循的原则及标准。伦理为“人和人相处应当遵守的标准与规范”[6]。在西方伦理学中，苏格拉底、黑格尔等西方哲学家为追求自然规律，基于人“向善”的本能，主张人应该追求一种美好的、向善的生活。所谓“善”的生活即物质生活与精神生活内外协和的生活，这种对美好生活所产生的“向善”意向即伦理[7]。人类社会步入现代化之后，随着社会环境的日益复杂化，伦理的内涵也越来越丰富和多元。综合而言，伦理是人类在与他人、与社会产生交互的过程中，为平衡社会整体利益与个体利益，而产生的处理人与社会、自然、他者关系的价值标准、道德准则和一系列的行为体系[8]。

基于此，可认为伦理风险是“在人与人、人与社会、人与自然、人与自身的伦理关系方面由于正面或负面影响可能产生不确定事件或条件，尤指其产生的不确定的伦理负效应，诸如伦理关系失调、社会失序、机制失控、人们行为失范、心理失衡等等”[9]。在教育领域中，人工智能驱动教育变革的伦理风险与其表征和特点密切相关，当人工智能在教育中发挥作用时，就不可避免地引起人与技术之间的负面不确定事件或条件。当人工智能技术的工具理性超越教育活动的价值理性时，相应的伦理风险便产生了。因此，人工智能驱动教育变革的伦理风险即是人工智能技术在教育中应用时，所引起的教育主体与人工智能之间产生的不利影响。这种不利影响可能来自于技术本身，也可能来自于使用技术的主体自身，它会造成教育主體与人工智能技术之间的关系失调，阻碍人工智能驱动教育变革的进程。

伦理风险遮蔽了人工智能驱动教育深层变革的本体价值，唯有对其伦理风险样态进行全面系统地梳理和认知，才能从根本上为解蔽人工智能教育应用困境、规范人工智能教育发展培根固基。基于人工智能驱动教育变革的表征，发现人工智能在强化教育主体能力、记录完整教育信息、推动人的个性发展、提高教育效率等方面具有有利影响。但随着人工智能在教育领域的深度应用，也随之带来相应的主体风险、安全风险、算法风险和技术滥用风险四个方面。

（一）主体消退：限制教育主体

人工智能时代的教育是一种“主体—技术—主体”的交往过程，其实质是师生利用人工智能技术达成教育目标的主体间交往活动。作为一种主体间的交互实践，人工智能驱动教育变革的过程需要充分关照作为个体“人”的师生的全面发展。当前，人工智能尽管能够将师生从繁杂的任务重解放出来，但它也在一定程度上会带来对人自身的替代，使人作为主体在教育中的价值