人工智能教育应用的伦理与限制
人工智能技术在各行各业的应用，促进了技术变革和产业升级，有力地推动了数字中国和现代化建设，也为促进教育数字化转型提供了强大动力。习近平总书记在致国际人工智能与教育大会的贺信中指出，中国高度重视人工智能对教育的深刻影响，积极推动人工智能和教育深度融合，促进教育变革创新。
2022年11月，基于人工智能的聊天工具ChatGPT上线仅两个月，活跃用户超过了1亿。ChatGPT能根据上下文理解用户输入的信息，帮助用户生成问题的解决方案，如写论文、编代码、当客服等。当其逐渐应用到教与学的过程中，出现了如人机协同教学、个性化学习、智能化评价、辅助学术研究等典型应用。但是，应用中的伦理问题，如学术不端、数据泄露、社会偏见、教育价值偏颇等，逐渐浮现并产生了负面影响。因此，如何在充分发挥人工智能教育应用价值的同时，有效规避其中的伦理风险亟待探讨和解决。
ChatGPT的教育应用助力学与教变革
ChatGPT的应用有利于促进学生的个性化学习。ChatGPT能够为学生提供个性化的自适应学习体验，通过ChatGPT的自然语言处理技术，将学生提出的问题转化为结构化的数据，并将其与相关知识库进行匹配，提供最优解答，并且ChatGPT会记录每一次的问答，针对学生的问题进行分析，深入了解学生的学习习惯、学习水平等从而使学生可以获得个性化和高效的学习指导，提高学生的学习效率。
ChatGPT的应用有助于推动教师的自动化教学。ChatGPT可以与教师实现协同工作，辅助教师进行课程设计和材料生成，为教师生成有针对性的学科知识、教学材料、教学大纲、教学案例和教学策略等。通过与ChatGPT进行模拟课堂对话，教师可以更好地了解学生的问题，提高课堂教学的灵活性。在课后教师可以使用ChatGPT对学生上课的提问与回答进行教学诊断，帮助教师了解学生的学习情况、困难，及时调整教学策略和内容。ChatGPT会自动对学生的作业或试卷进行评分和批改，教师可以快速而准确地对学生的作业和试卷进行评分和批改。
ChatGPT的应用有益于辅助学术研究。ChatGPT可以为研究者提供模型预测和数据分析的支持。
研究者提供相关数据，这些数据可以包括实验数据、问卷数据、统计数据等，ChatGPT将使用自然语言处理技术分析这些数据，从中发现有价值的信息，并进行数据分析和模型预测，之后ChatGPT将提供分析报告，其中包括数据可视化展示、结果说明和推荐建议等内容，让研究者更加便捷地了解数据和模型的特征、趋势。最后，研究者可以基于分析结果进行进一步的科研探索和实验研究，同时对模型和数据进行优化和改进，从而促进科研工作的深入开展。
ChatGPT应用引发的教育伦理问题亟待破解
教师和学生在应用ChatGPT的过程中产生了亟待解决的伦理问题，包括数据泄露、算法偏见与歧视、学术不端、教育价值偏颇、人文关怀缺失等，这些问题给教育的可持续发展带来了很大的挑战。
数据泄露有可能引起学生权益受损。ChatGPT需要处理与存储大量数据，这些数据存在被泄露的风险。在学习、教学与评价场景中，学生、教师与ChatGPT对话中可能涉及个人隐私信息、学术记录、行为模式、学生成绩、班级信息与答题信息等。由于技术漏洞、相关人员缺乏安全意识、黑客攻击等使这些数据的安全不能得到保障，可能会导致被未经授权的人员访问、篡改或滥用。如果不采取相应措施来规避风险，将会给学生与教育机构带来严重的后果，包括个人信息被利用引来学生被诈骗或骚扰、对学生的学业产生负面影响、学校声誉受损从而家校关系恶化等。
算法不透明或可导致教育偏见与歧视。ChatGPT在算法设计与调整时，可能存在一定的偏见。由于算法设计人员本身的偏见或盲区，或收集的语料本身存在的如种族、地区等偏见，ChatGPT的输出也会受到影响。若算法不透明，我们无法判断其作出决策的依据，也无法得知其中是否存在隐含偏见。学生与ChatGPT进行知识问答时，ChatGPT可能会给出不准确的回答，或者以不当的方式引导学生学习和行为，影响学生的学习效果和公平性，加剧数字技能鸿沟甚至损害教育的公平性。
过度依赖或可导致学术不端与教育价值偏颇。ChatGPT可以根据研究任务生成说服性强且有一定逻辑的文本，若滥用可能产生剽窃、抄袭等学术不端问题。ChatGPT在一定程度上可以帮助学生提升学习效率，但学生若对其呈现的结果不加批判地全盘接受，会导致思维的惰化，从而其影响全面发展。长此以往，学生的元认知、创新性思维、批判性思维、独立解决问题的能力均可能受到不同程度的损害，这与教育“培养全面发展的人”背道而驰。同时，在教学中，若教师过分依赖ChatGPT，在教育中忽视和缺失了人文关怀的情感教育，也不利于培养学生的健全人格与身心健康。
应对ChatGPT教育应用伦理问题的策略
规范开发人工智能教育应用场景。ChatGPT具有强大的文本生成能力，可能的应用场景包括教、学、管、考、评、测、研等诸多方面，学校可以加强应用场景的规范开发，明确人工智能技术的育人价值，从教学全流程、全要素、全业务的角度深度思考，将智能技术与教学深度融合，打造典型的应用模式，破解教育和教学的核心问题，从而塑造学校人工智能教育应用的特色场景。
明确制定人工智能教育应用限度。正确认识ChatGPT等人工智能的功能特点、核心价值，谨慎处理其潜在风险。人工智能教育应用过程中，在数据采集、数据筛选、数据处理、数据应用等方面，容易出现个人信息泄露、数据安全受损、育人价值偏颇等问题。在应用过程中，从数据的全生命周期角度，需明确应用的具体限度，指导教师和学生在安全可信的前提下合理使用ChatGPT等人工智能，确保数据安全，保证教育的育人价值不出偏颇。
提高师生的人工智能素养和伦理意识。教师和学生的人工智能素养是将新一代人工智能技术融入教和学的基础，而伦理风险意识则是保证师生安全可靠应用人工智能技术的前提条件。为提高师生的人工智能素养和伦理意识，组织开发人工智能教育应用与伦理意识相关课程和培训，并将相关内容渗透到各科课程中去，让学生了解智能技术的应用可能带来的伦理风险。同时可引入人工智能检测工具，建立相应的监督和管理机制对学生的学术行为进行监督，对学术不端行为进行惩处。
强化学生的高阶思维能力培养。ChatGPT等生成性人工智能对学生的逻辑思维、提问能力、批判性思维、协作能力、沟通能力等提出了新的要求，只有具备了这些高阶思维能力，学生才能与ChatGPT等人工智能应用形成良性的人机协同，促进自身的全面发展。要充分利用智能工具，推动教学理念更新、课堂范式转型、教学模式转变，推动学生高阶思维能力的培养，让学生能够在未来复杂和不确定的世界中诗意地生存。
（作者杨俊锋系杭州师范大学经亨颐教育学院教授、教育部教育信息化战略研究基地［北京］副主任，陈睿宁系杭州师范大学研究生。本文系国家社科基金重点课题“人工智能教育场景应用的伦理与限度［ACA220027］”的成果）
《中国教育报》2023年05月13日第4版
作者：杨俊锋 陈睿宁
