在这所学校，学生们正在学习批判地看待ChatGPT

神译局是36氪旗下的编译团队，关注科技、商业、职场、生活等领域，重点介绍外国的新技术、新观点、新风向。

编者按：人们对人工智能的态度似乎更加极端了：支持者大力推广，反对者要求严加禁止。但是在“支持”和“反对”之间，是否还有第三条路？我们究竟应该以怎样的态度对待人工智能，用怎样的方式给下一代教授人工智能的知识？美国纽约一所学校的老师决定通过利用聊天机器人 ChatGPT 生成的材料来教授计算机科学，帮助学生了解人工智能在伦理和技术方面的副作用。在美国的一些中学和大学中，教育工作者正在培养下一代对科技的批判性思维，在理解计算机算法的工作原理的同时，还要学习科技与伦理。本文来自编译。

图片来自《纽约时报》｜摄影 Hiroko Masuike

玛丽莎·舒曼 (Marisa Shuman) 在美国纽约市布朗克斯区青年妇女领导力学校教授计算机科学课。

11 点 30 分刚过，精力充沛的 11 年级和 12 年级的学生们就蹦蹦跳跳地走进教室，在桌前坐下，拿出他们的笔记本电脑。舒曼老师提了一个关于 “可穿戴技术” 的课前问题，这是当天课堂的主题。

在舒曼老师十年的教学生涯中，这是她第一次没有在课前准备任何教案。她用 ChatGPT 生成了课堂材料。ChatGPT 是一款聊天机器人，它以对话形式进行交流。舒曼老师利用人工智能生成的课堂材料为素材，与她的学生一起研究聊天机器人的潜力与风险。

“我不在乎你们今天是否学到了关于可穿戴技术的任何东西，我们的实际目的是评估 ChatGPT。”

美国各地的大学中，很多人极力禁止使用 ChatGPT，防止它被用来作弊和剽窃。但像舒曼这样的教师正在以此为主题进行更多的批判性思维教学。他们鼓励学生质疑高速发展的人工智能工具中的炒作和泡沫，并考虑这些技术的副作用。

他们说，此类教学的目的是在训练下一代人的对科技的批判性思维。这是一种思考方法。了解如何批判计算机算法和了解如何编程一样重要，有时甚至更重要。

纽约市公立学校是美国最大的学区，有 90 万名学生。这个学区正在培训一批计算机科学教师，让他们开设 AI 批判思维课程。课程的一个主题是有缺陷的人脸识别算法：这些算法在识别白人人脸时可能比识别深色皮肤的人脸要准确得多。

在伊利诺伊州、佛罗里达州、纽约州和弗吉尼亚州，一些中学的科学和人文教师正在使用由麻省理工学院开发的初级 AI 课程。其中一节课要求学生考虑 “生成式对抗网络（GAN, Generative Adversarial Networks ） ”（一种人工智能系统）的伦理问题，它可以被用来制作虚假的媒体内容，例如生成虚假的知名政治家的演说视频。

教育工作者和研究人员说，随着生成性人工智能技术的快速发展，理解这种计算机算法是一项关键的技能，将成为日常和社会生活中不可或缺的一部分。

“对学生来说，了解人工智能的工作原理很重要。他们自己的个人数据就正在被提取并被用来训练人工智能，” 麻省理工学院的教育研究员凯特·摩尔 (Kate Moore) 说。

为了观察一些教育工作者是如何鼓励他们的学生研究人工智能伦理的，我最近花了两天时间参观了布朗克斯区青年妇女领导力学校的课程，这是一所公立的女子初中和高中，他们处在人工智能伦理教育最前沿。

一月的一个早晨，大约 30 名 9 年级和 10 年级的学生一起上名为 “软件工程1” 的课。这门实践课程向学生介绍了编码、计算机问题和科技创新的社会影响。

这是学校的几门计算机科学课程之一，这些课程要求学生研究流行的算法（通常是白人和亚洲男性组成的科技公司团队开发的）如何对移民和低收入社区等群体产生影响。那天早上的主题是：人脸识别系统可能难以识别深色皮肤的面孔。艾比·哈恩 (Abby Hahn) 老师知道她的学生可能会被这个话题所震惊。曾有人脸识别算法失误而导致了警察错误逮捕黑人男子。

因此，哈恩老师提醒她的学生，这堂课将涉及种族主义和性别歧视等敏感话题的讨论。她播放了一段由计算机科学家乔伊·布兰维尼 (Joy Buolamwini) 在2018年制作的 YouTube 视频，视频展示了一些流行的人脸识别系统如何将黑人女性错误地识别为男性。

当全班同学观看视频时，一些学生惊呼。根据该视频，亚马逊的技术以 76.5% 的确信度说奥普拉·温弗瑞（脱口秀主持，黑人女性） “似乎是男性”；微软的系统将米歇尔·奥巴马（社会活动家，美国前总统巴拉克·奥巴马之妻）误认为是 “一个穿黑色衬衫的年轻人”；IBM 的系统以 89% 的置信度将塞雷娜·威廉姆斯（女性网球运动员，亦称小威廉姆斯）判断为 “男性”。

(补充：微软和亚马逊后来宣布着手改进其系统的准确性，而 IBM 则叫停此类工具。亚马逊表示，它致力于通过客户反馈和与研究人员的合作不断改进其人脸识别技术，而微软和 IBM 则表示它们致力于负责任的人工智能发展）。

“我对有色人种妇女被 AI 视为男人感到震惊，她们看起来一点也不像男人，” 14 岁的学生纳迪亚-扎丁说，“乔-拜登知道这件事吗？”

哈恩老师说，人工智能伦理课的重点是向学生，也是为来的程序员展示计算机算法可能存在的问题。并鼓励他们质疑有问题的技术。

“你们是未来，” 哈恩老师在下课时对大家说。“当你们走向世界的时候，你们会让这种事情发生吗？”

“不！” 学生们齐声回答。

沿着走廊走了几步，在一间挂着手工纸雪花和千纸鹤的彩色教室里，舒曼老师正准备教授一门更高级的编程课程——软件工程 3，重点是游戏设计和艺术等创造性的工作。那周早些时候，她和她的学生程序员们讨论了诸如 ChatGPT 等新的人工智能如何存储并分析大量的信息，然后根据简短的提示产生类似人类的文章和图像。

在舒曼老师的课堂上，11 和 12 年级的学生阅读了 ChatGPT 相关的新闻，了解了这一聊天机器人的强大功能和易出错的特性。他们还阅读了社交媒体的相关帖子，了解了聊天机器人是如何加速催生仇恨和暴力。

但学生们不能在课堂上亲自尝试 ChatGPT。由于担心它可能被用于作弊，学区已经封锁了它。

舒曼在家里花了几个小时生成一个关于智能手表等可穿戴技术的课程。根据她的具体要求，ChatGPT 制作了一个非常详细的 30 分钟的课程计划——包括课前讨论、推荐可穿戴技术的读物、课堂练习、总结性讨论。

当课堂正式开始时，舒曼要求学生们花 20 分钟按照 ChatGPT 计划的大纲上课，就好像这真是一堂关于可穿戴技术的课程。在这之后他们将分析 ChatGPT 作为一个模拟教师的有效性。

在小组里，学生们大声朗读机器人生成的句子 —— 内容是智能手表和健身追踪设备的便利性、对健康的益处、市场价值等。当学生们读出 ChatGPT 写出的句子，例如 “智能眼镜包括谷歌眼镜企业版 2.0” 时，他们感慨这些句子听起来像营销文案，或者水军复制粘贴的内容。

“这让我想起了小学的课文，” 18岁的杰达-阿里亚斯说。“这些文字平庸至极。”

同学们发现，与舒曼老师的课程相比，ChatGPT 设计的这堂课显得十分呆板。舒曼是一位有魅力的老师，她会因材施教，向学生们提出具有挑战性的问题，并临时能举出身边的例子。

“ChatGPT 似乎很喜欢可穿戴技术，” 17 岁的学生阿丽亚·伯克 (Jayda Arias) 指出。“（作为教师）这样是不客观的！”

舒曼老师正在超越简单教授如何识别 AI 偏见，而更上一个台阶，她使用 ChatGPT 让她的学生们知道，人工智能并不是生活必需品，而且年轻人有能力去质疑它。

“你们希望你们的老师使用 ChatGPT 给你们上课吗？” 舒曼老师在课程结束时问道。

学生们的回答是响亮的 “不！”

至少目前是这样。

译者：Michiko