MIT最新报告认为，生成式AI技术应进行强力管控

近日，由《麻省理工斯隆管理评论》（MIT Sloan Management Review）旗下 SMR Connections 发布的一份最新报告称，生成式人工智能（Generative AI）在高等教育的各个方面都有着“巨大的前景”，但这项技术需要有防护政策和强有力的管控，以防止出现学术滥用。

来源：Anthology官网

这份报告将自己归类为在高等教育中负责任地使用生成式人工智能的“战略指南”。报告指出，自 2022 年 11 月 ChatGPT 首次推出以来，在过去两年里，一些机构的实践取得了积极成果，引发了大量人工智能工具的开发和应用。

该报告敦促业界应制定管理指导方针，并举例了密歇根大学（University of Michigan）人工智能委员会的一份报告和工具包，其中也包含了该大学自己的 ChatGPT 版本。

来源：密歇根大学官网

报告称，人工智能指导方针可以灵活变通。例如，麻省理工学院斯隆管理学院（MIT Sloan School of Management）将人工智能政策置于从限制性到实验性的范围内。

“我认为这是明智的，因为根据学科和教职人员的不同，可能会有不同的方法和理念，”麻省理工学院斯隆管理学院的高级讲师本·希尔兹（Ben Shields）在报告中说，他为自己的课程选择了更开放的生成式人工智能使用政策。

但目前，有许多机构都忽视了制定有关使用的指导方针，该报告认为这是一个严重的错误。

“世界已经改变了，”接受本报告采访的教育工作者一致认为，试图完全禁止生成式人工智能是不现实的。”

除了制定指导方针外，该“战略指南”还建议从事高等教育的教职员工要为进入“人工智能世界”做好准备。

例如，亚利桑那州立大学（Arizona State University）为教职员工提供人工智能扫盲课程；

而密歇根大学（University of Michigan）为教职员工和学生提供免费的人工智能扫盲培训；

德克萨斯农工大学（Texas A&M University）同样也提供了相关课程，允许教师使用各种人工智能工具，以了解其优缺点。

当前，对生成式人工智能技术的一大批评是它可能编造或给出错误的答案。该报告和大多数专家建议，应该让人类参与审查人工智能生成的内容。

微软研究院高级首席研究员杰克·霍夫曼（Jake Hofman）也建议，让人工智能工具根据信心给内容结果贴上相应标签。

“例如，该工具可以根据其准确性的确定程度，将结果编码为绿色、黄色或红色。”

来源：Anthology官网

▌声明：本文由留学咖啡馆原创编辑，转载请注明

▌来源：Anthology、SMR Connections