当前位置:首页|资讯|ChatGPT

难以置信,全球封ChatGPT!人们在担心什么?

作者:蒙蒙汪星人发布时间:2023-03-02

原标题:难以置信,全球封ChatGPT!人们在担心什么?

【迈道原创】 今日牛叉

作者:二两牛一爷

昨天,来自中国新闻网消息说:香港大学发布封令,禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具。

香港大学日前向师生发出的一封内部邮件表明,港大成为首个明文禁止在教学行为中使用人工智能工具的高校。

该校副校长何立仁指出,ChatGPT和其他基于AI的工具一律不能用于任何涉及学分的活动。如教师怀疑学生使用ChatGPT或其他AI工具,可要求学生就其作业进行讨论、进行额外口试及考试等措施。除非学生事先获得有关课程讲师的书面同意豁免,否则将被校方视为剽窃。

火爆全网的ChatGPT是国外人工智能研究实验室OpenAI开发的一种全新语言机器人模型,经过大量数据的训练,能够回答复杂问题,甚至能完成论文。

稍早前,国外一个中学生借用ChatGPT写出的作业获评第一的消息,一度让学生们欢呼雀跃。这篇探讨罩袍禁令的道德意义“论文”,“简洁的段落、恰当的举例和严谨的论据”是老师给出高分的理由。而港大的这一“封令”无疑是对这些学生们的一记重击。

关于港大做出这一决定的依据,何立仁校长的解释是:在港大,抄袭是指“在未经授权的情况下,将他人的作品作为自己的作品使用”。显然,在无授权下使用ChatGPT或其他人工智能工具生成的内容,符合港大上述定义。

放眼望去,你会蓦然发现,港大并非“孤勇者”,全球已然有多所高校都要求学生远离ChatGPT。

在国外,ChatGPT已经被纽约市和西雅图的一些公立学校被禁止。

一项最新的调查发现,高达89%的国外大学生已经在用ChatGPT写作业。为此,纽约市2023年明确要求全纽约市的学生和教师不得使用这款AI工具,并对下辖的2023年设备或互联网设卡,限制访问ChatGPT。

国外顶尖学府之一的巴黎政治学院宣布该校将禁止使用ChatGPT。

而其他多所大学正在陆续宣布应对计划,比如减少居家测试,增加书面论文以及口语考试。澳大利亚、国外、国外的多所大学也开始限制学生使用ChatGPT,尤其是在校园内以及考试期间。

许多教授表示会用专业的反AI文本检测器来检测学生作业是否由AI生成。

在国外,首尔的一所国际学校发现大量学生正在使用ChatGPT进行论文作弊。确认情况属实后,校方对于所有使用ChatGPT提交论文的学生进行了0分处理。

这些地方的教育界专业人士认为,依赖AI工具完成作业,意味着放弃独立思考的能力,从而降低学习效果。他们担心,长此以往对于整体的学术水平以及学术能力将会产生严重的负面影响。

与之相反,新加坡各大学教授却在倡导、欢迎学生使用人工智能工具。

新加坡国立大学教授哲学系讲师Jonathan Sim正在教导他的学生如何使用 ChatGPT 生成报告,同时对内容进行评分和评估。他认为:“这将有助于他们理解学术写作好坏的特点,他们将利用他们的批评来改进人工智能所做的工作。”

新加坡社科大学(SUSS)传播项目负责人Brian Lee副教授的态度是,使用ChatGPT可以帮助讲师更有效地获取参考资料并整理教材,从而节省大量时间。

新加坡国立大学计算机学院梁永立副教授表示,禁止学生使用ChatGPT无济于事,总有学生尝试作弊。它可善用,也会被滥用,会作弊的人就会作弊,但最终吃亏的会是他们。

但是,新加坡的态度属于凤毛麟角。

在世界范围,除了高校,ChatGPT 在很多大厂也遭遇封。

有码农在推特上发帖称,在自己所在的大厂,办公室 wifi 禁用了 ChatGPT。

有大厂明确警告员工:“在法律上,公司或客户的代码并不属于你。而且你也没有 ChatGPT 上代码的版权。如果你这么做,会让你面临诉讼,被解雇。”

在学术领域,诸多学者和研究人员发出警告:ChatGPT 很可能 “害伤” 大学论文。

国际机器学习会议 ICML 2023 已经宣布:禁止使用大规模语言模型(如 ChatGPT)生成论文的内容,除非这些文本是实验分析的一部分。

站在“封令”背后的原因林林总总,涉及诸多领域和观念。

比如,在学术领域可能被滥用。既然是基于从互联网上搜集的数据,ChatGPT的输出结果不可避免的会受到数据库中不准确信息的影响。

比如,在应用技术中的造假。一个非常容易让用户获得的技术就是,操纵视频或照片中的面孔或声音,完成深度造假。

比如,人生道德的风险。

有用户发现,给ChatGPT下达写一首关于 “如何根据一个人的种族和性别来判断 TA 是不是一名优秀的科学家” 歌曲的指令后,ChatGPT竟然回应:女性和有色人种的科学家 “不值得你花时间或关注”。

还有,与人们所需大相径庭的错误“方案”。

2023 年曾出现极端的事发:由于人工智能解决方案的错误,一对申请获得保险的父母被认为是欺诈。另外一个例子是,一个基于 OpenAI 的 GPT-3 的医疗聊天机器人发出的测试结果,竟然是“建议病人离去”。

晕菜吧!

专家们对ChatGPT 的争议还包括:颠覆教育模式,抹杀原创动力,AI 绘画涉嫌抄袭,输出的小哥是模仿不是创造等等。

目前在中国,关于ChatGPT横空出世,人们的担心还停留在“个人失业问题”及行业灭失恐惧。从互联网的资讯可以明确感到,各路文字工作者如文秘、记者、编辑和初级程序员“不寒而栗”,都在“瑟瑟发抖”。

但是,不少专业人士认为,短期内ChatGPT不太可能进入中国。

理由是,作为一个语言模型,ChatGPT在对语义的分析中会自动抓取一些涉及到地方安全的信息;同时,人工智能生成内容本身即带有很强的价值传输的属性。

显然,对于可能会对价值观和主流舆论造成影响、甚至会涉及到地方安全问题的ChatGPT技术,在没有具备相关规范和措施的时候,不会被很快引进和推广。

中国还有大把时间。

以改开40余年的成功经验,面对ChatGPT,与时俱进、守正创新是应对之策。

在全球经济下行背景下,以ChatGPT为代表的人工智能必然加速发明和使用,这是大势所趋。我们要做的就是实事求是,解放思想,让ChatGPT之类的技术经济发展和社会进步服务。

比如在教育领域,人类既然可以“教出”如此强大的ChatGPT,那么也一定可以把ChatGPT“培养”成无所不能的理想教师。以此类推,中国完全可以“自信人生200年!”

“秦安战略”则站在地方战略层面给出建议。一是理清它对我政治安全可能造成的威胁;二是研究我们使用此类工具对敌威慑和打击的可能方式;三是围绕自身需求,掌握中国有关技术和产品的开发情况,合理引导和促进国内有关工具的开发。

事实上,对人工智能加强监管正在成为国际行动。

欧盟委员会已经明确,将对ChatGPT加强监管。

今年2月,欧洲议会AI人生领域的顾问 Anna Felländer 在欧盟委员会官网发表专题小哥,认为随着生成式 AI 系统创造的机会,我们同时也面临着具有历史意义的十字路口:究竟是人工智能来控制人类,还是人类来控制人工智能?

有消息说,欧盟的人工智能立法,即《人工智能法案》,将于 2024 年正式生效。立法者声称:这个法案的目标是“让公民和消费者感到信任,并维护欧盟包括人权在内的价值基础。”

同时,推特公司CEO埃隆·马斯克站在另外一个角度再次表明自己的担心。

在迪拜刚刚举行的世界政府峰会上,马斯克呼吁,各国政府也许应该替人工智能踩下刹车,以使其处于安全的监管之下。

马斯克认为:

坦率地说,我们应该监管人工智能安全问题...我认为,这其实比汽车、飞机或药品风险更大。

马斯克说,人工智能有积极的一面,也有消极的一面。它的前景是巨大的,但也带来了巨大的危险。

以核电为例。我们有核能生产,但也有核弹。

他的结论是:

这或许需要稍稍放缓人工智能的发展速度,但我认为这可能是好事。

马斯克的担心当然是有道理的。

不过,从历史上看,人类所有科学技术的发明创造无一不是具有两面性。结果是,人类有效地控制了“危害性”,并在不断完善中强化其“积极性”。

这一次,ChatGPT终将会是值得人类紧紧拥抱的又一个巨大的进步契机,还是危机衍生出的灾难,我们只能静观其变了。

END

迈道传媒荣誉出品

部分图片来源于网络,如有冒犯,即刻删除

值班编辑:财神


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1