当前位置:首页|资讯|ChatGPT|华尔街|OpenAI|微软|亚马逊

ChatGPT火了,企业们却很担忧

作者:华商韬略官方账号发布时间:2023-02-23

原标题:ChatGPT火了,企业们却很担忧

文 | 华商韬略 600

随着ChatGPT的爆火,ChatGPT的使用也同样得到重视,这种重视如今已经逐渐变成一种担忧。

最先开始反应的,是一众知名大学。法国、英国、印度、澳大利亚、中国香港等多所大学限制ChatGPT的使用。

大学之后,企业们也开始纷纷对员工做出限制,互联网巨头的亚马逊、华尔街知名投行摩根大通、全球最大上市咨询公司埃森哲,甚至就连不断与openAI(ChatGPT的公司)扩大合作关系的微软也同样要求旗下员工谨慎使用ChatGPT。

大学们的反应容易理解,无非就是防止学生利用ChatGPT写论文、作弊。

在ChatGPT即将对生产工具带来全新变革的当下,各大企业巨头们为何反而对工具产生保守态度?

企业巨头们当然清楚地知道ChatGPT有多好用。

亚马逊的一名员工就曾在内部交流帖中称,ChatGPT成功为亚马逊多个编程相关的面试问题提供了正确的解决方案。

同时,已经有很多亚马逊员工开始利用ChatGPT作为软件编程的助手,甚至就连亚马逊内部代码行都可以用ChatGPT进行改进。

在内部交流贴中,有员工直言:“太棒了!任何指导意见都是非常棒的!”

在企业支持领域,ChatGPT同样不逊色。亚马逊的企业支持团队特意成立了一个针对ChatGPT的研究工作小组,最终研究显示,ChatGPT“表现非常好”。

然而,亚马逊仍然对ChatGPT充满担忧,倒不是因为表现还不够优秀,而是在使用ChatGPT的过程中很可能会产生隐私泄漏、保密文件泄漏的问题。

如今亚马逊已经对员工做出多种限制。比如,在员工使用工作设备登录ChatGPT时,设备就会弹出警告,但员工仅仅需要点一下“acknowledge”就可以绕过警告信息。

亚马逊的律师不得不在公司内部直接警告员工,要求员工遵守亚马逊的保密政策。

可惜,根据该律师透露,如今ChatGPT的一些回复已经和亚马逊内部情况十分相似了。

然而,这样的信息泄漏,罪不在ChatGPT。openAI的服务条款中早已要求:可以使用用户和ChatGPT所产生的所有输入和输出。

其他公司限制ChatGPT的缘由同样对保密信息泄漏的担忧,甚至有人认为,一旦ChatGPT输出涉及隐私的回复,那么使用ChatGPT的公司可能违反欧盟的《通用数据保护条例》。

企业们对ChatGPT的担忧还远不止信息泄漏这一点,ChatGPT在回复时,经常带有一种异常坚定的语气,然而这个回复却可能存在大量常识性错误。

仅仅是常识性错误,还比较容易鉴别,一旦涉及到比较专业的问题,非相关专业人士很可能被ChatGPT带入歧途。

有人就曾利用ChatGPT搜索“Cr-Zr近共晶点行为特征”,ChatGPT给出的回复乍一看有理有据,甚至还有参考文献。然而一旦深究,会发现这些参考文献完全是ChatGPT伪造的。

浙江大学医学院附属第一医院更是在研究ChatGPT时发现,其医学专业知识根本不及格。

在一次测试中,该医院人员从2020年临床执业医师资格考试真题库中筛选出100道单选题,结果ChatGPT仅仅答出56分的成绩,就连一些书上有标准答案的基础题,ChatGPT也会出错。

该医院人员分析认为,可能是ChatGPT从网上学到了错误的答案。

同时,该医院人员发现,ChatGPT存在严重的偏科现象,比如内科领域准确率仅20%,而微生物学则能够达到70%。

360创始人周鸿祎在一次采访中说:“它实际上真正的能力像一个小孩子,再聪明的孩子都要通过训练才能解答没学过的奥数题。”

未来,类似于ChatGPT的AI一定能给人类生活带来变革,但现在,更多的监管与限制也应同步跟上。

——END——

欢迎关注【华商韬略】,识风云人物,读韬略传奇。

版权所有,禁止私自转载

部分图片来源于网络

如涉及侵权,请联系删除


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1