当前位置:首页|资讯|ChatGPT

AI前哨|对话中科院王飞跃:过度炒作ChatGPT干扰大众认知,只是少数人获利

作者:中国指挥与控制学会发布时间:2023-05-18

原标题:AI前哨|对话中科院王飞跃:过度炒作ChatGPT干扰大众认知,只是少数人获利

凤凰网科技《AI前哨》出品

作者 蒋浇

编辑|张涛

微信编辑 |李金洋

2023年,世界正处于人工智能发展的快车道上,各行各业都在寻求通过人工智能技术实现转型升级。然而,与此同时,人工智能的安全性问题也受到各方的关注和反思。最近,特斯拉首席执行官埃隆·马斯克与多位人工智能专家和行业高管联名发表公开信,呼吁暂停开发比GPT-4更强大的人工智能系统至少6个月。

争议背后,美国业界对于AI发展的担忧从何而来?AI的发展是否已来到需要按下“暂停键”的转折点?国内应该如何发展人工智能?带着这些问题,凤凰网《AI前哨》对话中科院自动化所复杂系统管理与控制国家重点实验室主任、中科慧拓首席科学家王飞跃。

王飞跃主要研究领域为智能系统和复杂系统的建模、分析和控制与管理,是AI和智能控制方面的国际知名学者。作为行业顶尖权威,王飞跃给我们带来了许多不同的观点,他指出相较于技术革命,ChatGPT更像是基础设施,现在存在过度炒作和神化它的现象。这些炒作已经影响到了正常的科研,干扰了大众正常的认知,最后只是少数人获利。

“还记得当初阿尔法狗(AlphaGo)出来,大家也都激动的不得了,现在怎么样?阿尔法狗到现在也不过就是六七年时间,所以没必要那么激动。相信不久ChatGPT就是‘白菜价’。”王飞跃认为,ChatGPT离真正的(智能)还早,当下重要的是有序发展。

对于美国业界对AI发展的担忧,王飞跃表示,“我坚决不信它(ChatGPT)会给人类造成威胁 ,除非人类自己威胁自己。”他认为技术发展不可逆,特斯拉CEO马斯克呼吁暂停开发比GPT-4更强大的人工智能系统,实质是商业利益问题。

图|王飞跃教授接受凤凰网记者采访

以下为对话内容(原文基础上有删减):

过度炒作ChatGPT干扰正常科研和大众认知 只是少数人获利

AI前哨:去年底您看到ChatGPT推出后,有什么感受?

王飞跃:没什么感受,很好,但本该这样。就是一帮人花钱把它(ChatGPT)做出来展示,是不简单,几十年的空谈终于“涌现”出一个结果,但离真正的(智能)还早。ChatGPT出来后,大家太激动了,其实现在才刚开始,太激动不好。还记得当初阿尔法狗(AlphaGo)出来,大家也都激动的不得了,现在怎么样?阿尔法狗到现在也不过就是六七年时间,所以没必要那么激动。相信不久ChatGPT就是“白菜价”,问题是之后呢?

王飞跃:但是我问你,工厂生产实时控制敢用它(ChatGPT)吗?飞机调度排班敢用它(ChatGPT)吗?所以它还不具备真正的智能性。它是比娱乐版进了一大步,已经非常有用了。最近我让我所有的学生写摘要都用它做参考,因为ChatGPT写的英文摘要至少比大部分人写的要好。

AI前哨:微软创始人比尔盖茨表示,ChatGPT是1980年以来最具革命性的科技进步。您怎么看?ChatGPT是技术革命吗?

王飞跃:仁者见智,智者见仁,有点乱。谁都可以做论断,他(比尔盖茨)当然可以把ChatGPT当作革命性的技术进步。我认为它(ChatGPT)不是革命,它的确把AI以一种很大众化的形式展现给了世界,确确实实为智业社会提供了一个基础设施原型,最多就跟工业社会的高速公路、飞机场、火车站、码头是一样的。一个现代化的工业社会,需要这些基础设施,未来的智业社会,需要许多ChatGPT一样的基础设施。

资本和技术创新的结合,最后涌现出(ChatGPT)这么好的结果,这是非常好的事情,做科研的人应该往这条路上来。但不要把它神圣化,不要炒作来炒作去影响正常的科研进程。

AI前哨:现在人工智能存在过度炒作和神话?

王飞跃:对,而且影响到了正常的科研,影响到了大众正常的认知,其实只是少数人获利。

AI前哨:影响到了科研的哪方面?

王飞跃:把年轻的科研人员抽走了,特别是还没有真正成熟的年轻人。本来好好的科研团队,大家正在认认真真做科研,一阵热潮来了,Hope(希望)脑洞大开,不但大开口还下生大尾巴,变成Hype(忽悠),队伍就没了,影响了正常的科研进程。据我所知,好多科研团队都面临这个问题。

其实我非常支持年轻人创业,更支持科研人员加入企业,但过度炒作,就像农药催化剂一样,让十分有希望的年轻人早熟但不可用,最后骗子加忽悠,是社会资源的极大浪费。最近见过几位过去很有前途的年轻科研人员,成了高管投资人谈ChatGPT,这种感觉更强烈了。

AI前哨:那您觉得学界和企业应该如何平衡这种情况?

王飞跃:我也没有答案,企业和科研必须相互结合,但应该是一种更有序的结合。

ChatGPT不会生产数据 我坚决不信它会给人类造成威胁

AI前哨:人工智能每隔几周就会出现令世界震动的功能拓展,有人兴奋有人恐惧。有人担心 AI 可能对人类构成巨大危险,因为我们不知道一个比我们聪明得多的系统会做什么。您是否也有这种担忧?

王飞跃:一点没有!我坚决不信它会给人类造成威胁,我担心的是人类对人类造成威胁。

AI前哨:但美国业界对AI技术发展表现出了担忧。特斯拉CEO马斯克、Yoshua Bengio等数千名来自学术界专家和企业界呼吁至少暂停6个月比GPT-4更强模型的研究,并强调人类需要组织对AI技术进行监管。您怎么看?

王飞跃:历史潮流,浩浩荡荡,顺之者昌,逆之者“忘”,技术发展是挡不住的。当年英国人还把机器烧了,还记得卢德运动?工业革命几百年,机器统治了人类?我们是机器的奴隶?你愿意,或者说,你有资本回到机器前的社会?目前所谓的限制,会把好人的手脚捆住,而让坏人发展利用新技术。马斯克呼吁之音还在,自己迫不及待干起来,说明什么?那完全是商业利益在背后驱动,有时他干的事情,与他说的话相差180度。

AI前哨:无论是ChatGPT还是国内大模型,都还有一些缺陷,比如编造细节,这是坏事吗?有没有办法控制?

王飞跃:ChatGPT我也试用过,有时候确实在正经的胡说。但你告诉它错误,它马上就改过来了,有时改的无原则,有些回答好的出乎我的意料,对国内大模型我试的不多,也没有这种感觉。

编造细节这不是什么坏事,因为以后的大模型肯定不是这样去做。以后可能不会有大问题的大模型,大多数一定是小问题大模型,然后它必须每一道(问题)都能检查。其实,(大模型)它最后就是把知识工作者都变成快递小哥,小包裹大系统的后果,就这么简单。

AI前哨:很多人一边使用ChatGPT一边担心,担心AI会替代人类工作导致失业,包括我们这些做内容的人也会担忧。

王飞跃:这就让所谓的“专家”们给忽悠了,真正从事文化创意类的人是最替代不了的。因为数据是生产出来的,它(ChatGPT)没有生产的手段,只能去网上收集这些数据。

AI前哨:数据很关键,ChatGPT等一系列大模型能搜集数据,那我们怎么保证隐私安全?

王飞跃:这是一个大的问题,我们做区块链和智能合约研究就是为了解决这个问题。基于区块链的TRUE DAO,是让数据可信(T)、可靠(R)、可用(U),最后要产生效益Effective + Efficient(E)。DAO就是要分布自主开放:D是Distributed + Decentralized(分布式+全中心化),A是 Automatic + Autonomous(自主+自动),O是Organizational + Operational(组织+运维),最后基于智能合约变成数字化组织、数字化治理、数字化运维。

内大模型与ChatGPT相差一半时间

AI前哨:除了ChatGPT,您有试用过其他一些大模型吗?

王飞跃:我们长期研发各种业务大模型,整个实验室就是为此目的创立的。过去5年来,我们试过许多开源闭源大模型,最有意思的是艺术创作方面的。

AI前哨:国内的大模型和GPT相比,使用起来有什么不同?

王飞跃:从有限的例子里,我觉得有差别。

AI前哨:差距多大?

王飞跃:我认为至少差它们一半的时间。

AI前哨:有观点说我们只差两个月,也有创业者说我们离GPT3.5还差两年,还有企业说10月就要赶超ChatGPT了。

王飞跃:现在国外和国内都没有一个公认标准,以及一个相对对等可判定的环境去评测,不同说法也自然,大家心里都有一本账。不过我坚信,不要多久,我们一定会把,也必须把ChatGPT之类的大模型做成“白菜价”,问题还是:之后呢?

AI前哨:通用人工智能发展的三要素,数据、算力和模型在AI发展中分别扮演着什么样的角色?算力会是中国大模型发展的一大阻碍吗?

王飞跃:算力不是阻碍,因为必须得有,它是未来社会的标配。一般认为,我们的体制有数据和算力的优势。

AI前哨:大模型表现性能都较好,我们日常体验也感觉不错,却难以见到大模型大规模的产业化落地。在这方面,它主要面临的阻碍是哪些?

王飞跃:人的思维、人的认识。固有的产业模式已经培养了一大批既得利益者,他们不会打破原有的流程。然后,他们在宣传上神话人工智能,把大家说的都越来越怕AI。

技术的进步,确实会对一批人的工作产生影响,但是技术发展是不可逆的,想让社会发展就必须跨过这一步。我们的政府在这方面有优势,会做好这个过渡,而不是像今天舆论说的人工智能会导致大部人失业。总之,我们必须规划好,如何从工业时代的物理自动化,过渡到智业时代的知识自动化。

AI前哨:您认为在科研机构和企业之间进行AI技术转移和产业化应用时,需要注意哪些问题?

王飞跃:让正确的人,以正确的方式,做正确的事。

AI前哨:有资金有资源的大厂在大模型研发方面有优势。那在人工智能领域,会不会出现PC时代巨头垄断的现象?

王飞跃:我觉得可能性很大。但不应借此过度“监管”,一个自己都还都弄不清楚的事物如何监管?毕竟目前还只是技术层面的事。

欢迎下载凤凰新闻客户端订阅凤凰网科技

你的每一个在看,都是 对自己品味的认可!


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1