对话 | 郝峻晟：ChatGPT或很快会有意识，大部分人将成为机器附庸

原标题：对话 | 郝峻晟：ChatGPT或很快会有意识，大部分人将成为机器附庸

晟云磐盾信息技术有限公司总裁、神州数码前CTO郝峻晟

出品 | 搜狐科技

作者 | 梁昌均

编辑 | 杨锦

英国作家阿道司·赫胥黎创作的长篇小说《美丽新世界》刻画了一个距今600年的未来世界——科技高度发达，人类衣食无忧，但大部分的人都沦为机械文明社会下被控制的奴隶，只有阿尔法（Alpha)等高等级人群站在顶端。

“如果ChatGPT成为万能的上帝，那人类将不可避免成为机器的奴隶。”晟云磐盾信息技术有限公司总裁、神州数码前CTO郝峻晟近日在接受搜狐科技专访时认为，如果未来ChatGPT比人聪明后，那么人很有可能会对它形成更高的依赖。

比如在教育领域就会有越来越多的学生使用，这样人就失去了训练脑力的机会，就可能变成机器的附庸。最近一段时间，国内外很多高校禁用ChatGPT，其中一个原因就是为了防止学生偷懒、逃避学习和思考。

“未来可能只有极少数人能够摆脱被机器工具化或落入信息茧房，现在最关键的是不要让人类的下一代失去使用脑力的机会。”郝峻晟发出预警。

好在目前ChatGPT还没有这种能力，但它未来可能对人类带来的挑战，也不容忽视。360创始人周鸿祎近日就表示，ChatGPT是通用人工智能发展的奇点和强人工智能即将到来的拐点，可能两三年内就会产生自我意识威胁人类。

郝峻晟认为，不管是意识还是创新，都是量变到质变的结果。在人工智能领域，当数据量达到一定程度后，系统就会有质的飞跃，无法预期它是什么时候，但可能已比较接近。

未来学家雷·库兹韦尔在《奇点临近》中提到，在技术快速发展过程中，人类历史可能会迎来一个奇点，奇点之后突破的速度会越来越快，如同人类社会在进入工业革命实现快速发展那般。“人工智能也会类似，可能未来很快它在脑力上的能力会远远超过普通人。”郝峻晟表示。

这些都是郝峻晟亲身体验后的思考。自去年12月ChatGPT上线后，他一直在和它进行互动。郝峻晟直言，ChatGPT很强大，且在伦理等方面进行了较好的算法控制。但他也表示，ChatGPT存在数据准确性无法保证、信息重复、无法生成深度有质量的内容等问题。

微软集成了ChatGPT的新版Bing近日也暴露出不少问题，如诱导、威胁用户等。郝峻晟认为，目前人工智能的不可解释性，导致某些结果的不可控，这需要通过外围的控制手段解决，未来也需要加强人工智能的可解释性研究。

七年前，谷歌旗下的DeepMind推出AlphaGo，并接连打败李世石等世界围棋冠军，但最终昙花一现。如今ChatGPT引发了更高的关注，上亿普通用户参与其中，在过高的期望膨胀期后，它是否也会不可避免地陷入泡沫低谷期？

郝峻晟认为，ChatGPT是长时间积累突破的结果，未来它会不会落入低谷期，取决于它能不能在某些商业领域或行业实现持续的场景应用。

他认为，ChatGPT对教育、搜索、聊天机器人客服、文字类相关工作、文娱游戏、软件开发领域将带来直接影响，且某些领域已逐步走向平台期，而对于需要具备情绪价值或心理咨询等领域，它还远远没有达到人类的水平，这些场景可能就会进入泡沫低估期。

搜索是科技巨头率先点燃的战场，微软认为这是挑战谷歌的新机会，百度也计划把类ChatGPT产品文心一言率先应用在搜索场景。郝峻晟认为，因数据准确率还不是那么高，微软还不会那么快地能够超过谷歌全球搜索市场的领先地位。

同时，在当前的数字化和智能化浪潮中，ChatGPT也将会是人工智能多模态发展趋势当中的重要组成部分，并将会以另一种方式助力企业的数字化转型。

目前，微软和百度都已宣布将会把ChatGPT相关技术落地到自身的云业务产品当中，从而实现对外服务。李彦宏甚至放言称，这将根本性地改变云计算市场的游戏规则。

“百度在云计算的份额不是特别领先，如果推出文心一言，并且API得到大量用户使用，那么云的主战场就会变成人工智能服务的战场,百度可能扳回一局。”郝峻晟认为，这类产品最后都将通过API的方式对外提供，但考虑到高成本，核心要看它能创造多少价值。

随着BAT等国内企业纷纷宣布研发类ChatGPT产品，到底谁能推出高水平的国产版ChatGPT引发不少争论。郝峻晟表示，从0做到60分很容易，真正高精尖的地方是从90分做到95分甚至100分，国内在算法和人才等方面还存在差距。

同时他强调，ChatGPT不太可能出现短期收益，产品推出后还要更新数据，算法需要持续调优，重新训练模型，从而不断优化和迭代，这需要做好长期投入的准备。因此，郝峻晟并不看好创业公司来做平台级产品，但可以基于平台来做具体的商业化应用。

以下为对话精编：

ChatGPT或很快出现意识，多数人将成为机器附庸

搜狐科技：您使用ChatGPT过程中觉得最大的问题是什么？现在它有哪些比较明显的改进？

郝峻晟：ChatGPT很强，但还面临几个问题：一是数据的准确性无法保证；二是信息重复，部分内容翻来覆去讲；三是无法生成非常主观、感性、有质量的深度内容。OpenAI通过控制性的算法把违反伦理等内容过滤掉，目前也在吸收更多的交互性数据，通过改变提问方法或技巧会对最近的事情给出一些似是而非的结论。微软新版Bing也开放了某些限制，可以实时从互联网找到相应的结果。

搜狐科技：微软新版Bing也暴露出很多问题，比如诱导、威胁用户等，它用了更大的模型，为什么反而出现了更多的问题？

郝峻晟：这来源于目前人工智能的不可解释性，通过训练算法和参数调整，得到相应的结果和反馈，中间的原因没有办法通过逻辑推理或演绎归纳得到，这就导致某些结果的不可控。这需要通过外围相应的控制手段来保证结果不出现违反伦理等问题，未来随着进一步研究，可能会揭示更多的原理或底层核心的逻辑，那时对人工智能的控制会更为成熟。我个人认为这可能是脑科学家的工作，而不是计算机科学家。

搜狐科技：现在对ChatGPT是否会产生意识其有很多争议，您认为未来它是否有可能出现意识或情感？

郝峻晟：这需要对意识作出明确的定义。从计算机角度上来讲，不管是意识还是创新，都是量变到质变的结果。在人工智能领域，当数据量达到一定程度后系统会有质的飞跃，无法预期飞跃会是什么时候，但可能比较近了。

人类经济在过去的一两万年里面其实没有什么太多进步，然后到工业革命后一下子就飞跃起来。人工智能也会类似，几年前出现AlphaGo，今天出现ChatGPT，可能未来很快计算机在脑力上的能力会远远超过普通人。这也会带来某些相应的问题，如会不会出现硅基生命控制碳基生命。

搜狐科技：您认为ChatGPT会加速人类进入“美丽新世界”，这个过程中人机关系会发生什么样的变化？

郝峻晟：当未来ChatGPT比人聪明后，那么人就会对它形成更高的依赖，如在教育领域就会有越来越多的学生使用，这样人就失去了训练脑力的机会，就可能变成机器的附庸。如果ChatGPT成为万能的上帝，那人类将不可避免成为机器的奴隶。

ChatGPT目前还没有这种能力，但当机器真的能够控制人类的时候，人类离灭亡的这一天可能也就不远了。未来可能大部分人会变成机器的附庸，而且会落入信息茧房，只有极少部分人能够逃脱被机器工具化，真正地去控制机器。目前最关键的是不要让我们的下一代失去使用脑力的机会。

搜狐科技：未来真的会出现机器控制人的情况吗？

郝峻晟：机器控制人其实在一些程度上已经出现，而且是迟早的事情。如自动驾驶，未来如果人都不开车，相当于被汽车控制。但不要泛化人，有些人是控制工具的，比如设计自动驾驶的人。

ChatGPT热潮期关键要看商业应用，搜索、教育最典型

搜狐科技：AlphaGo在2016年打败围棋冠军时很惊艳，但后来没有太大动静，ChatGPT是否也会昙花一现？

郝峻晟：ChatGPT是长时间积累突破的结果，OpenAI很早就开始做这件事，从GPT-1到GPT-3.5，走到了大众都在用的阶段，某些场景下还出现了拟人化的表现。AlphaGo当时赢了李世石等围棋冠军后，已经彻底破坏了围棋的竞技精神，那也不是打造AlphaGo的初衷，背后的公司DeepMind觉得跟人再去比较已经没有意义，所以还是聚焦在机器和机器之间做相应研究，外部关注也就少了。

此前微软聊天机器人Tay和Facebook推出的BlenderBot3因出现违反伦理、灭亡人类等恶意言论，最后都不得不下架。但ChatGPT在算法上能够控制住一定言论，被关闭的可能性小得多，这也保证它在商业化上有实现的可能。

搜狐科技：ChatGPT热潮能持续多久？如果进入低谷期，原因会是什么？

郝峻晟：未来ChatGPT会不会落入低谷期，取决于它能不能在某些商业领域或行业实现持续的场景应用。典型如教育领域，学生做作业今天可能直接去ChatGPT要答案。这件事情本身能够让ChatGPT长期发展，问题是计算成本要高很多。如果免费，微软和OpenAI能撑多久，计算能力是不是能达到？如果达不到，应用可能会被受到限制，用户体验下降，场景可能就会消失。

如果免费应用在搜索领域，就看广告费是不是能够覆盖成本。它作为成熟的商业模式非常有效，这也是为什么谷歌感到危机的原因。但因为数据准确率还不是那么高，微软还不会那么快地超过谷歌全球搜索市场的领先地位。我认为它在某些领域已经逐步走向平台期，如教育、搜索等，但对于具备情绪价值或心理咨询等领域，它还远远没有达到人类的水平，这些场景可能会进入泡沫低谷期。

搜狐科技：有观点称ChatGPT相关技术重塑互联网所有的商业模式，您认为ChatGPT会对哪些领域产生比较直接和明显的影响？

郝峻晟：搜索、教育是最典型的领域，银行、网站等自动化的聊天机器人客服，可以借助ChatGPT使得拟人化程度更高，可能也会替代更多坐席客服的工作。从事文学或文字工作的行业，可以借助ChatGPT的语言能力。文娱行业比如会使得游戏互动的真实程度更好。在软件开发领域，通过ChatGPT相应的能力，再配上低代码开发平台或机器人流程自动化，能够在效率上变得更高。ChatGPT未来一定会有商业化的前景，但新技术从出来到广泛应用，需要商业化的验证，需要有人买单来负担它自身的成本。

AI将向多模态发展，ChatGPT或将改变云计算主战场

搜狐科技：ChatGPT被视为一次人工智能革命，在当前的数字化或智能化浪潮中，它有何用武之地？

郝峻晟：人工智能未来发展的方向是多模态，不仅是计算机视觉，还包括语音识别、自然语言处理，人类的听说读写的能力它都要有，ChatGPT能够解决的问题是写。在多模态人工智能或通用人工智能应用的场景中，能够生成项目、设计或生产计划的文案，这可能会改变生产流程或优化生产瓶颈。如果人工智能在里面能够提高制造效率，优化制造流程，同时提高产品的质量，这会让整个工业流程出现改变。但这和ChatGPT本身有点远，目前还看不到太多的直接联系。

搜狐科技：微软百度等厂商都说会将ChatGPT技术应用在云业务上，会如何来落地？

郝峻晟：世界上肯定不可能只有一家OpenAI，不可能只有一个ChatGPT，但基本都会是大厂来做，这些产品最后肯定都是通过这些平台按照API的方式对外提供。

搜狐科技：云计算厂商本身还在亏损，ChatGPT成本很高，也要考虑用户成本承受问题，这个问题怎么解决？

郝峻晟：这取决于客户的支付意愿。ChatGPT成本包括算力、电费、固定成本等，可能也就只有微软、谷歌、百度这些大公司承担得起。从商业角度上来看，核心问题在于它能创造多少价值，然后要看客户的支付意愿，愿意为这个价值付出多少。

搜狐科技：百度的文心一言将通过智能云去对外使用，李彦宏说这将从根本上改变云计算产业的游戏规则，它真的会带来这么大的影响吗？

郝峻晟：云计算由硬件Iaas、中间层Pass和最上面的Saas组成，微软、谷歌和百度、阿里、华为等在Iaas层面本质上没有任何区别，都是服务器，堆算力和电力。中间层是过去几年云计算厂商在相互竞争的核心，人工智能本来就是核心战场，包括视觉、文本、图像、视频、声纹、自然语言理解的处理等，都是通过API的方式来落地。

百度在云计算的份额不是特别领先，如果能够推出文心一言，并且API得到大量用户使用，那么云的主战场就会变成人工智能功能或服务的战场，百度就可能扳回一局。云是个大箩筐，在IT领域什么东西都能往里装，今天重点关注到ChatGPT，但可能过了几年没那么热，功能上也已经差不多，大家又会去追逐新的东西或技术。

做好长期投入准备，创业公司难以做出平台级产品

搜狐科技：国内要想做出ChatGPT，基于现有条件我们能否做出来，还需要解决哪方面的问题？

郝峻晟：算力方面，对国内把过去买的芯片都集中到ChatGPT项目不太乐观。人才和算法方面，把技术从0做到60分很简单，因为底层开源，做到80分拼人和钱也有可能，但真正高精尖的地方是把他从90分做到95分甚至100分，全世界的人才可能就几个且都在美国，中国在这个领域的创新上还有一定差距。

ChatGPT不太可能出现短期收益，如果看不到短期的财务回报，那要不要继续投？因为产品推出后还要更新数据，算法需要持续调优，重新训练模型，不断优化和迭代，软件是永远没底的。这方面的投入也很大，据说ChatGPT训练一次就要花费430万美元，包括电费等，还有机器成本、工程师、科学家，都需要人和钱，所以需要做好长期投入的准备。

搜狐科技：国内很多公司都在做类ChatGPT，也有创业公司入局，您最看好哪方的潜力？

郝峻晟：我估计可能只有百度、阿里、腾讯、华为等这样的大公司才能做出来。创业公司融几千万美金或几亿美金想要做出平台级的东西几乎没有可能，受制于芯片的压力也很难降低太多成本。但小公司可以基于平台上做具体的商业化应用，在特定领域进行改造或创新，未来更多的APP、网站或公众号、小程序都可以集成ChatGPT来获得相应的能力。如果未来市场特别大，且需求特别高，这也是个非常好的创业赛道。