关于ChatGPT，一群北大文科生聊嗨了
最近，ChatGPT又一次燃爆了大家的神经，我们团队里大多是经济、金融、管理学背景的，一群所谓的非硬核技术型人才，又一次充分发挥了北大“民主自由爱叨叨”的精神，开始你一言我一语，从金融、资产、职业、教育，聊到情感、婚姻、人生、哲学。聊完大家都酣畅淋漓，故以这种方式记录下来。
或许在不远的未来，当人工智能技术逐渐让人类社会改变模样的时候，我们可以回过头来看看，什么叫做——“人类一思考，上帝就发笑”。
01
关于ChatGPT和人工智能
讨论和思考
@香帅
从事经济研究、金融资产研究的人，我们可能要想想，人工智能对我们这些生活在全球化环境里的人，它带来的冲击究竟是什么？
对于我自己来说：
这都是我特别关心的问题。这些问题大概率都没有现成答案，但是值得思考和探索。
1
「对职业的影响」
首先，我想知道它对包括媒体、研究、咨询，以及投行在内的“泛内容行业”的冲击，究竟有多大？我的直觉是，对那种有创意、有深度分析能力的人和团队是福音，其他的……可能真是灭顶之灾。不说别的，要我是某个研究机构的老板，等人工智能再成熟点，应用落地便宜点，那些初级分析师的价值就很小了，说不定可以统统裁撤掉。
2
「对教育孩子的影响」
其次，我在想，人工智能可能会像之前的互联网、移动互联网一样，逐渐变成未来的基础设施。我这一代用着WINDOWS长大，你们则活在各种APP上，而我们的下一代，应该是人工智能一代。最近看着ChatGPT的新闻，再看着我5岁的儿子小乖，想起自己父母这代人老去之后，在互联网时代遭遇的种种困境，觉得背上有冷汗——如果我们不想被时代抛弃，我们应该如何面对它？应该怎样教育我们的下一代？
3
「对行业发展和资产的影响」
如果人工智能是下一代基础设施的话，那么互联网行业又会经历一次重新洗牌，资本市场也会经历大的洗牌。记得当年凯文·凯利跟马化腾说，“即将消灭你的人，迄今还没有出现在你的敌人名单上”。现在看起来，新一代的“微软英特尔”，“谷歌苹果”……会不会都在酝酿当中。而中国能否像当年紧紧抓住互联网这波浪潮一样，在人工智能这一代技术革命，行业颠覆中站稳脚跟，我目前有点看不清楚。
@江雁
我昨天还和我家那位孩子马上考大学的阿姨说，如果孩子只是进一般普通大学，还不如学点真技术，做人工智能不能替代的活，比如瑜伽老师、心理咨询师，如果只是做普通白领，未来会被替代的概率很大。
@香帅
这是必然的。我会想到很多。人工智能如果真的能演进，那么我们后代将面对的，将是我们从未见过的世界，职业、情感、婚姻、生活方式、价值观，全会变。
其实早在我儿子出生的那年（2018年），我就曾给自己很多心理建设：未来我儿子30岁的时候，要是他带一个男人，甚至一个机器人回来，告诉我，“妈，这是我的结婚对象（终身伴侣）”，我会是什么表情，什么心情？当时还是一个模糊的想法，有点玩笑性质，这次看到ChatGPT的消息，感觉很复杂，觉得“那个阶段”说不定会来得比我预料的更早。
@江雁
是的，人工智能很有可能会是很好的伴侣，当前老年婚恋市场很难匹配，但是如果有了人工智能，说不定就可以解决这个问题。
@香帅
我和朋友讨论过“老龄化”问题怎么解决，当时还想过，人类的物种繁衍可能会演进成社会化抚养的方式。现在觉得，演进的方式也许更多样化，说不定人工智能也是一个方向。
只不过，这些“变化”来的速度太快了，记得前些年看凯文·凯利的书，说技术到了一个节点以后，再往前突破的时候，它会有一个指数型的生长。这些年是真切感受到了。
@雯
对于ChatGPT，我的第一直觉是想要去学，否则今天70、80岁的老人面对互联网的窘境，可能就是我自己的未来。
但对于伴侣方面，我看法相反，如果它能成为伴侣，那它基本也就不可控了。电影里演的那种人工智能干掉人类，可能会成为现实，如果人工智能可以感知情感，那就太可怕了。
@香帅
人类的情感，其实本身可以看成是数据驱动的。比如说一个女孩子，她喜欢吃什么东西，喜欢看什么电影，这些数据只要你搜集得到，然后输入到人工智能的脑子里，通过几次的强化以后，它就会学习情感的互动，最后可能就真的能够具备我们今天所说的“情感”，变成一个合格的“男朋友”。核心就是因为，人类的情感本质上也是数据，我们的每一个想法都可以看成是大脑里的一段电流数据。当然，除了一些纯粹是生理性的反应，这个可能千人千面，其余的都是可以通过数据分析就能完成的。
@江雁
我也很认同这个观点，我们每个人都是一套算法，只是我们没研究透自己，对自己并没有清晰的认识。在《怪诞脑科学》这本书里，作者就说，人类大脑就是所谓的“克鲁机”，我们每个人的反应，都是过去经历的总和。只不过，人类是emotional（情绪化）的人工智能，bug比较多，算力不够。每个人都觉得自己很特殊，但实际上我们都走不出一些基本的套路。
@香帅
人类就是低级的人工智能，这句话很残忍，但这是事实。
记得读书的时候，看过一部好莱坞科幻电影，说因为我们脑子里的神经元都是散的，越聪明的人，大脑神经元中间的连接越强，反应速度就越快。然后，科学家就发明了一种药，可以帮助你加强那个连接，就可以创造超人类。虽然是科幻小说，但回头想想，其实科幻都来源于现实对历史和未来的映射。
@江雁
现在人工智能的算法，基本也是模仿我们人类的脑神经元结构。之前斯坦福大学人工智能专家李飞飞教授，在TED上分享她如何让机器学会识别图片中的不同事物，就是从她儿子如何学会辨别事物受到的启发。人类幼崽是怎么开始学会分辨不同的事物？就是用眼睛无时无刻不断地拍照，身边的人不断告诉他，然后幼崽将图片和标签共同储存，然后就逐渐学会了，人终其一生都在这样学习。李飞飞他们团队的图像型人工智能就是这么训练的，将图片以及对应的标签不断输入人工智能进行储存，然后为机器构造神经元结构，再尝试识别相似的事物。
@香帅
了解人工智能对社会的“泛化”的影响，我们可以重读五本书，赫拉利的《未来简史》《人类简史》，还有凯文·凯利的KK三部曲《失控》《必然》《科技想要什么》。
@鹏
赫拉利的《未来简史》中提到了，人类因为一次基因突变，具备了其他动物不具备的一种能力——想象现实中不存在的事物，比如神灵。但是人工智能只能基于已有的知识来学习。虽然创新在一定程度上是不断地将已有的知识重新排列组合，这一点人工智能非常强大，但是想象力可能是人工智能当下找不到路径突破的、无法超越人类的瓶颈。
@璇
我也推荐一本书《皇帝新脑》，这是反对强AI的书，作者是诺贝尔奖物理学奖获得者。
算法本身的确从未确定真理！要使算法只产生谬误和只产生真理一样容易。为了确定一个算法有效与否，人们需要有外在的洞察（后面还要讲到）。我的论断是，在适当的环境下从错误中判断出真理的能力（或从丑恶中得到美丽），正是意识的标志。
我挺同意这段话，灵感和直觉在发现真理方面比逻辑推导重要得多。
@靖
非常同意，我和同事之前有一个迷思，第一名的学生研究能力并不是最强的，他们习惯了标准化答案，做研究的时候好像总是缺点什么，例如“灵感”，例如反复尝试的能力，例如高度抽象又具象表达的能力。就和ChatGPT一样，总是给你比较啰嗦而准确的答案。但是，就像李光耀说的这句话，新加坡想做“站在十字路口的城市”，这种表达，ChatGPT是根本给不到的。
@江雁
批判精神确实不是所有人都拥有的，并且说到逻辑推断，其实也很有争议。比如assumption（假设）错了，逻辑再严谨也不对；如果大部分人和少部分人的想法不同，逻辑一般会认为大部分人是对的，但这又不一定是真正的真理。
@香帅
没有创意灵感的人/事，都缺少价值。具备这样的能力和认知的人才是当下的稀缺人才。ChatGPT的产出，或许比较适合真正的研究者作为一个baseline（基准线）的参考，再一次展开更深一层的思考。
@稼鸣
目前生成式AI的确是有局限的，过于依赖语料库，现有中文的语料库如果不加筛选的话，国内某家公司的AI估计会把人忽悠到莆田医院，ChatGPT也一定会大肆赞扬美国。
@江雁
是的，虽然我们说人类是有bug的人工智能，但是，有些人类之所以可以做出非凡成就，就是因为人类作为智能生物有这些bug的存在，才让这种扰动项最后演化成一些奇迹。
如果所有人类都没有bug，都非常理性，或许也不一定会有过去这些巨大的创新，因为人类会一直在自己的逻辑里绕圈，很难破圈。人类的bug虽然让大部分人平庸，但也会成就极少数的天才。所以我们承认人类有bug，但是如果这个bug不存在，我们会无趣很多。
@雯
我记得以前看尹晔讲过，人类基因的变异就是这么来的，本质上就是bug。变异带来创新和进步，这段变异基因就会被保留下来，进入传承。千万年前的人类和我们现在的人类，都是智人，但实际上也是不同的。我们已经自我迭代过太多次了。
@江雁
如果我们不给ChatGPT加类似于人类的bug，他们可能最多进化成我们现在的思考层次。但是如果加了这个扰动性的话，也不知道会发生什么，例如，会有一些人工智能会变成其中的异类吗？如果出现了异类的人工智能，其他人工智能帮着出现异常的那台机器纠偏或者证伪，并且根据所得出结论，进行整体的思考和迭代，那就真的很像人类创造知识的过程了。
@稼鸣
现在其实已经有机器可以通过图灵测试，而且目前人类已经可以模拟几个神经信号，只是系统的有机体还没办法做到。
@江雁
在那之前，人工智能没有和我们一样的情感和体验感，或许就还做不到反思。因为人类大部分时候，都是在痛苦中成长。
不过未来人工智能到底会如何发展，取决于我们的选择。就像同为人类，人之间的差异本身就已经足够大了，很多人在原地踏步，很多人在飞速成长。我们究竟是选择让人工智能变成很variant（多样化）的存在，还是标准化的存在，也是我们未来面临的一个选择。
02
写在最后
以上就是我们团队昨天针对ChatGPT和人工智能产生的讨论和思考，或许5年后、10年后，在技术与社会都演变成新的模样时，我们再回望曾经的思考，有先见之处，有疏漏之处，可能还有些可笑之处。
当我们把这篇文章发出来，这些想法被人工智能看到、学习以后，它会不会感慨“愚蠢的人类”呢？在这个充满不确定的世界中，我们唯一能确定的一件事就是——世界永远在变化。
愿我们都能在时代的浪潮中奋力前行，诸君共勉。