“机器学习之父”最新发声！人工智能的发展受到扭曲，需要重新定位

出品 | 搜狐科技

编辑 | 梁昌均

“对我来说，我们现在所处的时代，相对于过去的发展来说，并不是非常革命性。”在9月5日的外滩大会上，“机器学习之父”、美国三院院士迈克尔·乔丹（Michael I. Jordan）在演讲中谈及目前的AI时代说道。

迈克尔·乔丹是机器学习领域的开创者之一，在机器学习领域深耕近40年，奠定了该领域的理论基础，是美国科学院院士、美国工程院院士、美国艺术与科学院院士，还是多个重要学术组织的会士。

他在演讲中从学术视角回顾了AI的发展历程，认为缺乏对集体性、不确定性和激励机制的关注，是当前对人工智能的讨论中缺失的三个方面。

乔丹强调，人工智能落地产业，需要形成互相协作的集体，要构建人工智能的协作系统，必须要引入经济学的“激励”视角。

他表示，过去40年真正发生的事情通常被称为机器学习，而不是人工智能。随着现在更多的人类数据被引入到语音和自然语言中，变成云上的大规模机器学习、使用和预测。“因为它是人类的数据，看起来像是人工智能，新的和旧的理论再次被重新使用。”

但他认为，当前人工智能的对话系统在某些方面做得很糟糕，部分原因是对个体智能的关注。“这种模型是一个回答问题的单个智能代理，它在某些方面回答问题越来越好，但在某些方面却越来越差。”

同时，乔丹提到，人类非常善于应对不确定性，生活本身充满了不确定性，人也是非常不确定，互相交流是则创造了一种降低不确定性的文化，这是人类做得非常好的事情之一。

“但当前的人工智能系统并没有很好地做到这一点，其不善于思考不确定性，也不善于团结起来应对不确定性。”乔丹说，ChatGPT就无法确定生成的内容是对的。

他认为，当前的人工智能系统很难表达它真正学到哪些知识，也没有能力表达它有多确定。相较之下，人类在面对不确定性时表现出色，尤其是集体协作共同应对时。

“不确定性永远不会消失，我可能会随着时间的推移而成长，人类能做到这一点，但人工智能并没有解决它的不确定状态。”乔丹表示。

他认为，解决这种问题的方式是建立一个协作式、去中心化的系统，引入集体智能，让其能够谈论不确定性，并从微观经济学的角度来看待智能，而不仅仅是从心理学的角度看待智能的不确定性。

乔丹提到了自己学术生涯的一直在做的研究项目，即三层数据市场（Three-Layer Data Markets）模型，用户、平台和数据买家通过出让数据、购买数据、提供服务形成了闭环。

他强调，数据购买者也就是企业可以结合“数据和服务”建立与用户的激励机制，从而为他们带来真正的价值。

乔丹认为，激励机制是市场经济和集体智能的关键因素。“AI拥有海量的数据，但有些不能生成价值，通过设计激励机制才能驱动AI智能体贡献和协作。”

“这给人们带来了真正的价值，特别涉及到均衡、不确定性和集体行为的分析。这些是我们正在做的一些研究工作，在机器学习和经济学之上做数学研究，这是我认为的前沿。”乔丹说。

他援引了统计契约理论，这是一种结合了统计学和经济学的新型理论。在契约理论中，代理人拥有私有信息，而委托人通过激励机制形成了数据和服务相互促进的市场，维持了供需双方的利益平衡。

他还提到了数据隐私的监管。“欧洲的GDPR是非常强的隐私法规，这正在扼杀一些中小企业。我们的系统将允许你分析会发生什么，当实施任何GDPR法规时，效果会上升或下降多少，我们能够量化。”

“对我来说，法律监管必须以数学为基础，不能只是人们在想什么是好的，它必须是定量的。我们在这里讨论的是真实世界的系统，它在真实世界中真正起作用。”乔丹说。

他提醒到，人工智能正被置于那些未经深思熟虑的、朴素的旧式愿景之中，它的兴起和发展受到扭曲。“AI作为一个新的工程领域正在成长，它涉及经济学、计算机科学和统计学，需要以人类福祉为目标。”