看懂这一点，就看懂了下一个红利
内容来源：苇草智酷、信息社会50人论坛，2023年7月21日线下讲座。
分享嘉宾：刘伟，北京邮电大学人机交互与认知工程实验室主任、剑桥大学访问学者。
责编| 三丰
第 7598 篇深度好文 8544字 | 18 分钟阅读
商业思维
笔记君说：
从信息化到数字化，再到人工智能，科技发展的节奏越来越快。
尤其是ChatGPT等智能大模型的涌现，出现了很多颠覆性的工作场景和市场应用。参数越来越大，表现也越来越好，但始终与想象的智能有所差距。
为什么人工智能表现会差强人意？人工智能未来发展的趋势是什么？这个过程中要产生哪些突破？
北京邮电大学人机交互与认知工程实验室主任刘伟将为我们一一解答，文章篇幅较长，请耐心阅读，相信会对您深有启发。
一、事实与价值，是机器与人的最大差别
1.能辨“是”“应”，始为智能
18世纪，英国哲学家大卫休谟提出了“事实与价值能否转换”的问题。他认为：事实陈述描述世界“是”怎样的，价值判断规定了世界“应该”是怎样的。
前者是描述，后者是评价，属于两种不同的活动。因此，我们不能从一个事件“是什么”推断出该事“应该”如何。现实世界与理想的价值世界之间没有逻辑的关系。
这个问题在当时引起了很大反响，因为它挑战了伦理学、哲学等认知科学。最近随着人工智能的迅速发展，它也在挑战人工智能，挑战人机融合智能。
卡住人工智能脖颈的也正是这一问题，解决了这一问题，就可能产生颠覆性的影响，否则，只能按部就班地小步前行。
亚圣孟子也提过类似的思想“是非之心，智也”，他把“智”解释成“能明辨是非”，这个观点也影响了很多人。
综合二者的观点，我改成“是应之心，人机智也。”“是”是being（事实），“应”是should（价值），二者的结合就是“人机智能”。
在很大程度上，“人机智能”是被大家所误解的。这里有三个名词：“人机融合智能”“人的智能”和“机器的智能”。三者不是同一概念，“机器智能”包括了“人工智能”和“机工智能（机器能编程、修改程序）”。
在“人工智能”的研究中，还提出了“类脑智能”的概念，实际上这个概念也是一个错觉。
人的智能是一个人物环境相互的产物，比如狼孩的大脑和正常人的大脑是一致的，他的神经元和正常人别无二致，但狼孩没有人类的智能。所以，单纯的类脑模拟不了人的智能，只能模拟出人的一些基本功能。
大家非常关注的人工智能产品“ChatGPT”，在严格意义上说，这是一种人机融合智能产品，它的参数多达1750亿。
它通过人机的互动反馈增强输出结果，但它的结果中存在着“机器幻觉”现象，即输出结果常常与事实不相符，与常识不相符，机器幻觉的产生在于它无法把事实和价值进行有效的统一。
人工智能是以数据为基础的，但人类还有一个重要的特质——非数据智能。
非数据智能的特点在于“等价”而非“相等”，等价是在价值上进行类比，而相等是在事实上完全一样。
2.事实与价值的定义
事实是可以通过观察测量和验证得出的客观存在和发生的事件现象和数据，它是与客观事实相符的描述或陈述，不受个人的偏见或者主观评价的影响。
事实通常是可以被证实，有引用来源，可以由科学方法和逻辑推理所支持。如“地球围绕太阳公转”“温度在摄氏度下的水的沸点是100度”等是事实。
事实中包括了数据、信息、知识，同时在真实的事实里面常常隐含非数据、非信息、非知识。
价值是指人们对道德、伦理、美学等方面的主观评价和信仰，它反映了个体或群体的观点、情感和信念，通常基于个人和文化的背景经验和审美标准，价值是每个人根据自身的信仰和判断制定的个人的准则，因此具有主观性。
例如，“诚实和正直是重要的价值观”“美是一种主观的审美价值”等就是关于价值观的表述。
价值的作用在于什么地方呢？首先，事前的预测、预警，比如与人合作，要看人的性格和品质；其次，事中的干预，根据不同的定性调节事件的发生；最后，事后的追溯和反思。
事实涉及客观存在或发生的情况，具备验证性和客观性，而价值则是人们对道德、伦理、美学等领域的主观评价和信仰，具有主观性和个体差异。
在讨论问题时，理解事实和价值的区别和特点可以帮助我们更准确地思考和交流。
3.事实和价值的双向可变、适变、转变是人机智能的瓶颈
如何把价值转化为事实？如何把事实转化为价值？人类到现在还没找到它们的转化关系的规律。
假设是建立在猜想推测条件下的前提，常常与事实相关，但假设本身与价值没有直接的关系，只有间接关系。
统计概率是根据数据和统计分析得出的可能性的事实预测，同样也和事实和价值没有直接的关系。
斯坦福大学在1966年到1970年间进行了著名的棉花糖实验：如果参与的儿童在15分钟不吃掉棉花糖，则可以得到两块棉花糖，如果在15分钟内吃掉了棉花糖，就没有后面的奖励了。这个实验反映了儿童对“事实与价值之间的关系”的反应。
不过也有人对棉花糖实验提出了质疑，比如绝大多数日本儿童在15分钟之内都能忍受，而美国儿童平均4分钟就会吃掉棉花糖。
所以，在不同的环境下成长的儿童，棉花糖实验的效果不一样，对事实和价值的判断也不一样。
对于成年人来说，除了客观的事实评价以外，还有很多主观评价，如社会评价、环境评价等。
因此，成年人看利弊，会把主观和客观混合在一起去看，而小孩一般凭感知或个人喜好来进行判断。
二、事实与价值的融合嵌入，是世界的真相
真正困难的不是单纯的是非问题，A和非A的问题，事实与价值的问题，而是两者的混合和发酵，它们更复杂，但更真实。
这种混合是每时每刻都存在，如何对这种混合进行有效的处理和分析，是智能研究所要面对的主要问题。
为了准确而又形象地描述人机融合智能，我用太极图来描述人类智能与机器智能的关系：
人类智能用黑鱼表示，人类智能中的程序化、理性或类机器的用黑鱼中的白眼来表示；机器智能主要是程序，是算法，是数学公式，是统计，用白鱼表示，在机器智能的未来趋势中也隐藏着人类这种泛化了的灵活的智能。
1.东方与西方
在文化、科学、技术和伦理道德等方向，东西方是相互嵌入的，正如太极图一样，黑中有白，白中有黑。
老子的《道德经》开篇两句是“道可道，非常道”，“道”可以理解是一种理性、规律或逻辑，“非常道”就不是单纯的理性或逻辑，而是一堆理性或者一堆理性和感性的混合物，它是一个逻辑簇，包含了一堆逻辑。
所以，“非常道”已经偏离了西方人理解的逻辑，其包含了逻辑之外，甚至相反的东西。比如智能，实际也包含了一些反智能因素，通常情况下大家不会考虑这个问题，用的时候也往往是潜意识在起作用。
道家在解释“名”时也用了同样的逻辑，“名”是定义，“非常名”则包含了一大堆的定义组合，不可能理得很清楚，所以用“非常名”来进行概括。
西方的科学技术中也有两个嵌入东方哲学的事物：第一，光的波粒二象性；第二，量子力学的纠缠和叠加。
所以西方的物理学中存在着东方的“道”。因此，以后的逻辑不再是单纯的逻辑，而是混合体的逻辑组、逻辑簇。
单纯解释或理解人机交互、人机融合相对容易，但人机融合智能困难在于何时、何地、何式（事实和价值）的组合与协同问题。
2.科学技术与人文艺术
1959年，英国剑桥物理学家和文学家Snow做了一次重要的学术报告，提出了两种文化：第一种是科学文化，第二种是人文文化，这两种文化同时存在。
智能也包含了两种：第一种，科学技术智能，其范围非常广泛，包含了人工智能、人机融合智能、人机环境系统智能等；第二种，人文艺术智能，比如《孙子兵法》中的战争艺术，实际上是一种非常高的智能。
科学技术与人文艺术也是混合的，在科学技术中包含了人文艺术，人文艺术中也包含了科学技术。所以，真正的智能不是单一的产品或系统，它是科学与非科学、人文与非人文综合在一起所衍生出来的一种生态。
从我个人的理解来看，人工智能算法并不智能，反而很狭隘。
深度学习、强化学习、迁移学习、遗传算法等所有算法都是有条件、有边界和有约束的，离开了条件、边界和约束的算法就是智障算法。
所以，人工智能算法并不智能，这种现象普遍存在于各种智能产品中。为什么大家感觉到现在的智能产品和系统并没有大家想象的好，其原因就在于大家没有意识到科学和人文是相互嵌套、相互融合的。
离开了人文，单一的科学走不远，离开了科学，人文不会有很快的进化和发展。
3.系统论与还原论
系统论和还原论共同整合出了人类智能的新框架，这也是东方和西方智能逐渐融合的结果。系统论也是整体论，它是东方思想中的一大特色，体现在天、地、人等思想上。
西方的还原论体现在物理、化学、生物学、解剖学等科学上，这种还原搭建了现代科学和技术的脚手架，除此之外，还有很多补偿性的、丰富性的一些元素在系统中。
在本质上，人工智能并不是大家想象的智能系统，它只是一个无人自动化的系统，或者是自动化系统的技术拓扑。真正的智能系统中，在系统中嵌有还原论，在还原中嵌有系统，二者是混合的。
4.“计算”与“算计”
计算是事实的演绎、归纳，而算计是人类价值的赋予。
系统论、控制论和信息论是系统理论的三大基础理论，它们反应的是客观事实，在嵌入了“价值”后有了新的发展。
信息论是用概率论和数理统计方法，从量的方面来研究系统的信息如何获取、加工、处理、传输和控制的一门科学。在嵌入算计后，增加了价值赋值，对信息输入的质量产生了很大的影响，产生了新的信息论。
控制论是研究系统的状态、功能、行为方式及变动趋势，控制系统的稳定，揭示不同系统的共同的控制规律，使系统按预定目标运行的技术科学。它强调数据的反馈和客观的反馈，增加了价值反馈和主观反馈之后，也会出现了新的控制论。
贝塔朗菲的系统论要求把事物当作一个整体或系统来研究，并用数学模型去描述和确定系统的结构和行为。在增加了定性分析和主观评价后，产生了人机环境系统或者人物环境系统。这是一个新的系统，既涉及到定量，也涉及到定性。
在算计中也有大量的计算，同样，计算中也嵌有算计。
高斯有句名言：“数学的精髓在于计算之外。”，他最著名的计算案例是从1加到100，用的方法也是“计算”和“算计”的融合。
在东方思维中，从《易经》到老子的《道德经》，再到孙子的《孙子兵法》中，无处不有算计，无处不在谋算。
毛主席常说的一句话“你打你的，我打我的。”“你打你的”是事实，“我打我的”是在价值上不跟着对方走，到如今毛泽东思想仍闪耀着他的光辉。
所以，计算和算计无时不在，无时不有，二者相互嵌套。
5.数据与非数据
人工智能涉及了计算和算计，其输入端也就涉及到了数据与非数据。但人工智能最大的缺陷是把“非数据”当作了“数据”做处理。
比如，现在流行“情感计算”的算法，实际上“情感”能计算吗？诚然，情感有能计算的成分，但也有不能计算的成分。
数据中包含一定的信息，信息中也包含有数据。信息的定义是“有用的数据”，而现在有一种DRIP（Data Rich and Information Poor）现象,即“数据丰富，信息贫乏”。
传感器越来越多，得到的东西却越来越少，为什么？因为这些传感器之间有矛盾、有冲突，有不和谐，有不一致。人多了是非多，同样，传感器多了也会产生是非，这些是非就导致了不能统一。
现在数据和信息的融合日益突出，单纯强调数据不对，单纯强调信息也有问题，如何把非数与“数据”进行结合，是未来发展的重要切入点。
6.理性与感性
对数据和信息的处理涉及到两种方式：一是理性的处理，另一个是感性的处理。
但没有绝对的理性，理性中包含着一点感性，也没有绝对的感性，感性中也包含着理性，理性和感性是融合的。
同一律、无矛盾率和排中率是理性的三大基本原则，其共同构建了数学大厦的基础，也是科学和技术大厦的基础。
同一律：A=A，无论是什么，它就是它。A是它本身，而不是其他什么事物。
无矛盾律：A和非A不可能同时发生。没有什么事物同时既是它又不是它。一个命题和它的相反面不可能同时为真。
排中律：任何事物一定要么“是”要么“不是”，要么“A”要么非A，两者之间不存在其他情况。
《孙子兵法》介绍了感性的4条原则：能而示之不能；用而示之不用；进而示之远；远而示之近。
如果用理性三定律很难去表达感性，因为感性是灵活的，它不是孤立的，需要根据外部环境和不同对象采用一些策略，这些策略也不是绝对的，可能是暂时的。
感性和理性就会发生融合，融合之后我们可以得出结论：价值不同于事实，价值不是假设，价值也不是统计和概率。
在人类最早期的时候并没有很强烈的理性观念，饿了要打猎，下雨了要躲到山洞中，这就是一种感性。当人类吃饱之后还要考虑吃好，在不被淋雨之后还要考虑以后不会淋雨，这些意图动机就产生了很多理性的工作和理性思维。
意图动机产生于感性，理性也是由感性产生出来的。代数学、几何学，包括万有引力都不是人类出现就有的，而是随着人类发展进步慢慢衍生出来的。
很多人试图用数学方式计算意图理解和动机表现，或许在某些特定环境、特定的场合和特定的任务可能得出结果，但更多的结果偏差极大，因为很多人类的意图是算不出来的。
你不了解其背景，不能理解它所产生时的状态，就很难计算出真正的意图和动机。
7.一与多
“一和多”的问题广泛存在。人类生命最早期有一夫多妻现象（很多大型哺乳动物也有此类现象），佛家也有“一花一世界，一树一菩提”之说法，现在也有一党多党和一国多制现象，工业设计中也有个性和共性化问题。
在智能的事实和价值中，从输入、处理、输出、反馈、平衡这几个阶段中都能看到一和多的现象。
输入是一个数据还是多个数据？是小数据还是大数据？处理时是用一种方法还是多种方法？输出是一个角色还是多个角色？这些是如何平衡，如何协调，如何协同？
“一”这个整体中包含着多个元素，而在多个元素中也包含着整体的思想规则，一中有多，多中也有一，“多和一”是相互融合。
语言哲学大师维特根斯坦强调语言的使用方式取决于特定的社会和文化背景，而不是简单地由符号和含义之间的关系所决定。
比如，“对象”对应的“名称”有多个，只能用“非常名”来表达；一个苹果放在桌子上，这一“事态”对应的是“基本命题”；不同的“事态”组合在一起，变成了事实，形成了命题；“世界”可以用多种“语言”来表达。
从事件的表征到推理，再构成结构到形成功能，最后映射的都是“一和多”的问题。
用小样本解决大问题，才是真正的智能。
ChatGPT是依靠大数据的大模型，存在着致命的漏洞和幻觉。目前的机器智能还只能处理事实，而且事实必须数据化，不能数据化的事实，机器也无法处理，而人类的智慧可以同时处理事实和价值的混合物。
8.态与势，感与知
态中有势，比如，在智能城市项目中有不同的功能区，这些功能区会产生大量的状态参数，而这些参数汇集之后会形成趋势，并进行协同。而势中也包含着各种状态，状态也蕴含着趋势和发展变化的方向。所以态中有势，势中也有态。
现在很多人工智能系统和产品是有态无势，它们把状态参数收集得很全面，但没有反映出变化的方向和趋势。
如何做到有态有势呢？一定要从“感”和“知”上入手。
“感”是感觉，这个“感”不是传感器的“感”，而是人的感觉，善良是人感觉中的重要特点，它是一种主动的感悟。
到现在为主，机器的各种传感器所获得的数据，都属于被动的“感”。所以，需要一种新的“感”，包含着主动感和被动感。
“知”是知觉，知觉不同于感觉，感觉是刺激、信号，而知觉是建立在已有知识有先验的基础上所产生的连接，它处理的是信息和知识自觉。
所以，感和知之间的转换嵌套也非常重要，不能隔离地去看“感”，也不能隔离地看“知”，感中有知，知中有感，二者也是混合的体系。
深绿系统由美国国防部高级研究计划局（DARPA）在2007年提出，旨在基于实时战场态势数据，通过计算机模拟仿真推演作战方案，预测敌方行动和战场态势，引导指挥官快速做出决策。
由于深绿系统没有反映出真实的态势或情况，综合成本和其他因素，深绿项目在2011年终止。
粟裕大将是解放军的著名战将，没有依靠“大”数据，而是通过一些基本情报和对对方的洞察、知悉，取得了很多关键性的胜利。
费曼有句名言：凡是我不能创造的，我就不能真正理解。粟裕大将理解了态势，用主动的感知能进行有效的把控，而机器智能很难产生真正的“理解”。
理解是什么？理解，是看到或感知那些不能感知的东西和没有形成数据的东西。
态势感知是时间空间内的，一般的态势感知相对来说属于事实性的。但人类非常特殊，人类的态势感知和机器的态势感知时空不一样，人类能产生事实的想象、价值的泛化、非存在的时空，也能让时间快，也能让时间慢。
人类对态势感知所表现出的控制力量，使其能创造出一些不存在的事物，比如圣诞老人、孙悟空等虚拟人物。
智能本质上是人性的拓扑，人性的本质是价值，通过价值进行联系、协同与合作。
9.自主和它主
自主和群体智能是人工智能领域最前卫的概念。
机器自主智能是一种自主的智能思维。由于人工智能的发展及软硬件的进步，使计算机逻辑分析能力不断大幅提高，直至计算机的综合逻辑分析提高为逻辑思维，这种逻辑思维可以根据环境条件自主产生新的逻辑，并摆脱人类的框架式控制，而成为一种自主的智能思维。
群体智能源于对以蚂蚁、蜜蜂等为代表的社会性昆虫的群体行为的研究。最早被用在细胞机器人系统的描述中。它的控制是分布式的，不存在中心控制。群体具有自组织性。
具身、离身和反身也是智能领域的流行概念。
人类没有天生的思想，所有的思想都是别人给的，尤其是那些重要的思想。
比如牛顿的万有引力理论和微积分理论，大家可能并不了解它的产生过程，实际上，牛顿在其导师和朋友那里获取了很多养分，最后慢慢汇总形成了他的理论和思想。
因此，牛顿在做了很多工作之后，发现万有引力是一个必然的结果。
在人的智能中，具身智能只是一个组成部分，具身要放到环境中进行交互。符号就是离身，通过对符号的计算对人进行对比，把人的智能看成机器智能就是离身的一个表现。
反身是通过别人的表现来看自己，然后调整自己，通过调整之后再看别人的反应，这种相互作用构成了反身。
因此，单纯的具身有其局限性，把具身、离身和反身结合在一起，构成了自主和它主。自主中有它主，没有绝对的自主，人一定生活在社会中，当然，它主中也有自主，因此二者也是混合的体系。
在人工智能自主分级时总会遇到一个困难——没有让所有人完全接受和认同的标准。大家在自主分级时使用的常常是事实性问题，没有使用价值分析，其主要原因是价值不能很好地转化为事实表征。
10.主观与客观，因与果
在厘清了它主和自主之后，接下来是主观和客观的问题。“主观”确定主观吗？“客观”一定客观吗？我们的很多概念都很客观，但这些客观存在吗？事物的属性与观察者有关吗？客观和主观有关吗？
这些问题在量子力学中得到了一定回答，当观察者参与之后，才能发现“猫”的真实属性，如果没有观察者参与，“猫”的状态既是活的也是死的。所以，主客观在此有很多异议。
在科学研究中，“先信仰后理解”是经常发生的事情。比如，牛顿从苹果落地开始，他就感觉有一个公式可以解释这种现象，后来也总结出了万有引力定律；
爱因斯坦感觉牛顿的万有引力存在问题，于是发明了“相对论”；现在大家发现了人工智能存在的问题，也就会找到新的理论来突破人工智能。
所以，主客观也存在相互转化的问题。
因果关系也是主客观的一项重要表现。佛学也强调因果，因果相互作用，原因中有结果，结果中也有原因，而且任何事情没有单一的原因，比如，某人感冒是很多原因造成的，某一疾病的流行，也是由很多原因综合作用的结果。
但在科学研究中，常常抓住为数不多的原因和结果来作为研究的主要途径，这也存在一定的问题。而在智能的问题上，涉及的因素更复杂更繁多，多因导致的是多果。
11.自由与决定
人从出生到离开这个世界，这是“决定”，谁都逃不掉这个命运，无论你是伟大还是卑微；但在这个过程中，又是自由的，想象可以是无尽的，可以和任何一个没见到的事物打交道。
人机智能体现了“自由”与“决定”的有效融合，它既反映了自由，也反映了决定，它既有规则和概率，同时也有反规则和反概率，它们同时存在。
人机融合是自由意志和数理决定的交互。
12.价值与事实
价值不同于事实，它不是假设，也不是统计概率。指鹿为马是典型的事实与价值的矛盾，马是客观的，鹿也是客观的，但“指鹿为马”就变成了主观，它反映了客观事实和主观价值之间的冲突。
只有事实的对齐，没有价值的对齐，智能或许就是智障。不能反映价值，这是人工智能被大家所诟病的原因。
自指是一种指向自己的特殊递归能力，从系统跳出系统、用有限的手段生成无限是人类自主或人类智能最重要的能力。自指也是事实和价值的桥梁。
现在的人工智能把数学当成了逻辑，把逻辑当成了智能，但数学不是逻辑，数学是基于公理的逻辑，智能也不是逻辑，智能是逻辑和非逻辑的综合。
智中有愚，愚中有智，二者也是相互融合、辩证的关系。
人物（机）环境之间的一多关系、事实与价值、主客观、自由与决定对齐可以从不同角度进行思考。这些不同角度很难对齐，尤其是在具体事物中，现在的算法还远远不够，需要新的算法和新的体系。
三、人机融合智能的瓶颈与发展趋势
1.人机智能体系六大关键问题
第一，数据和非数据的问题；第二，人工智能和非人工智能的问题；第三，人在系统中和人在系统外的问题；第四，自主的定义与分级；
第五，伦理道德和法律的问题；第六，测试和评价的问题，因为智能产品极多，类别太泛，所以没有统一的测试和评价的标准。
2.人工智能三大瓶颈
第一，可解释性、透明性和可信任性的问题；第二，机器常识与人类常识的问题；第三，人类学习和机器学习的差异性问题。这三个问题都涉及到事实和价值的回归问题。
3.智能发展的趋势
未来智能的发展走势，是从人工智能走向人机融合智能，再到人机环境系统智能，它包含了五个特点：第一，主动推荐；第二，交互学习；第三，高效容错；第四，混合决策；第五，按需组网。
我的分享就到这里，谢谢！
*文章为演讲者独立观点，不代表笔记侠立场。
笔记侠第二届智能新商业大会
期待和你再次相遇
分享、点赞、在看，3连