智能科学大会：机器算法预测，警惕单一性文化

10月26日，在世界顶尖科学家智能科学大会上，除了有大咖们的主旨演讲，今年还新设“案例研讨会”环节，通过一个个生动而具体的案例讲述科学进展。

【AI：逻辑推理+机器学习】

中国科学院外籍院士、英国皇家工程院院士、深圳计算科学研究院首席科学家樊文飞认为，人工智能需要两条腿走路，就是逻辑推理和机器学习。

樊文飞

人工智能对数据的需求，需要高质量的数据，但不需要海量的数据。樊文飞解释，对于人工智能来说，逻辑推理、机器学习，两者互相不可替代。逻辑推理在类似文件和视频、图像等这些非结构性数据是比较脆弱的，但是和机器学习相比，这两条线都有自己的优势和劣势，任何一种都不能被另外一种替代。在美国，生产线当中17%用的是机器学习，67%用的是逻辑推理，剩下的一些两个都会用。事实证明，机器需要+逻辑推理，这种路线将会节省成本，并且更加可靠。

结合逻辑推理、机器学习的人工智能已经开始尝试运用到现实中。樊文飞解释，比如，药物发现的案例。众所周知，药物发现是非常昂贵和漫长的，可能10年要花20亿美金，成功率只是不到10%。早期的药物发现尤其是靶向识别，通常苦于病人数据量的缺少。我们使用人工智能的方法和逻辑推理、机器学习，做了数个实验、试点，最后的结果得到了专业医疗医药实验室的认可。

还有一个案例，是电动汽车电池的生产。一个电池包有成千上万个电池芯，这些电池芯有相同的容量。在生产工艺中，把电池芯充到一定电压，激活，再冷却，继续充电直到充满，然后放电。很多放电传统的方法是非常昂贵且费时，通常需要20小时，占据了整个生产线的45%，降低了生产率。“叠加了机器学习、逻辑推理后，放电方式从20多个生产小时降到4个小时，同时能耗也降低了50%。出错率在0.3%—0.6%之间，远远超过工业要求的1%出错率，这已经部署在数个生产线，也是在电动车生产上在中国有所应用。”

【算法预测，警惕单一性文化】

2024世界顶尖科学家协会奖“智能科学与数学奖”得主康奈尔大学乔恩·克莱因伯格教授，在展望人工智能算法预测的同时，也提醒大家警惕“单一性文化”的出现。

现在的人工智能，已经不仅仅是学习已有的知识，甚至能根据一些数据进行预测。举个例子，比如互联网利用你过去的浏览行为，猜测你会喜欢什么；通过个性化的信息源，记录你的过去、滚动、喜欢和评论行为，并尝试猜测手机滚动条下面接下来应该出现什么信息。

这种机器预测，可以辅助运用在很多方面，比如，大学招生录取、企业招聘人员等。招聘人员可能会拿到某人的简历，确切地说，是一份描述他的文件，并试图预测他们将成为一名多么有效的员工，或者他们将与团队的其他成员合作得多么好；大学招生官会根据一些信息，机器预测未来的学习能力；医生可能会对某些医疗状况的未来进程做出预测。

然而，并不存在完美的预测。“这种机器预测还会带来‘单一文化’的问题，这是未来要考虑的事情。”乔恩·克莱因伯格解释，“单一栽培”一词起源于农业，人们担心的是，如果你在所有的田地里种植一种作物，那么你就会让它面临被一种病原体根除的风险，而这种病原体可以横扫所有的田地。

最近，预测方法中出现了单一文化。比如，如果你在12家不同的公司申请工作，那么你可能会认为你的简历会得到12个不同的决定。但如果他们都购买了相同的算法来评估你的简历，你实际上只得到一个决定。最后，人与人工智能的对接问题。算法的一般模式是观察人类的行为，并试图对它们作出预测和决定；而强大的人工智能，它被明确地调整为与较弱的伙伴更兼容。

同济大学计算机学院研一学生杨梦梦告诉记者：“这是我第一次来参加顶科论坛，23日两位顶科协奖得主在同济的讲座很精彩、很有趣，但我还想听听不同科学家的见解，有助于拓宽自己的思路，从不同的角度思考问题。”同样也是第一次参加顶尖科学家论坛的上海科技大学信息学院研一学生鱼滋惠，对乔恩·克莱因伯格教授的观点印象深刻。“算法预期可能会导致单一性文化，这提醒我们需要提高对AI安全研究的重视程度。”