悉尼大学副校长张成奇：先定义生成式AI的错误敏感度，再决定如何使用

图片来自罗汉堂

出品｜搜狐科技

作者｜周锦童

7月5日，悉尼大学副校长、IJCAI-2024大会主席张成奇在2024罗汉堂数字经济年会上向大家介绍了生成式AI在商业中的应用和影响。

演讲中，张成奇讨论了生成式AI的优点和缺点。他用一个关于“意思”的中文对话例子来说明ChatGPT具有很好的理解和生成能力，能够准确辨别复杂语境中“意思”的具体含义。

不过，由于生成式AI只负责生成内容，而不负责验证其正确性，因此可能产生错误或误导性的信息，就像张成奇所说：“ChatGPT不负责生成结果的正确性、可靠性、真实性、安全性、隐私性，责任你自负，它什么都不负责。”

此外，张成奇还谈及了“错误敏感领域”（Error Sensitive）这个概念在生成式AI应用中的重要意义，他通过几个案例，解释了“错误敏感领域”是如何影响系统在不同场景下的适用性和可靠性的。

张成奇指出，像医疗诊断、法院判案、核电站检测这些都是非常敏感的领域，有0.1%的错误都是不能容忍的，因为错误的代价是巨大的，所以必须要人类把关。

但如果应用到股票领域，可能就没有这么敏感了，因为在中间敏感领域，错误和正确所带来的代价和收益是相等的，只要总体上正确率高于错误率，就能实现盈利。

此外，像写诗、作画、文案生成等领域对错误的容忍度较高，因为在这些领域错误的代价相对较小，能给我们带来很大的效益，所以生成式人工智能系统可以优先、大胆地使用。

“理解‘错误敏感领域’对大家非常有用，因为99.9%的人都在用生成式人工智能系统，不同领域的人该怎么使用要取决于如何定义Error Sensitive。”张成奇如是说。

张成奇指出，生成式人工智能能够极大提高生产力，尤其像数据分析、文档生成、流程自动化等工作，生成式人工智能发挥着重要作用，而且错误代价非常低。

不仅如此，生成式人工智能的应用将进一步推动个性化发展，尤其是在商业领域，通过个性化广告、产品推荐等方式实现，提高竞争力和用户满意度。

另外，生成式人工智能系统还可以节省人力资源成本。张成奇举例称：“一些企业开始用生成式人工智能替代部分助理工作，这样能减少人力投入，同时还可以提高效率。”

谈及目前生成式人工智能发展的趋势时，他表示，现在的生成式AI一定是走多模态路径的，因为没有多模态的生成式模型能力太弱了；此外数据也非常重要，没有数据的生成式人工智能就“无米可炊”。

在张成奇看来，统一多模态、实时多模态、个性化多模态，这三个多模态发展的方向都是各取所需，向前发展的。

演讲最后，张成奇还探讨了未来生成式人工智能的发展趋势，他指出，未来生成式人工智能不会完全替代人类，因为不能效除生成式人工智能的幻觉、隐私问题，所以未来要做到人机共存，广泛应用AI的长处。

“至于商业模式的创新一定是走个性化、智能化的道路，以不变应万变是很难的，以万变应不变这是未来的趋势。”张成奇如是说。