IBM专家观点：从+AI到AI+，谈企业如何应用ChatGPT技术
GPT-4全球发布，再次将以ChatGPT为代表的人工智能如何应用于企业的讨论带向新的高潮。鉴于广大客户与合作伙伴对于如何在企业高质量、规模化和安全地采用人工智能实现创新突破的探索需求，我们特别邀请IBM中国的技术与行业专家，分享他们的见解与实施经验。今天与大家分享的是IBM数据与人工智能资深技术专家、The Open Group 卓越级技术专家（Distinguished Technical Specialist）吴敏达，以下是他近期的署名文章——
从 +AI 到 AI+，谈企业如何应用 ChatGPT 技术
作者：吴敏达
IBM科技事业部 数据与人工智能资深技术专家
作者简介：吴敏达是 The Open Group 卓越级技术专家（Distinguished Technical Specialist），同时拥有计算机技术与软件专业系统架构设计师技术资格。他现在是 IBM 科技事业部数据与人工智能资深技术专家，拥有 20 多年数据分析软件相关技术经验，是 IBM 认证的大数据架构师和 Watson 开发者，专长是大数据、人工智能等领域。他是 IBM Developer 的大师级作者，已经发表了 40 余篇技术文章和教程。现从事大数据、人工智能相关技术支持和架构设计工作。
引言
AI 无处不在，它可以画画、创作、并与人们谈论复杂的话题。技术每年都变得更加先进，越来越多的企业正在从 +AI（数据集成+分析）过渡到AI+（预测、自动化、机器学习）。 企业的 AI 采用率和 AI 能力都自 2017 年以来翻了一番，而作为数字化转型战略一部分的 AI 预算已从 2018 年的 5% 增长到 2022 年的 52% [1]。
随着ChatGPT的横空出世，成为主要新闻文章的标题，一时洛阳纸贵，一试难求。越来越多的企业正在认识到他们可以通过 AI 获得价值和转型的新方式，开始思考如何利用ChatGPT技术重新定义生产力，产生业务价值。
然而当企业逐步深入调研ChatGPT的能力和技术之后，就会产生疑虑和不安。首先是安全性，由于 ChatGPT 是公有云的服务，如果企业需要使用，需要用企业的数据去 Fine-Tuning（微调）预训练模型，而很多企业数据是敏感和需要保护的。同样在使用ChatGPT 服务的时候也要考虑安全的问题。
其次是准确性和权威性，ChatGPT 的答案并不总是完全准确、相关或公正，因为它们是由人工智能生成的。 虽然它能够提供一些非常有创意的响应，但它会让企业或品牌面临风险，因为没有一致的、可扩展的方法来确定所提供的答案是否正确。
最后，企业 AI 需要考虑 AI 治理、定义政策并在整个 AI 生命周期中建立问责制，以确保模型遵守公平、可解释性、稳健性、透明度和隐私的原则，而这也是 ChatGPT 目前缺失的。
“梅须逊雪三分白，雪却输梅一段香”， 本文试图从行业知识和技术实践两个角度来进行探讨，看看企业如何能够扬长避短，利用ChatGPT 技术助力企业级 AI。
场景与流程
行业知识和技术实践是企业级 AI 成功的关键因素。ChatGPT 技术在企业应用同样如此，选择合适的场景，采用受控的企业流程，通过开放的架构，才能让 ChatGPT 技术在企业安全落地。
ChatGPT 是以 GPT 3.5 为基础衍生出来的应用，目的是用来展示 GPT 的能力。ChatGPT的 技术支撑是大规模语言模型，也就是大家耳熟能详的 LLM，LLM 属于基础模型的范畴，基础模型是在广泛的未标记数据集上训练的模型，这些数据可用于不同的任务，只需最少的微调。基础模型和 LLM 支撑了生成式 AI，通过从现有数据中学习来创建原创内容。
ChatGPT 和 LLM 是 AI 领域令人激动的创新，会直接加速对话 AI 的应用，客户服务（利用 AI 来进行互动和交谈）是最重要的企业 AI 应用场景之一。以 ChatGPT 为代表的生成式 AI 擅长响应与问题相关、可以处理小众不常见的话题，但也可能会编造事实不正确的答案。而目前企业级对话 AI 更擅长对高价值问题的回答，非常具体和准确，因此引入 ChatGPT 的技术，可以完善企业级对话 AI 的能力。
理解、传递和应用业务流程是企业级 AI 的重要部分，AI 需要理解、应用和处理这些流程。尽管 ChatGPT 是在大量基于文本的数据上进行训练的，但它并不“理解”企业所需的特定业务流程和流程，它不会对模棱两可的问题进行澄清，而是对问题的含义进行"最佳猜测"。例如：用户询问业务场景："我如何支付账单？"，ChatGPT 会详细说明了如何支付账单的过程。但企业级 AI 需要能够弄清楚用户想支付什么账单、从什么账户以及支付方式。 这些问题特定于企业或流程，对话的结果是交易处理结果，而不仅仅是基于文本。ChatGPT 不支持针对企业系统执行交易的能力。而 IBM Watson Assistant 和 IBM Watson Discovery 帮助中国客户构建企业级 AI 都是围绕特定业务场景来训练优化语言模型，并集成企业自动化业务流程[2]。Watson Assistant 可以根据客户信息和上下文触发业务流程并用于对话控制，并通过使用开箱即用的 webhook 和触发 API 与业务系统集成来实现自动化任务。
企业级 AI 需要控制对话，Watson Assistant 是企业级对话 AI 市场的领导者，可以实现“tell me”, “show me”和“do it for me”， 与企业系统和应用程序集成或完全自动化业务流程。Watson Assistant 最新的功能“旅程”[3]，可以在对话中逐步直观地指导用户应用的复杂过程，通过视频，文本和图像提供交互式帮助和支持。
持续改进增强对话机器人的性能和用户体验是企业级AI非常重要的内容。在引入 ChatGPT 技术后，依然需要企业级AI 最佳实践和方法论来保证成功。IBM Watson Assistant 提供了持续改进对话机器人和衡量指标，可用于日常交付以提高对话机器人效率的完整方法论、技巧、操作方法和模板。企业级对话 AI 建议综合关注四个指标：净推荐值 (NPS)、客户满意度、遏制率、一次性问题解决率。仅仅看净推荐值和客户满意度并不能全面了解对话机器人的成功与否，遏制率是用户不选择人工的百分比，回访率是看用户在一周内是否使用了任何渠道重新寻求帮助，遏制率低和回访率高意味着对话机器人并没有达到满意的自助服务效果。
在企业级 AI 中，ChatGPT 背后的 AI 基础模型技术除了前面谈到的客户服务业务场景，也可以用于数字化劳动力、IT 运营和网络安全等。Red Hat 和 IBM 正在利用该技术为 Ansible 注入新的功能，Project Wisdom[4] 将使任何人都可以更轻松地使用 AI 生成的建议编写 Ansible Playbook。Project Wisdom 将能够根据用户输入，然后生成以 Ansible 语法编写自动化内容，实现与AI 进行结对编程。IBM 已经构建了一系列企业 AI 工具、应用程序和解决方案，现在正利用最新的 AI 基础模型技术优化结果和适合企业使用。我们将技术和咨询服务结合到一个经过验证的框架中，解决客户和企业最紧迫的业务问题。
Watson 能力的演进
自 2020 年以来，IBM Watson 产品一直在使用基础模型（Foundation Models） 为其开箱即用的特定任务模型提供支持。通过使用了基础模型，准确性明显超过上一代模型，而且仍然具有成本效益。 借助预训练的基础模型，Watson 可以使用更少的标注语句训练一种新语种，从而更快的实现多语种支持。
由于 Watson 服务不仅支持公有云，而且支持本地化部署，企业客户可以使用企业行业领域数据来调整基础模型并创建自定义模型并保证安全性。
Watson Assistant 正在用生成式 AI 来实现更好的对话体验和更快的构建。
l 会话式搜索：利用 Watson Assistant 的对话增强功能来抽取搜索的内容，在没有预先构建的对话流时生成可信会话响应。
l 个性化响应：根据用户的会话或上下文数据，让 Watson Assistant 调整响应以适应每个独特客户的个性化体验 。
l 更快更轻松地编写对话：自动生成对话流，进行复审后部署。
l 更快更容易编写“旅程”：轻松生成产品导览，以快速显示用户如何处理复杂的任务。
我们正处于 AI 的转折点，对于大型语言模型的快速技术进步和 ChatGPT 背后的技术感到非常兴奋。Legalmation [5]是 IBM利用类似技术的企业级 AI 案例，Legalmation 利用 IBM Watson Discovery 生成早期阶段的诉讼草稿，并为律师和律师助理节省时间。 在不到两分钟的时间内起草了回复，成本降低 80%。另外，通过和 GPT 语言生成的服务为 IBM Watson Assistant 客户提供扩展其对话式 AI 功能的能力。Watson Assistant 可以根据用户查询，通过 Watson Discovery 检索内容。然后采用生成式预训练 Transformer 技术，根据检索到的内容、查询和对话的完整上下文生成响应。这是利用 GPT 技术的一种积极方式，因为企业仍然能够在生成的响应中获得上下文和企业行业知识。企业级 AI 需要多种方案的组合来产生业务价值，ChatGPT 背后的技术将是其中的一部分。
下面是 Watson 与 GPT 技术的生成式 AI 结合的例子。左边是 Watson Assistant没有预设答案，会自动调用 Watson Discovery实时搜索用户问题，可以找到知识文档中相关内容并返回结果，但不能使用这些内容生成自然的对话语言答案。而且 Watson Discovery 可以提供多个搜索结果，但无法将不同的搜索结果的信息结合起来，提供一个连贯的答案。右边则增加了生成式 AI 的能力，这时候生成的答案直接响应用户所提出的问题。另外使用对话上下文来回答第二个问题：第二个问题没有明确提及“劳务派遣公司基本情况表”，但会根据上下文给出正确答案，因为它在上一个问题中已被提及。整个过程无编码即可完成，只需要把行业文档交给 Watson Discovery，将生成式 AI 指向 Watson Discovery，最后将它们与 Watson Assistant 模板连接在一起。
AI 治理也是非常重要的方面。IBM 发布了 AI 的信任和透明原则[6]，这是如何构建 IBM 产品、IBM 如何利用 AI 的指导，IBM Watson 承诺不会利用客户数据来训练模型。同样这也是 ChatGPT 技术如何助力企业 AI 的需要关注的。
总结
来自 AI 的洞察力正在从根本上改变我们工作方式的方方面面。ChatGPT 虽然不完美，但正在为我们的科技未来指明方向。在+AI 阶段，AI 针对传统应用去产生价值，通过 +AI赋能。而 AI+ 时代已经到来，是以 AI 为核心，AI 无处不在。IBM 正在帮助企业将 AI 付诸行动，通过 AI 和自动化重塑工作流程，自动化端到端企业流程，用 AI 驱动的决策代替日常重复的任务来提高生产力，个性化员工和客户互动。
在 +AI 阶段，企业从智能设备等消费领域获得的标签训练数据。 使用互联网规模应用的消费者生成了足够的训练数据，可用于推荐引擎，语音和视觉应用。而在 AI+ 时代，利用基础模型，可以使用未标注的数据进行训练，从而使企业有机会通过未标注的数据来获取业务价值。比如，工业 4.0 可以使用在正常操作期间生成的传感器数据来优化设备维护，IT 供应商可以通过基础模型降低 IT 运营成本。IBM正在帮助企业创建特定行业的基础模型，一起迎接 AI+ 时代的到来！
参考资料：
[1]https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-in-2022-and-a-half-decade-in-review#/
[2] https://mp.weixin.qq.com/s/-ZcbaDhIhuQsxvC4VeyKsQ
[3]https://medium.com/ibm-watson/best-practices-for-watson-assistant-journeys-993d16fb0ad0
[4] https://research.ibm.com/blog/ai-for-code-project-wisdom-red-hat
[5] https://www.ibm.com/case-studies/legalmation/
[6] https://www.ibm.com/policy/trust-principles/
