随着ChatGPT的大火,生成式AI已经成为新的投资重点,很多企业都在考虑如何在自己的企业和产品中拥抱生成式AI。悄然间,生成式AI已经渗透到很多行业和领域,应用开发、部署和系统运维也在其中。
在红帽Summit 2023大会上,红帽宣布推出一项新的生成式人工智能服务Ansible lightspeed,通过与IBM合作将生成式AI引入Ansible,实现了自动生成脚本,红帽的另一个产品Red Hat Insights也应用了生成式AI。
“在将生成式AI的应用上,我们已经在红帽的一些产品中进行了实践,实践证明,生成式AI方法使我们能够以更高效的方式进行更多的实验和数据训练。” 红帽总裁兼 CEO Matt Hicks在大会期间举行的媒体沟通会上表示。
红帽总裁兼 CEO Matt Hicks
引入生成式AI,自动生成执行脚本
Ansible是一款非常流行的开源自动化工具,它基于 Python 开发,可以批量系统配置、批量程序部署、批量运行命令等功能。Ansible典型的工作方式是通过一个脚本文件(基于 YAML 格式构建)去控制远端操作系统按照特定的顺序执行相关任务。这个文件称为playbook,它是实现运维自动化的关键。
编写playbook文件需要一定的经验,有不低的门槛。红帽新推出了一项生成式人工智能服务Ansible lightspeed,通过与IBM合作,利用IBM Watson Code Assistant,将生成式AI集成进Ansible,可以用自然语言生成可执行的操作指南,在降低了playbook门槛的同时还提高了准确性。
“生成式AI是一项重要的进步。过去深度学习要求数据科学家具备深厚的专业知识来构建模型。而如今基于大型语言模型和基础模型的迁移学习为企业提供了更多机会。不再需要对数据进行繁重的标注工作,而是能够利用更小、更专注的数据集进行训练和定制,以更广泛地应用于企业环境。这种变化改变了对技术的获取方式,这是当前的重大变革。”红帽首席技术官Chris Wright说。
Chris Wright,红帽首席技术官
虽然Ansible YAML是一种比较容易理解的基础设施自动化开发语言,但运维人员还是希望尽可能减少手动工作量,实现更多的自动化。而通过使用生成式人工智能模型,它可以针对特定领域进行训练,基于在Ansible社区中被认为是成功且有用的playbook,产生高度准确的输出结果。这种生成式人工智能工具既可以帮助人们探索特定领域的需求,又能帮助企业IT客户实现更多自动化,提高企业效率。
“Ansible是生成式AI应用的一个很好的起点,因为它专注于Ansible YAML语言,针对管理IT自动化的用户需求,我们正通过这一实践不断学习和提升。这只是生成式AI在我们产品组合中融入的众多方式之一,未来我们还将不断探索更多可能性。”Chris Wright说。
Chris Wright透露,红帽还会将这一技术扩展到其他产品组合中,比如OpenShift。在OpenShift上启动一个应用程序时,可以使用自动生成的YAML文件描述其部署情况。未来,红帽将进一步利用生成式AI技术来生成和优化Operator,从而帮助运维人员和开发人员更高效地利用红帽的产品,最终帮助用户构建自主系统。
“我认为未来会非常依赖对系统产生的所有数据的理解,包括日志文件、度量指标还是系统的遥测信息。我们可以利用这些数据来训练模型,帮助我们了解系统的当前状态,并通过自动化确保当前状态与期望状态保持一致。因此,我对生成式人工智能以及其对企业的影响感到非常兴奋。”Chris Wright表示说。
更好地支持大模型和AI应用的开发
除了提升自己产品的智能化程度之外,红帽还在产品中提供更多能力来赋能客户,帮助客户开发人工智能应用,用好人工智能技术。比如,OpenShift的版本更新中一直在持续不断低增强对AI工作负载和AI模型开发的支持,OpenShift AI的推出正是这个目的。
Chris Wright介绍,OpenShift作为一个容器平台,在其最初阶段完全专注于应用程序,帮助用户支持业务系统运行。随着机器学习的普及,人们希望在容器中完成一些机器学习工作,比如在容器中运行一些训练工具、模型开发和训练工具,最终在容器中运行一些已训练好的模型。
“我们看到这是一个机会,可以将应用程序开发和模型开发融合到同一个平台上。OpenShift AI的推出正是这个目的。它提供了这样一个绝佳的机会,能将AI工作负载和AI开发模型带到与应用程序开发相同的平台上。”他说。
OpenShift AI覆盖整个MLOps全过程,从数据的收集和特征工程、到模型的开发和参数调优,以确保模型能够提供准确的预测结果,并将其推送到生产环境中,作为构建智能应用程序的关键组成部分。
“您可以将业务逻辑与推理引擎或训练模型相结合,从而构建一个更智能的业务,并在将该模型推向生产环境后保持准确。然而,随着世界的不断变化,模型可能会逐渐偏离实际情况,因为其训练是基于特定数据集进行的。随着时间的推移,您需要决定是否扩大数据集并重新训练模型,以保持准确。”Chris Wright表示。
这就是需要一个工具来对整个工作流程提供支持,OpenShift AI就是用以此目的,它为创建用于生产环境的AI/ML模型,以及运行最终应用提供了标准化基础。OpenShift AI包含许多组件,用以训练、提供服务、监控和改进指标。通过这个完整的工作流程,可以与模型开发相关联,实现良好的业务结果。据悉,IBM WastonX.AI的生成式AI服务正是OpenShift AI提供支持的。
“AI Pipeline流水线这样的工具链和成熟度对于企业非常重要,红帽整合了整个合作伙伴生态系统,为OpenShift AI构建了一系列能力。”Chris Wright表示。
OpenShift AI只是OpenShift提供的对AI应用开发和部署的功能之一。实际上,红帽OpenShift 一直在不断增加对AI应用开发的支持。比如,从红帽OpenShift 4.10开始就已经支持开放混合云环境中广泛的云原生工作负载,使企业能够在更多环境中运行AI/ML工作负载。
“我们看到了很多围绕开源的创新,而我们乐意成为这种桥梁。无论是通过与我们合作运用人工智能来提升您在Ansible方面的能力,还是在DevOps方面取得更好的表现,又或者是在实现一些人工智能创新方面取得成功。我们将在不同行业、不同应用场景中充分应用这些创新的技术。因此,现在是身处红帽和开源领域的好时机。”Matt Hicks在媒体见面会总结说。