当前位置:首页|资讯|生成式AI

红帽强化OpenShift AI,为生成式AI落地铺路

作者:云数科技圈发布时间:2023-06-21

原标题:红帽强化OpenShift AI,为生成式AI落地铺路

红帽的OpenShift是一个非常知名的PaaS平台,很多企业在用。OpenShift属于应用平台,是为支持上层应用服务的。这些上层应用可以是AI应用,也可以是其他传统应用,过去它们在红帽看来其实并没有什么不同。不过,随着AI大潮的到来,今天红帽对AI应用有了不同的对待。为了支持AI应用,红帽推出了Data Science和OpenShift AI,红帽提出要为AI应用提供一个统一的平台,不止是支持运行还有开发、部署,对AI应用的“偏爱”越发明显。

在不久前举办的红帽Summit大会上,红帽对OpenShift AI再次升级,进一步简化了AI应用的开发和部署,也为时下大火的生成式AI的普及再添了一把火。另外,在今年的红帽Summit大会上,红帽还推出了应用开发中心和供应链安全套件,这也意味着红帽已经将业务拓展到了应用开发领域。

01 为AI应用落地提供全栈支持

ChatGPT的成功带火了人们对生成式AI和大模型的关注,很多企业也是跃跃欲试,但很快发现迈出这一步很不容易。AI应用与传统应用的开发有很多不同。比如,AI应用不仅需要大量的基础设施资源和专门的工具,流程也长得多,需要建立一个模型,还要对这个模型进行训练、微调,再基于这个模型开发应用,然后再部署,因此门槛很高。

红帽OpenShift AI旨在降低这个门槛,让更多企业能享受AI技术的红利。红帽OpenShift AI基于开源技术,以红帽OpenShift和红帽OpenShift Data Science为基础进行构建,它为创建用于生产环境的AI/ML模型以及运行最终应用提供了标准化基础,有助于消除多项障碍。简而言之,OpenShift AI为红帽OpenShift提供了一致性、易用性和从云到边缘的部署选项,工程师可以根据数据科学家和开发人员的需求创建可扩展的配置。

OpenShift AI可用于微调现有的模型,从而节省初始模型训练成本,加速AI应用的上线,并使AI可供专业数据科学家之外的其他人员使用。OpenShift AI还提供了多种可选的技术合作伙伴产品,包括Anaconda、IBM Watson Studio、Intel OpenVINO、NVIDIA AI Enterprise以及Starburst等。作为OpenShift生态系统的一部分,该解决方案还可接入另外30个AI/ML认证合作伙伴的产品。其中包括一些开放的AI模型,基于此可以加快AI应用的开发速度。

OpenShift AI提供多种部署方式。对于需要满足特定监管和合规要求的企业,可以使用私有部署的OpenShift AI准备数据,并在本地开发、训练和部署模型。另外一些企业则可以在公有云中开发模型,并使用相同的一致工具和接口在本地或边缘部署模型。

在红帽Summit大会宣布的OpenShift AI最新增强的功能包括:

1. 用于AI/ML实验跟踪和自动化ML工作流的Pipeline,可帮助数据科学家和应用开发人员更快地迭代机器学习项目,并将自动化结合到应用部署和更新中。

2. 模型服务现在包括GPU对推理的支持,以及可以提高推理性能的定制模型服务运行时,并改进了基础模型的部署。

3. 模型监控使企业能够通过中央仪表板来管理性能和运营指标。

据悉,IBM watsonx.AI就是OpenShift AI一个成功的落地案例。作为IBM的人工智能平台,watsonx.AI可以扩展企业各方面的智能应用和服务,推进下一代基础模型的采用。IBM watsonx.AI的生成式AI服务的底座就是OpenShift AI。

02 将智能化融入自动化

在今年的红帽Summit大会上,除了OpenShift AI的更新外,红帽还推出了多个产品更新或者新的产品,是历年来发布新品最多的一次。

IT自动化一直是红帽的重点业务领域,红帽Ansible在业内有着非常高的知名度和普及率。今年,红帽对Ansible有了很多更新。其中之一是推出了Ansible LightSpeed服务,它允许技术人员利用生成式AI来生成操作指南,进行自动化的管理,更多内容可以参考文章《红帽Ansible引入生成式AI,自动生成脚本,运维开始被AI卷了》。Ansible另一个大的更新是支持事件驱动,帮助运营人员完成从事件源到规则到动作的高度灵活响应。比如,当收到了一封邮件或者系统中的某一个通知,就会自动触发某个工作任zhi务。

据了解,自动化的背后是Ansible引入IBM Watson的AI模型和IBM Watson Code Assistant生成式服务,它去触发Ansible的自动化脚本生成及实时执行。

红帽可信软件供应链是今年大会的又一个重大发布。它作为云服务提供,旨在在软件开发生命周期的每个阶段集成安全护栏。众所周知,开源软件的开发是很复杂的,要确认所用的组件是否安全是很困难的。红帽基于自己的开发实践提供的这项服务可以帮助企业了解自己选用的开源组件是否有安全风险,帮助进行代码的安全审计,为软件提供安全保障。

今年的红帽Summit上还有一个重要发布是红帽开发者中心的推出。这是一个面向开发者的工具,它是基于开源产品Backstage开发的,可以帮助企业来实现开发平台、工具和开发环境的规范化,确保大家按照一个标准的平台来开发程序,同时也按照标准化的方式进行打包,从而最大程度地提高开发效率。

当然,红帽Summit大会的重要发布远不止这些。比如,大会上还发布了一个Linux迁移的工具,可以帮助企业从CentOS迁移到红帽RHEL等。

03 加大对中国市场的投入

很显然,红帽公司新的产品发布对红帽扩展中国市场大有帮助,也是红帽持续保持增长的基础。红帽全球副总裁兼大中华区总裁曹衡康表示,虽然整体经济形势下行,但红帽在中国市场还是保持两位数的增长,他对今年的增长也很有信心。

“我看到了市场的需求,而红帽的产品和解决方案可以很好地满足这项需求。”曹衡康说。

他介绍,红帽还将加大在中国市场的投入,尤其是在人才培训上。今年,红帽将在中国建立一个数据中心,基于这个新的数据中心红帽可以方便地开展线上培训和认证业务。

“我们不仅会建数据中心,我们还会进行培训和认证内容以及设备的本地化,以后红帽的课程就可以通过线上进行了。”曹衡康表示。

为了做好这项工作,红帽已经与全球领先的技能和人才发展公司NIIT(安艾艾迪信息技术有限公司)达成合作,并已于3月1日起在中国提供红帽培训课程。中国企业和IT专业人士现在可以通过NIIT购买并获取红帽培训在线学习课程。

曹衡康透露,今年红帽将在巩固金融电信市场的基础上重点突破制造行业,能够充分体现红帽“少投入做更多的事情的优势”。

“制造行业很多软件是闭源的,价格昂贵。如果换成红帽的开源软件,成本会立降低2/3,实现70%的成本节约。同时,红帽的认证合作伙伴也很多,这些都有助于红帽开拓制造行业。”曹衡康说。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1