作者:郝俊慧 来源:IT时报
在北京时间3月19日举行的英伟达开发者大会上,NVIDIA(英伟达)宣布将在AI Enterprise 5.0中推出一系列“微服务”,其中包括简化企业将AI模型部署到生产环境中的NIM。
同日,《IT时报》记者从SAP获悉,双方将宣布扩展合作伙伴关系,共同致力于帮助企业客户在SAP云解决方案和应用中,加速发挥数据和生成式AI的变革力量。
据了解,NIM微服务是英伟达基于NVIDIA推理软件的预构建容器,通过打包算法、系统和运行优化,并添加行业标准的API,提供包括Triton推理服务器和TensorRT-LLM,简化了AI模型部署过程。
开发人员可以将NIM集成到现有的应用程序和基础设施中,而无需进行大量定制或专业知识,部署时间从几周缩短至几分钟。黄仁勋对此的解释是:“以后公司将不再需要编写软件,而是组装AI模型,给它们提出任务,做工作产品的示例、审查计划和中间结果。”
作为全球最知名的企业应用软件解决方案提供商之一,SAP将与NVIDIA合作,将生成式AI集成到SAP云解决方案中,其中包括最新发布的SAP Datasphere(SAP数据整合平台)、SAP BTP(业务技术云平台)和RISE with SAP,从而利用NVIDIA的生成式AI foundry服务,在SAP BTP中构建更多的生成式AI功能。
如此一来,SAP可以为客户开发和部署生成式AI的基础,并通过SAP AI Core 和SAP Datasphere的生成式AI中心提供给用户。目前,SAP和NVIDIA正在探索20多个生成式AI应用案例。
比如,在SAP S/4HANA Cloud中通过智能发票匹配,从而自动化企业资源计划的生成式AI功能;利用SAP SuccessFactors改善人力资源应用案例;以及加速从SAP Signavio获取全新的生成式AI洞察力,以更好地处理业务建议并优化SAP的客户支持流程。
NVIDIA NIM将被用于加速和最大化SAP基础架构中的推理性能。借助NVIDIA NeMo Retriever微服务,SAP计划增加RAG(搜索增强生成)功能,使生成式AI应用能够更安全地访问SAP软件上运行的数据,从而提高准确性和洞察力。