给万名奥运健儿提供AI聊天机器人，英特尔给巴黎奥运会送来“神助攻”
智东西
作者 | ZeR0
编辑 | 漠影
智东西7月19日报道，巴黎奥运会将于下周正式开幕。今日，英特尔分享了与国际奥林匹克委员会（IOC）的一些合作细节，并披露了其以行业需求为导向所打造的生成式AI检索增强生成（RAG）解决方案。基于企业AI开放平台（OPEA），该方案以行业需求为导向、开箱即用，能够帮助企业便捷地部署数据中心RAG。
此外，为了帮助全球约11,000名拥有不同语言和文化背景的运动员在奥运比赛场地出入，并遵守相关规定，国际奥委会与英特尔合作开发了基于Athlete365平台的聊天机器人AthleteGPT。
这是一款基于英特尔至强处理器和Gaudi加速器的RAG解决方案。AthleteGPT支持普通话、英语、法语、西班牙语、俄语、阿拉伯语等六种语言，不仅能够应答运动员的日常询问并进行互动，同时将在运动员入住巴黎奥运村期间，为其按需提供信息，使其能快速查询并获得准确信息，从而能够专注于训练和比赛。
这些成果深度展示了英特尔如何通过基于英特尔至强处理器和Gaudi AI加速器的开放式AI系统及平台，帮助开发者和企业应对AI高速发展所带来的需求。
一、基于企业AI开放平台，打造生成式AI RAG解决方案
部署生成式AI解决方案会带来成本、规模、准确性、开发需求、隐私和可靠性等方面的挑战。RAG可以让企业安全地利用专有数据，增强AI产出结果的及时性与可靠性。
基于AI平台、开放标准以及软件和系统生态，英特尔以协作的方式帮助开发者构建定制化的生成式AI RAG解决方案，从而满足企业的多样化需求，帮助企业更高效快速地发挥并利用生成式AI的潜力。
此外，英特尔亦将持续提供开放、强大且可组合的多供应商生成式AI解决方案。
英特尔与行业合作伙伴共同创建了开源、可互操作的解决方案，用于轻松部署RAG。基于企业AI开放平台（OPEA），该方案是一种以行业需求为导向、开箱即用、可立即投产的RAG解决方案。
OPEA为企业提供开源、标准化、模块化，以及异构的RAG流水线，并致力于为开放式模型及多种编译器和工具链的开发提供支持。其加速了针对垂直领域用例的容器化AI集成与交付。
生成式AI一站式解决方案将基于OPEA的微服务组件集成至用于部署英特尔至强处理器和Gaudi AI系统的、可扩展的RAG解决方案中，可通过Kubernetes、Red Hat OpenShift等经验证的编排框架进行无缝扩展，并提供兼具可靠性和系统遥测功能的标准化API。
在助力企业便捷地部署数据中心RAG的同时，该方案具备高度的灵活性和可定制性，并集成了多个OEM系统及行业合作伙伴的产品组件。
英特尔至强和Gaudi及相关技术支持基于PyTorch框架来开发大语言模型（LLM）。同时，英特尔携手OPEA开发了用于RAG和LLM部署的开放式软件堆栈。该软件堆栈通过生成式AI一站式解决方案进行优化，并基于PyTorch、Hugging Face服务库（TGI和TEI）、LangChain以及Redis向量数据库所构建。
二、支持多种边缘AI应用，全面优化奥运观赛体验
英特尔还支持了巴黎奥运会的一系列边缘AI应用。这些应用展示了由英特尔技术支持的AI解决方案在实现沉浸式互动体验、提高赛事观赏体验、引入实时3D播报体验等方面的实用价值。
1、发掘新生代奥运选手：在巴黎奥运会和残奥会的筹备与比赛期间，英特尔联手三星打造基于AI技术的沉浸式互动体验，能够带领观众体验成为一名奥运选手的奇妙旅程。得益于英特尔Gaudi AI加速器、内置AI加速功能的至强处理器，以及OpenVINO工具套件的优化，该AI技术能够带领观众体验一系列专业的训练与分析，并为其匹配出最为合适的比赛项目。
2、提高赛事观赏体验：面向视障人士，基于内置AI加速功能的至强处理器，英特尔将为美国奥委会和国际残奥委会在巴黎的训练场所以及残奥委会位于德国波恩的总部重建3D模型，帮助视障人士通过具备摄像功能的智能手机实现室内语音导航。
3、引入全新3D播报：英特尔通过至强处理器捕捉并渲染奥运健儿的实时影像，并将生成的体积视频（volumetric video，含三维空间信息并可在任意视角观看的视频格式）传输给奥林匹克广播服务公司，从而传播至全球范围内拥有播报版权的各大媒体。同时，通过英特尔OpenVINO工具套件的优化，全球各地的粉丝均可收看到自己喜爱运动员的3D沉浸式实时访谈，并收获与奥林匹克前所未有的近距离接触。
结语：用技术创新改善体育赛事体验
英特尔与国际奥委会之间的合作是在重大体育赛事中运用技术创新的新案例。英特尔执行副总裁兼数据中心与人工智能事业部总经理Justin Hotard谈道：“通过拥抱开放、协作的生态系统，英特尔正以创新的方式为运动员提供支持，并助力企业客户创造更多可能。”
现阶段，如何将最新的AI计算技术应用到企业中并推动关键业务成果落地，是企业亟待解决的问题。英特尔正在打造一个开放的环境以鼓励创新，帮助开发者和企业构建定制化的AI解决方案并取得切实成果。凭借生成式AI一站式解决方案与全面的企业AI堆栈，英特尔提供了完整的解决方案，以应对企业和数据中心在部署和扩展RAG与LLM应用时所面临的挑战。