当前位置:首页|资讯

以太网加入,AI存储有了更多选择

作者:戴尔科技集团发布时间:2024-10-17

从模型训练到推理部署

AI正贯穿研发与生产全流程

从数据中心到边缘设备

AI逐渐延伸覆盖各类场景

从客户交互到运营优化

AI正在全面赋能业务发展

……

随着AI工作负载的不断扩展,支持它们的基础设施必须比以往任何时候都更加强大——企业亟需一种更具灵活性且经济高效的解决方案,而兼具高带宽、低延迟和广泛兼容性的以太网,正是答案。

以太网在当今所有数据中心中占据主导地位不足为奇了……我们相信,随着AI工作流的增加并成为整个数据中心的主要工作流,客户将需要这种高带宽和新的高性能以太网基础设施。

——Darren Miller

戴尔科技非结构化数据存储垂直行业

解决方案总监

曾几何时,AI训练和高性能计算(HPC)主要依赖于InfiniBand,以满足对高带宽和低延迟的严苛需求。然而,随着以太网技术的不断成熟,用户如今有了更多选择。

当前,以太网已支持400G,并即将向800G甚至1.6T演进,快速进化的数据速率为大规模模型训练和数据密集型任务提供充足的传输能力。同时,随着RoCE等技术进一步降低了延迟,使得以太网在推理与实时计算中的表现媲美InfiniBand。

并且, 因广泛普及与生态成熟,以太网协议已成为数据中心、企业网络和云计算的核心标准, 能够无缝对接现有的网络架构,这样的开放性和兼容性使其能够适应多场景计算与存储需求,使用户可以根据业务需求自由选择不同厂商的设备和解决方案。

由于维护成本相对较低,以太网兼具高带宽、低延迟、灵活性且不失经济性的优势为企业和开发者创造了更广阔的可能性。

利用以太网加速AI工作负载

众所周知, 数据访问瓶颈一直是计算密集型工作负载吞吐量和可扩展性的限制因素,为了帮助企业更好地探索AI的真正价值,戴尔科技率先将NVIDIA的Spectrum-X集成到产品中,以解决这一问题。

*NVIDIA专为加速AI工作负载而构建的超高速Spectrum-X以太网,可提供比传统AI以太网高1.6倍的网络性能。

通过将NVIDIA Magnum IO和NFS over RDMA等技术原生集成到NVIDIA Connect X NIC和NVIDIA Suoectrum交换机中,从而加速对存储的网络访问。这些高级功能进一步缩短了与戴尔PowerScale存储之间的数据传输时间,从而确保为AI训练、检查点和推理任务提供更快的存储吞吐量。

点击图片了解产品信息

与依赖InfiniBand等技术的前几代产品不同, PowerScale-SuperPOD组合为AI工作负载提供了第一个基于以太网的存储结构。这意味着用户可在本地处理高性能工作负载,实现更快、更高效的AI存储。这一突破简化了与现有基础设施的集成,并提供了为数据密集型AI系统提供所需的带宽,使其成为希望快速、高效扩展其AI运营的企业的理想选择。

在整个AI训练或再训练阶段,GPU会从存储中读取数据并将检查点写回。 GPU处理数据的速度很快,但要释放其全部潜力,必须以同样高的速度馈送数据。为满足此类需求,存储平台必须能够轻松处理持续和瞬时并发峰值。

PowerScale最初便是针对需要极高读写并发性的工作负载行业而设计和优化的。并且,作为 全球首个通过NVIDIA DGX SuperPOD认证的以太网存储解决方案,用户可通过PowerScale对NVIDIA DGX SuperPOD扩展,以满足AI工作负载不断增长的需求。

PowerScale的独特设计 只需添加新节点即可轻松扩展,为企业提供无与伦比的敏捷性。这种灵活性确保组织可以 随着AI工作负载的扩展而适应和扩展其存储基础设施,从而避免最苛刻的AI使用案例出现任何潜在瓶颈。

如PowerScale F710,作为业界1U平台中最高容量密度的平台,F710配备10块SSD,并引入了对 61TB QLC SSD和200Gb以太网后端网络的支持。结合PowerScale可在扩展集群时处理高级别并发连接和性能的能力,F710可提供一个非常密集的高性能系统来运行大规模AI基础设施。

此外,PowerScale有一个用于PowerScale节点间通信的专用后端网络。如F710节点可使用100GbE和2个戴尔PowerSwitch Z9264-ON交换机连接到该专用网络,以实现高可用性。

结 语

随着GPU和AI越来越大,确保GPU得到充分利用是AI基础架构中最重要的挑战之一。戴尔科技与NVIDIA的合作正在帮助企业加速AI驱动的运营铺平道路。通过采用这些领先技术,企业可以释放AI的全部潜力并实现运营转型,从而进入加速创新的新时代。

END

双十一在即

企业特惠月来临~

显示器、办公套装一元秒杀!

全新AI PC低至4.5折!

新品微型机直降千元!

众多惊喜特惠

就在戴尔特惠月

👇👇👇

更多内容


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1