开源库 ZLUDA 重获新生,现在致力于支持 AI 工作负载的多 GPU 兼容性。
ZLUDA 库几个月前就成为了头条新闻,最初设计是为了在让NVIDIA的CUDA支持 Intel GPU,但最终 AMD 接管了这个项目,并与多个开发者一起,将其塑造成一个可以突破界限并访问他们自己的 AI 硬件上的 NVIDIA CUDA 的项目,这被视为开源社区的一个巨大突破。
ZLUDA是一个开创性的开源项目,它通过在AMD和Intel GPU上实现一个CUDA兼容层,使得原本为NVIDIA GPU设计的CUDA应用程序能够无需修改直接运行。这个项目由开发者安杰伊·亚尼克发起,旨在打破NVIDIA在高性能计算和人工智能领域的垄断,为用户提供更多的GPU选择。
ZLUDA通过拦截CUDA库的调用并将其转换为相应GPU平台的原生指令,展示了在非NVIDIA GPU上运行CUDA代码的可行性,并在多数情况下达到了接近原生的性能。
尽管ZLUDA在技术上取得了显著进展,但它也面临着法律风险、技术复杂性、性能差距和维护难度等挑战。AMD和Intel最终都因为法律上的问题选择不支持这个项目。尽管如此,ZLUDA在某些应用中已经显示出比原生ROCm/HIP支持更快的性能,例如在Blender 4.0渲染测试中,性能提升大约10-20%。
这表明,ZLUDA不仅为开发者提供了一个在AMD和Intel GPU上运行CUDA应用程序的解决方案,也为整个GPU计算领域指明了更开放、更具互操作性的未来方向。
沉寂一段时间后,ZLUDA终于回来了,这次带着更大的动静。
媒体的一份新报告声称,ZLUDA 的原始开发者安杰伊·亚尼克宣布 ZLUDA 现在在一位匿名赞助商的支持下回到了开发阶段,但接下来对 ZLUDA 来说有一些非常有趣的事情。
据说 ZLUDA 现在正在调整以允许多 GPU 支持,这意味着该库将与任何架构兼容,无论是 AMD 还是 NVIDIA。现在,ZLUDA 将不再针对专业工作负载进行优化,而是将专注于 AI/ML 工作负载。
这意味着 ZLUDA 现在将支持像 Llama.cpp、PyTorch 和 TensorFlow 这样的库,并且特别关注重构 NVIDIA 代码路径,使其与其他 GPU 供应商兼容。
参与的开发者已经开始使用 AMD 的 RDNA GPU 进行测试,据说 ZLUDA 将支持 RDNA1+ 架构以及 ROCm 6.1+ 的支持;因此,对于 AMD 的计算产品组合来说,ZLUDA 将是一个游戏规则改变者。
现在,就ZLUDA库何时会重新恢复更新的问题,开发者安杰伊·亚尼克声称大约需要一年时间才能让库恢复原状。如果这个项目证明是成功的,我们可能会看到 AI 厂商软件中存在的排他性界限被打破,允许架构利用彼此的能力以获得最佳结果。
硬核翻译局 2023-04-25
我是靳老师 2024-10-31
漫画生成器App 2023-08-30