在 Microsoft Ignite 开发者大会上,英特尔和微软宣布将合作对英特尔 Arc 图形解决方案的 DirectML 进行优化。
结果表明,英特尔更新 Arc Alchemist 驱动程序后,在 AI 图像生成器 Stable Diffusion 中实现了 2.7 倍的性能提升。
尽管其中一部分提升要归功于英特尔驱动程序团队以其出色的传统优化技术,但大部分的提升要归功于微软的 Olive 模型优化工具。
官方表示,英特尔一直与微软保持合作,针对各种类型的 Arc 图形解决方案优化 DirectML,包括 Arc A770 这类独显以及即将推出的酷睿 Ultra 移动处理器中内置的 Arc 核显。
微软表示,开发者在将 AI 能力引入客户端系统时面临的一个问题是确保模型在消费者 PC 系统配置的限制下能够良好地适应和运行。为了帮助解决这个挑战,微软去年发布了开源的 Olive 模型优化工具。
微软最近还对 Olive 进行了更新,重点关注了一些新的 AI 模型,包括 Stability AI 的 Stable Diffusion XL 文本到图像生成器和 Meta 的 Llama 2 大型语言模型。
举个例子,英特尔发现,在运行具有 Olive 优化版本 DirectML 执行提供程序的 ONNX 的 Stable Diffusion 1.5 时,英特尔 Arc A770 运行速度可以达到默认模型的两倍。
为了进一步强化其性能,英特尔还为其驱动程序引入了一个高度优化的多头注意力(MHA)元命令,可从而可以在像 Stable Diffusion 这样的模型中榨取更多的性能。
因此,在最新版本的驱动程序中,Intel Arc A770 GPU 上的 Stable Diffusion 1.5 版本相比之前的版本提供了高达 36% 的性能提升,从而实现了 2.7 倍的累计性能提升。
进击的凯甲 2023-06-18
HuggingFace 2023-04-11
HuggingFace 2023-07-19
赞奇云工作站 2023-10-23
Aloereed 2023-09-17