基于 NNCF 和 🤗 Optimum 面向 Intel CPU 对 Stable Diffusion 优化

作者：HuggingFace发布时间：2023-07-12

基于隐空间的扩散模型 (Latent Diffusion Model)，是解决文本到图片生成问题上的颠覆者。Stable Diffusion 是最著名的一例，广泛应用在商业和工业。Stable Dif...【查看原文】

相关资讯

基于 NNCF 和 Optimum 面向 Intel CPU 对 Stable Diffusion 优化

基于隐空间的扩散模型 (Latent Diffusion Model)，是解决文本到图片生成问题上的颠覆者。Stable Diffusion 是最著名的一例，广泛应用在商业和工业。Stable Diffusion 的想法简单且有效: 从噪声向量开始，多次去噪，以使之在隐空间里逼近图片的表示。但是，这样的方法不可避免地增加了推理时长，使客户端的体验大打折扣。众所周知，一个好的 GPU 总能有帮助，确实如此，但其损耗大大增加了。就推理而言，在 2023 年上半年 (H1’23)，一个好 CPU 实例 (r6i

Stable Diffusion

HuggingFace 2023-07-12

利用 Optimum Intel 和 fastRAG 在 CPU 上优化文本嵌入

嵌入模型在很多场合都有广泛应用，如检索、重排、聚类以及分类。近年来，研究界在嵌入模型领域取得了很大的进展，这些进展大大提高了基于语义的应用的竞争力。BGE、GTE以及E5等模型在MTEB基准上长期霸榜，在某些情况下甚至优于私有的嵌入服务。Hugging Face 模型 hub 提供了多种尺寸的嵌入模型，从轻量级 (100-350M 参数) 到 7B (如Salesforce/SFR-Embedding-Mistral) 一应俱全。不少基于语义搜索的应用会选用基于编码器架构的轻量级模型作为其嵌入模型，此时，

Hugging Face

HuggingFace 2024-04-02

使用 Optimum-Intel 和 OpenVINO GenAI 优化和部署模型

在端侧部署 Transformer 模型需要仔细考虑性能和兼容性。Python 虽然功能强大，但对于部署来说有时并不算理想，特别是在由 C++ 主导的环境中。这篇博客将指导您如何使用 Optimum-Intel 和 OpenVINO GenAI 来优化和部署 Hugging Face Transformers 模型，确保在最小依赖性的情况下进行高效的 AI 推理。为什么使用 OpenVINO 来进行端侧部署OpenVINO 最初是作为 C++ AI 推理解决方案开发的，使其非常适合在端侧设备部署中，其中最

Hugging Face

HuggingFace 2024-10-21

三、stable-diffusion-webui Intel CPU/核显版安装

为软件配置虚拟环境（此处需要开启魔法） 1、源码下载：从https://github.com/openvinotoolkit/stable-diffusion-webui/wiki/Installation-on-Intel-Silicon的自述文件中我们看到如下内容 [图片] 我们先下载git，并双击安装即可，这个没什么难度，然后Python 3.10.6，这个不用下载，因为前面我们已经在conda内创建好了虚拟环境。安装好git之后，通过“Git Gui”克隆存储库 [图片] 选择Clone Ex

Stable Diffusion WebUI Stable Diffusion GitHub

bili_305256810 2024-08-24

在英特尔至强 CPU 上使用 Optimum Intel 实现超快 SetFit 推理

在缺少标注数据场景，SetFit 是解决的建模问题的一个有前途的解决方案，其由 Hugging Face 与 Intel 实验室以及UKP Lab 合作共同开发。作为一个高效的框架，SetFit 可用于对Sentence Transformers模型进行少样本微调。SetFit 仅需很少的标注数据就能达到较高的准确率，例如，在使用 3-示例提示时，SetFit优于GPT-3.5；在使用 5-示例提示时，其在 Banking 77 金融意图数据集上的表现也优于使用 3-示例提示的 GPT-4。Intel 实

Hugging Face GPT-4 金融

HuggingFace 2024-05-06

近期资讯

容声BCD-513WD12FPA：513升四开门冰箱，国补600元，性价比之选

#年货节好物集市#容声冰箱以其卓越的品质和创新技术在家电市场上赢得了良好的口碑。根据用户评价和产品评测，容声冰箱在满足日常冷藏和冷冻需求的同时，还提供了节能和低噪音的运行特性。特别是容声BCD-513WD12FPA型号，以其513升的总容积和十字双对开门设计，适合大家庭使用，用户普遍反映其耐用性出色，保鲜性能好，制冷效果佳。

小米地瓜 2024-12-26

元旦启航！C919将执飞沪港定期航线，让更多香港市民乘搭

中国东方航空计划从2025年1月1日开始，安排其国产C919客机执飞每天往返香港和上海虹桥的定期航线。

南方都市报 2024-12-26

重庆空管顺利保障重庆江北机场第四跑道启用

“东方5428，重庆塔台，地面静风，跑道03R，可以起飞。”2024年12月26日，随着重庆空管分局塔台管制员发布指令，一架中国东方航空公司C919国产大飞机从重庆江北机场第四跑道起飞，开启了重庆江北机场四跑道运行新的时代。

金台资讯 2024-12-26

引领行业风向首个微短剧权威指数将在成都发布

从开启“繁星闪耀·微短剧年度盛典”系列活动报名通道以来，该活动得到了众多微短剧创作者、制作公司及相关行业人士的积极响应与高度关注，参与者们对能够加入这场高规格的行业盛典表示出浓厚的兴趣和期待。在诸多备受瞩目的系列活动中，尤为引人关注的是将在繁星盛典上首次发布的微短剧权威指数——“繁星指数”。

每日经济新闻 2024-12-26

红果短剧回应被广电约见：逐一排查平台所有剧集违规内容立即下线

快科技12月26日消息，今日，红果短剧官方发文称，红果短剧在接受广电主管部门约见后，高度重视，迅速响应，坚决落实好主管部门关于微短剧管理的有关规定和指导要求，进一步完善审核制度。即日起，红果短剧将对平台上所有剧集进行逐一排查，对于发现的违规内容，立即采取下线等措施。

快科技 2024-12-26

武隆高山生态肉牛全产业链项目动工修建

12月24日，重庆武隆高山生态肉牛全产业链项目在沧沟乡正式开建。据介绍，该项目总投资额3亿元，建成后将辐射渝东南及云贵川地区，形成集肉牛繁育、养殖、屠宰、加工、商贸、物流、进出口为一体的智慧、智能、生态高山肉牛全产业链，为区域经济发展注入强劲动力。

央广网 2024-12-26

欧普照明申请恒流驱动电路等专利，能计算恒流驱动电路输入功率

金融界2024年12月26日消息，国家知识产权局信息显示，欧普照明股份有限公司申请一项名为“恒流驱动电路、电路输入功率计算方法及灯具”的专利，公开号CN119183227A，申请日期为2023年6月。

金融界 2024-12-26

自主研制！“清航叁号”新型发动机成功测试飞行

快科技12月26日消息，据清华大学官网发文，由清华大学自主研制的“清航叁号”新型发动机圆满完成飞行试验任务，标志着我国自主研制的基于新型燃烧技术的发动机取得重要进展，进入工程实践阶段。据介绍，该新型发动机是清华大学研究团队在“清航壹号”研究基础上，针对宽速域应用条件持续自主研发的新型发动机，其具有经济性指标高、结构简单等优点。

驱动之家 2024-12-26

苹果手机如何设置电话不打扰的多种实用方法解析

在现代社会，手机已经成为我们生活中不可或缺的一部分。无论是工作、学习还是日常生活，手机都扮演着重要的角色。然而，有时候我们可能会希望在某些特定的时刻，能够暂时屏蔽掉电话的打扰。比如说，在开会、上课或者休息的时候，接到电话可能会让我们感到很烦躁。那么，苹果手机怎么设置电话打不进来呢？接下来，我就来和大家聊聊这个话题。

新报观察 2024-12-26

协鑫集成：发布GPC 2.0高效组件瞄准分布式光伏市场

12月26日，协鑫集成重磅发布基于BC技术的GPC2.0高效组件，将2382*1134mm组件的功率提高至660W，为分布式光伏市场带来全新场景解决方案。协鑫集成产品总监盛夏表示，GPC2.0产品拥有更多吸收光线、更优光电转换、更少复合损失、更大电流收集能力。

中国证券报 2024-12-26

基于 NNCF 和 🤗 Optimum 面向 Intel CPU 对 Stable Diffusion 优化

推荐体验

相关资讯

基于 NNCF 和 Optimum 面向 Intel CPU 对 Stable Diffusion 优化

利用 Optimum Intel 和 fastRAG 在 CPU 上优化文本嵌入

使用 Optimum-Intel 和 OpenVINO GenAI 优化和部署模型

三、stable-diffusion-webui Intel CPU/核显版安装

在英特尔至强 CPU 上使用 Optimum Intel 实现超快 SetFit 推理

近期资讯

容声BCD-513WD12FPA：513升四开门冰箱，国补600元，性价比之选

元旦启航！C919将执飞沪港定期航线，让更多香港市民乘搭

重庆空管顺利保障重庆江北机场第四跑道启用

引领行业风向首个微短剧权威指数将在成都发布

红果短剧回应被广电约见：逐一排查平台所有剧集违规内容立即下线

武隆高山生态肉牛全产业链项目动工修建

欧普照明申请恒流驱动电路等专利，能计算恒流驱动电路输入功率

自主研制！“清航叁号”新型发动机成功测试飞行

苹果手机如何设置电话不打扰的多种实用方法解析

协鑫集成：发布GPC 2.0高效组件瞄准分布式光伏市场

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响