【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

作者：Kida的技术小屋发布时间：2024-05-13

书接上文，我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型，在非 Stream 模式下需要 89 秒才完成一轮问答，响应速度实在是太慢，后续想办法优化...【查看原文】

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

其实 2024 年了，教怎么部署的文章已经很多了，但我实操一下，还是很多坑，实际跑不起来，因此着重描述下我这个mac配置的部署问题## 系统配置Stable Diffusion WebUI 当然支持 Windows/Linux，也适配三种芯片- NVidia (recommended)- AMD GPUs、Intel CPUs,- Intel GPUs (both integrated and discrete)**我的配置如下：**- 系统：MacOS（14.3.1 我最新更新的，应该关系不大）- Py

Stable Diffusion WebUI Stable Diffusion

我爱我所AI 2024-03-23

Mac本地部署大模型体验AIGC能力

介绍随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

AIGC ChatGPT

magicwt 2023-10-08

【Python】Mac 本地部署 stable-diffusion

忙里偷闲在本地部署了一套 stable-diffusion 来玩玩，虽然 Mac 还是使用 CPU 来生图，但是整体效果（生成时间、生成效果）还是能够接受的。

Stable Diffusion

kida_yuan 2024-02-06

LLM探索：环境搭建与模型本地部署

前言最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地

AIGC 编程 ChatGPT

程序设计实验室 2023-05-20

NovelAI 整合包本地部署中核显CPU使用一例

采用设备：笔记本电脑显卡配置：英特尔核显 i7-7500U 系统配置：Win 10 安装包来源：【【AI绘画】A卡也能用？NovelAI中文频道最新整合包使用攻略】 https://www.bilibili.com/video/BV1Mv4y1s7BB/? share_source=copy_web&vd_source=ed7573b826feef8c5cfbe96dc9ed293c 在部署完成后，直接运行程序，后台显示：显示需重定位存储至CPU RuntimeError: Attempting to

AI绘画

Plus_Gate 2023-02-22

近期资讯

开利公司申请具有浸入式散热器的服务器冷却专利，可冷却服务器组件

金融界2024年12月25日消息，国家知识产权局信息显示，开利公司申请一项名为“具有浸入式散热器的服务器冷却”的专利，公开号CN119172978A，申请日期为2024年6月。

金融界 2024-12-25

航盛申请三层 PCB 板主机固定机构及其装配方法专利，提高 PCB 板间信号传输可靠性

金融界2024年12月25日消息，国家知识产权局信息显示，扬州航盛科技有限公司申请一项名为“一种三层PCB板主机的固定机构及其装配方法”的专利，公开号CN119172969A，申请日期为2024年9月。

金融界 2024-12-25

瀚为科技取得应用低功耗超声的混料匀浆设备专利，节能降低功耗

金融界2024年12月25日消息，国家知识产权局信息显示，浙江瀚为科技有限公司取得一项名为“一种应用低功耗超声的混料匀浆设备”的专利，授权公告号CN222196717U，申请日期为2024年5月。

金融界 2024-12-25

安徽长里建筑取得建筑防水材料流体搅拌设备专利，具备对搅拌容器内壁原料刮除功能保证搅拌质量

金融界2024年12月25日消息，国家知识产权局信息显示，安徽长里建筑有限公司取得一项名为“一种建筑防水材料流体搅拌设备”的专利，授权公告号CN222196712U，申请日期为2024年7月。

金融界 2024-12-25

江苏固特电气申请具有温度控制功能的固态继电器及其温度控制方法专利，解决固态继电器的控温与保险更换难题

金融界2024年12月25日消息，国家知识产权局信息显示，江苏固特电气控制技术有限公司申请一项名为“具有温度控制功能的固态继电器及其温度控制方法”的专利，公开号CN119172970A，申请日期为2024年11月。

金融界 2024-12-25

成都晟源石化取得一种多液体混合装置专利，解决苯乙烯聚合问题

金融界2024年12月25日消息，国家知识产权局信息显示，成都晟源石化有限公司取得一项名为“一种多液体的混合装置”的专利，授权公告号CN222196719U，申请日期为2024年3月。

金融界 2024-12-25

南京云海铝业取得用于铝灰煅烧窑内搅拌的专用工具专利，可保证铝灰充分受热

金融界2024年12月25日消息，国家知识产权局信息显示，南京云海铝业有限公司取得一项名为“一种用于铝灰煅烧窑内搅拌的专用工具”的专利，授权公告号CN222196711U，申请日期为2024年5月。

金融界 2024-12-25

佛吉亚歌乐电子申请电子设备专利，能够从顶板吸进空气用于冷却发热元件

金融界2024年12月25日消息，国家知识产权局信息显示，佛吉亚歌乐电子有限公司申请一项名为“电子设备”的专利，公开号CN119172977A，申请日期为2024年6月。专利摘要显示，本发明提供一种电子设备，该电子设备使得能够从顶板吸进空气用于高效地冷却发热元件，同时还允许使用简单构型将通过该顶板的进气口进入的水排出到壳体的外部。

金融界 2024-12-25

深圳市英维克软件技术有限公司申请有源滤波器专利，降低有源滤波器对空间体积的占用量

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市英维克软件技术有限公司申请一项名为“一种有源滤波器”的专利，公开号CN119172976A，申请日期为2023年12月。

金融界 2024-12-25

柏康（湖北）医药科技取得新型临床试验用量筒专利，使溶解效果更好

金融界2024年12月25日消息，国家知识产权局信息显示，柏康（湖北）医药科技有限公司取得一项名为“种新型临床试验用量筒”的专利，授权公告号CN222196718U，申请日期为2024年1月。

金融界 2024-12-25

【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

推荐体验

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

Mac本地部署大模型体验AIGC能力

【Python】Mac 本地部署 stable-diffusion

LLM探索：环境搭建与模型本地部署

NovelAI 整合包本地部署中核显CPU使用一例

近期资讯

开利公司申请具有浸入式散热器的服务器冷却专利，可冷却服务器组件

航盛申请三层 PCB 板主机固定机构及其装配方法专利，提高 PCB 板间信号传输可靠性

瀚为科技取得应用低功耗超声的混料匀浆设备专利，节能降低功耗

安徽长里建筑取得建筑防水材料流体搅拌设备专利，具备对搅拌容器内壁原料刮除功能保证搅拌质量

江苏固特电气申请具有温度控制功能的固态继电器及其温度控制方法专利，解决固态继电器的控温与保险更换难题

成都晟源石化取得一种多液体混合装置专利，解决苯乙烯聚合问题

南京云海铝业取得用于铝灰煅烧窑内搅拌的专用工具专利，可保证铝灰充分受热

佛吉亚歌乐电子申请电子设备专利，能够从顶板吸进空气用于冷却发热元件

深圳市英维克软件技术有限公司申请有源滤波器专利，降低有源滤波器对空间体积的占用量

柏康（湖北）医药科技取得新型临床试验用量筒专利，使溶解效果更好

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响