【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

作者：Kida的技术小屋发布时间：2024-05-13

书接上文，我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型，在非 Stream 模式下需要 89 秒才完成一轮问答，响应速度实在是太慢，后续想办法优化...【查看原文】

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

其实 2024 年了，教怎么部署的文章已经很多了，但我实操一下，还是很多坑，实际跑不起来，因此着重描述下我这个mac配置的部署问题## 系统配置Stable Diffusion WebUI 当然支持 Windows/Linux，也适配三种芯片- NVidia (recommended)- AMD GPUs、Intel CPUs,- Intel GPUs (both integrated and discrete)**我的配置如下：**- 系统：MacOS（14.3.1 我最新更新的，应该关系不大）- Py

Stable Diffusion WebUI Stable Diffusion

我爱我所AI 2024-03-23

Mac本地部署大模型体验AIGC能力

介绍随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

AIGC ChatGPT

magicwt 2023-10-08

【Python】Mac 本地部署 stable-diffusion

忙里偷闲在本地部署了一套 stable-diffusion 来玩玩，虽然 Mac 还是使用 CPU 来生图，但是整体效果（生成时间、生成效果）还是能够接受的。

Stable Diffusion

kida_yuan 2024-02-06

LLM探索：环境搭建与模型本地部署

前言最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地

AIGC 编程 ChatGPT

程序设计实验室 2023-05-20

NovelAI 整合包本地部署中核显CPU使用一例

采用设备：笔记本电脑显卡配置：英特尔核显 i7-7500U 系统配置：Win 10 安装包来源：【【AI绘画】A卡也能用？NovelAI中文频道最新整合包使用攻略】 https://www.bilibili.com/video/BV1Mv4y1s7BB/? share_source=copy_web&vd_source=ed7573b826feef8c5cfbe96dc9ed293c 在部署完成后，直接运行程序，后台显示：显示需重定位存储至CPU RuntimeError: Attempting to

AI绘画

Plus_Gate 2023-02-22

近期资讯

1.0到2.0 看长虹模具中心传统制造到智能制造的“重生”之路

2020年实现数控设备数采上系统，2021年实施电火花半自动系统改造，2023年采用贵重物料自动称重系统、电极半自动装夹、AGV转运改造……6年以来，长虹模具中心不断在自动化改造的路上自我“折腾”、自我探索实践。

央广网 2024-12-26

1168元起！极摩客推出G2 Plus/ G3 Plus迷你电脑

极摩客近日推出了两款新的迷你电脑产品，分别为G3Plus和G2Plus。这两款产品均搭载了英特尔N150处理器，并且在设计、接口等方面存在较大差异。G2Plus采用的是IntelN150处理器，配置为12GBLPDDR5内存，可选配M.22242SSD存储空间，最高可扩展至2TB。整机尺寸为87*87*39.5mm，重量约为0.21kg。

中关村在线 2024-12-26

蓝漂广告登陆CCTV，品牌影响力再上新阶

其广泛的受众人群、强大的传播力和公信力，不仅覆盖全国，更辐射海外。据悉，作为中国领先的生活日用品品牌，蓝漂始终坚持以用户需求为导向，不断创新研发、提升产品品质，致力于为用户带来更卓越的家庭清洁体验。

极目新闻 2024-12-26

AMD Radeon RX 9070 XT 显卡被曝游戏测试中和 RTX 4080 区别不大

IT之家12月26日消息，Chiphell论坛消息人士zhangzhonghao今日表示，一张显卡的公版款式在游戏测试中“和4080区别不大，5%以内”。结合上下文内容，此处指的应是AMD"RDNA4"独立显卡旗舰型号RadeonRX9070XT。参考现有显卡天梯图，RX9070XT的性能有望强于上代次旗舰RX7900XT。

IT之家 2024-12-26

性价比之选，美菱BCD-210L3CX：1099元到手的210升三门节能冰箱

根据用户评价和产品评测，美菱冰箱在满足日常冷藏和冷冻需求的同时，还提供了节能和低噪音的运行特性。此外，参与立减活动还可以享受额外的补贴和优惠，使得实际支付价格更低，进一步增强了其市场竞争力。-总容积：210L，其中冷藏室容积为121L，冷冻室容积为46L，中门容积为43L。

小米地瓜 2024-12-26

中科创达RUBIK AI Glass Lite版已获超3个品牌客户的选型合作预计2025年第一季度实现量产并上市

中科创达最新推出的RUBIKAIGlassLite版解决方案，很好地满足了当下AI眼镜在时尚、轻量化及自然语言交互方面的市场需求。目前，RUBIKAIGlassLite版已成功获得超过3个品牌客户的选型合作，预计2025年第一季度实现量产并上市。

证券时报 2024-12-26

年轻人的电竞新机登场！荣耀GT全面评测：颜值在线性价无敌

2024年末，荣耀正式将GT系列独立，定位于游戏体验和高性价比市场。但其实荣耀GT并非荣耀首款主打游戏概念的手机，早在6年前，荣耀Play便首发了GPUTurbo技术，提升游戏性能，该系列不断更新，推出了多款机型，满足了不同用户的需求。

驱动之家 2024-12-26

江西煜明智慧光电申请LED灯珠光效提升专利，提升无荧光粉LED灯珠的灯效

金融界2024年12月26日消息，国家知识产权局信息显示，江西煜明智慧光电股份有限公司申请一项名为“一种LED灯珠光效提升的控制方法及系统”的专利，公开号CN119183225A，申请日期为2024年11月。专利摘要显示，本发明公开了一种LED灯珠光效提升的控制方法及系统，涉及照明控制技术领域。

金融界 2024-12-26

宇树“觉醒”，云深处“出海”：四足机器人批量化应用有望步入“iPhone”时刻｜2024年末出海观察

原地转体两周，再倒立转体三周半；跋山涉水下陡坡，稳定性和速度兼顾⋯⋯12月23日，宇树科技发布的一段不到2分钟的视频，展示其最新推出的UnitreeB2-W工业轮足机器人最新性能，收获了大量关注和好评，连马斯克也在社交平台X上转发。

每日经济新闻 2024-12-26

掌握电脑分屏技巧，提升工作与娱乐效率的实用指南

为了提高效率，很多人会选择将屏幕进行分屏设置，这样可以同时处理多个任务，省去频繁切换窗口的麻烦。无论是办公、学习，还是玩游戏、看视频，分屏都能让你事半功倍。

新报观察 2024-12-26

【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

推荐体验

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

Mac本地部署大模型体验AIGC能力

【Python】Mac 本地部署 stable-diffusion

LLM探索：环境搭建与模型本地部署

NovelAI 整合包本地部署中核显CPU使用一例

近期资讯

1.0到2.0 看长虹模具中心传统制造到智能制造的“重生”之路

1168元起！极摩客推出G2 Plus/ G3 Plus迷你电脑

蓝漂广告登陆CCTV，品牌影响力再上新阶

AMD Radeon RX 9070 XT 显卡被曝游戏测试中和 RTX 4080 区别不大

性价比之选，美菱BCD-210L3CX：1099元到手的210升三门节能冰箱

中科创达RUBIK AI Glass Lite版已获超3个品牌客户的选型合作预计2025年第一季度实现量产并上市

年轻人的电竞新机登场！荣耀GT全面评测：颜值在线性价无敌

江西煜明智慧光电申请LED灯珠光效提升专利，提升无荧光粉LED灯珠的灯效

宇树“觉醒”，云深处“出海”：四足机器人批量化应用有望步入“iPhone”时刻｜2024年末出海观察

掌握电脑分屏技巧，提升工作与娱乐效率的实用指南

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响