【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

作者：Kida的技术小屋发布时间：2024-05-13

书接上文，我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型，在非 Stream 模式下需要 89 秒才完成一轮问答，响应速度实在是太慢，后续想办法优化...【查看原文】

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

其实 2024 年了，教怎么部署的文章已经很多了，但我实操一下，还是很多坑，实际跑不起来，因此着重描述下我这个mac配置的部署问题## 系统配置Stable Diffusion WebUI 当然支持 Windows/Linux，也适配三种芯片- NVidia (recommended)- AMD GPUs、Intel CPUs,- Intel GPUs (both integrated and discrete)**我的配置如下：**- 系统：MacOS（14.3.1 我最新更新的，应该关系不大）- Py

Stable Diffusion WebUI Stable Diffusion

我爱我所AI 2024-03-23

Mac本地部署大模型体验AIGC能力

介绍随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

AIGC ChatGPT

magicwt 2023-10-08

【Python】Mac 本地部署 stable-diffusion

忙里偷闲在本地部署了一套 stable-diffusion 来玩玩，虽然 Mac 还是使用 CPU 来生图，但是整体效果（生成时间、生成效果）还是能够接受的。

Stable Diffusion

kida_yuan 2024-02-06

LLM探索：环境搭建与模型本地部署

前言最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地

AIGC 编程 ChatGPT

程序设计实验室 2023-05-20

NovelAI 整合包本地部署中核显CPU使用一例

采用设备：笔记本电脑显卡配置：英特尔核显 i7-7500U 系统配置：Win 10 安装包来源：【【AI绘画】A卡也能用？NovelAI中文频道最新整合包使用攻略】 https://www.bilibili.com/video/BV1Mv4y1s7BB/? share_source=copy_web&vd_source=ed7573b826feef8c5cfbe96dc9ed293c 在部署完成后，直接运行程序，后台显示：显示需重定位存储至CPU RuntimeError: Attempting to

AI绘画

Plus_Gate 2023-02-22

近期资讯

春运第一天火车票明天开抢 12306称提前抢票纯属炒作

2025年春运将于1月14日开始，按照目前火车票提前15天开始发售的规则，明天将开售春运第一天火车票。2025年春运时段为1月14日-2月22日，其中，12月31日将开售春运第一天火车票，1月14日开售除夕

随心 2024-12-30

最高优惠2500元！华为Mate X5/Pura 70系列等高端手机降价

快科技12月30日消息，华为近期开启了新年礼遇优惠活动，2024年12月20日起至2025年2月16日购买华为手机、平板等多品类产品都有降价优惠。Pura 70系列、Mate X5等多款高端手机也参与其中，华为P

建嘉 2024-12-30

揭秘！容声这款大容量冰箱，让幸福“触手可及”

12月28日，容声正式发布了606WILL养鲜新品冰箱，这款冰箱是新一代品质生活的理想之选。凭借卓越的WILL自然养鲜系统，以及超薄平嵌越级空间设计，容声606WILL养鲜冰箱为用户带来了功能体验上的全新升级。

砍柴网 2024-12-30

长安汽车董事长朱华荣：2024年被小米雷军上了一课

快科技12月30日消息，日前，长安汽车举办2025长安汽车全球伙伴大会。会上，长安汽车董事长朱华荣表示：小米汽车最新公布的销量数据，关注度是我们平常车企的40倍。视频40倍是什么概念，就

若风 2024-12-30

华为nova 13系列AI最佳表情评测：人人都是表情管理大师

作为华为专为年轻人打造的时尚手机品牌，每代nova新机上市，都会成为机圈的潮流风向标。最新亮相的华为nova 13系列也不例外，首销日销量即突破11万台，刷新2024年度2000-4000元价位段新纪录。

随心 2024-12-30

美积电将产4nm芯片：你买安卓/苹果/英伟达产品多付30%！

快科技12月30日消息，据国外媒体报道称，台积电亚利桑那工厂将于2025年下半年开始量产4nm工艺，苹果、英伟达、AMD 和高通等客户将成为主要受益者。不过，对于消费者来说就不那么友好了，因为如

雪花 2024-12-30

限速15km/h！广州电动车新规实施：外卖员哭了还没跑快

快科技12月30日消息，备受关注的《广州市电动自行车管理规定》今日起执行，其中提到对多次违反交通法律法规的电动自行车实行扣车。电动自行车有三次以上交通违法行为记录，车主或驾驶人经公安

雪花 2024-12-30

Epic连续喜加一！88元《兽人必须死3》免费送

快科技12月30日消息，Epic连续喜加一，今天《兽人必须死！3 》免费送，其原价88元，目前Steam冬季大促也要22元。《兽人必须死3》是Robot Entertainment制作发行的一款第三人称动作塔防游戏，2

随心 2024-12-30

你还敢坐波音吗！韩国客机事故发生仅1日又一波音飞机故障

12月29日一架韩国济州航空客机在韩国南部全罗南道务安国际机场降落过程中冲出跑道，和机场围栏等发生碰撞后起火。除2人获救外，机上其余179人全部遇难，这是在韩国国内发生的伤亡最严重的空难

雪花 2024-12-30

全汉MEGA TI电源上市：1350W功率支持ATX 3.1标准

快科技12月30日消息，全汉旗舰钛金牌电源MEGA TI目前已经上市，具有1350W功率。据悉，MEGA TI 1350W符合英特尔ATX 3.1 和 EPS 2.92 标准，拥有80 PLUS、Cybenetics双机构钛金转换效率认证。

鹿角 2024-12-30

【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

推荐体验

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

Mac本地部署大模型体验AIGC能力

【Python】Mac 本地部署 stable-diffusion

LLM探索：环境搭建与模型本地部署

NovelAI 整合包本地部署中核显CPU使用一例

近期资讯

春运第一天火车票明天开抢 12306称提前抢票纯属炒作

最高优惠2500元！华为Mate X5/Pura 70系列等高端手机降价

揭秘！容声这款大容量冰箱，让幸福“触手可及”

长安汽车董事长朱华荣：2024年被小米雷军上了一课

华为nova 13系列AI最佳表情评测：人人都是表情管理大师

美积电将产4nm芯片：你买安卓/苹果/英伟达产品多付30%！

限速15km/h！广州电动车新规实施：外卖员哭了还没跑快

Epic连续喜加一！88元《兽人必须死3》免费送

你还敢坐波音吗！韩国客机事故发生仅1日又一波音飞机故障

全汉MEGA TI电源上市：1350W功率支持ATX 3.1标准

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响