【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

作者：Kida的技术小屋发布时间：2024-05-13

书接上文，我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型，在非 Stream 模式下需要 89 秒才完成一轮问答，响应速度实在是太慢，后续想办法优化...【查看原文】

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

其实 2024 年了，教怎么部署的文章已经很多了，但我实操一下，还是很多坑，实际跑不起来，因此着重描述下我这个mac配置的部署问题## 系统配置Stable Diffusion WebUI 当然支持 Windows/Linux，也适配三种芯片- NVidia (recommended)- AMD GPUs、Intel CPUs,- Intel GPUs (both integrated and discrete)**我的配置如下：**- 系统：MacOS（14.3.1 我最新更新的，应该关系不大）- Py

Stable Diffusion WebUI Stable Diffusion

我爱我所AI 2024-03-23

Mac本地部署大模型体验AIGC能力

介绍随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

AIGC ChatGPT

magicwt 2023-10-08

【Python】Mac 本地部署 stable-diffusion

忙里偷闲在本地部署了一套 stable-diffusion 来玩玩，虽然 Mac 还是使用 CPU 来生图，但是整体效果（生成时间、生成效果）还是能够接受的。

Stable Diffusion

kida_yuan 2024-02-06

LLM探索：环境搭建与模型本地部署

前言最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地

AIGC 编程 ChatGPT

程序设计实验室 2023-05-20

NovelAI 整合包本地部署中核显CPU使用一例

采用设备：笔记本电脑显卡配置：英特尔核显 i7-7500U 系统配置：Win 10 安装包来源：【【AI绘画】A卡也能用？NovelAI中文频道最新整合包使用攻略】 https://www.bilibili.com/video/BV1Mv4y1s7BB/? share_source=copy_web&vd_source=ed7573b826feef8c5cfbe96dc9ed293c 在部署完成后，直接运行程序，后台显示：显示需重定位存储至CPU RuntimeError: Attempting to

AI绘画

Plus_Gate 2023-02-22

近期资讯

为高水平科技强省建设贡献青年“硬核担当”

在11月7日召开的全省科技大会暨全省科学技术奖励大会上，9位青年科技人才获颁2023年度省青年科技杰出贡献奖。作为江苏科技创新的脊梁，他们全身心投入科学研究、创新创造，坚定自信、勇攀高峰，书写了人生精彩华章。记者走近其中5位获奖者，记录他们的创新故事，感受可贵的科学家精神。

新华日报 2024-11-13

C909、C919、C929国产飞机呈“谱系化”发展

中国商飞公司12日宣布国产支线客机ARJ21新增商业名称“C909”。至此，中国商飞三款商用飞机产品名称分别为“商飞C909”、“商飞C919”和“商飞C929”，国产飞机呈“谱系化”发展。C909飞机自2016年投入商业运营以来，已累计交付150架，安全载客超1700万人次。

封面新闻 2024-11-13

境外黑手伸向测绘领域，这些隐蔽手段你知道吗？

测绘成果是支撑社会管理、经济发展以及国防建设的基础性与战略性资源，其安全性与准确性直接关系我国家安全。然而，近年来，一些境外组织常运用各种人力和技术手段，对我国实施非法测绘活动，窃取我国测绘成果。由于其行踪隐蔽、迷惑性强，日常生活中不易察觉。

北京日报 2024-11-13

东莞市硕凯机械取得数控机床进料结构专利，可控制单个物料传输速度

金融界2024年11月13日消息，国家知识产权局信息显示，东莞市硕凯机械有限公司取得一项名为“一种数控机床进料结构”的专利，授权公告号CN221984536U，申请日期为2024年1月。

金融界 2024-11-13

彩虹-9亮相，未来无人机将越来越大吗？专家解答

【环球时报综合报道】在本届珠海航展上，中国各大防务企业纷纷展出了不同型号的无人机，《环球时报》记者注意到其中一个非常明显的发展方向——部分无人机呈现大型化趋势。《环球时报》记者在展馆外的无人机展区看到，首次公开亮相的彩虹-9大型察打一体无人机使用典型的细长机身和平直机翼总体布局，带有V型双垂尾，机身长12米，翼展达25米左右。

环球网 2024-11-13

雄安未来之城场景汇大赛成果走进唐山

记者11月11日获悉，雄安未来之城场景汇大赛成果唐山行活动日前成功举办，这也是大赛成果首次走入地市。活动邀请来自北京、上海、天津、杭州等地的16家雄安未来之城场景汇大赛获奖企业进行现场路演推介，介绍他们技术产品的核心优势和场景合作需求。

北青网 2024-11-13

携手推动能源转型和可持续发展（国际视点）

阿联酋能源和基础设施部部长苏海勒表示，阿联酋致力于到2050年将清洁能源在国家能源消费总量中的占比从25%提高到50%，将发电的碳足迹减少70%，并将能源效率提高40%，实现加强能源安全、促进经济稳定和满足全球能源需求的平衡。

金台资讯 2024-11-13

为给新机让路，红米Note13 Pro+，跌至1518元！

红米Note13Pro+搭载的天玑7200-Ultra芯片，采用台积电4nm工艺，节能效果和性能表现出色，无论是运行大型游戏，还是进行多任务处理，这款手机都能轻松应对，保证流畅的使用体验。红米Note13Pro+采用6.67英寸高光曲面屏，不仅美观大气，还让握持感更加流畅舒适。

大话百科天地 2024-11-13

苹果或将于12月9日发布iOS 18.2系统带来全新AI功能

【CNMO科技消息】苹果此前已确认iOS18.2系统将于12月发布，现在，一个具体的发布日期浮出水面。据英国运营商EE向其客户发布的通知，外媒推测苹果很可能计划在12月9日发布iOS18.2系统。在该通知中，EE表示将于12月9日停止提供一项名为“在其他支持的iCloud连接设备上使用Wi-Fi通话”的iPhone功能。

手机中国 2024-11-13

首个低空气象产业集群成形

】（首席记者董思）第26届中国国际高新技术成果交易会（以下简称“高交会”）将于11月14日—16日在深圳举行。

深圳商报 2024-11-13

【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

推荐体验

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

Mac本地部署大模型体验AIGC能力

【Python】Mac 本地部署 stable-diffusion

LLM探索：环境搭建与模型本地部署

NovelAI 整合包本地部署中核显CPU使用一例

近期资讯

为高水平科技强省建设贡献青年“硬核担当”

C909、C919、C929国产飞机呈“谱系化”发展

境外黑手伸向测绘领域，这些隐蔽手段你知道吗？

东莞市硕凯机械取得数控机床进料结构专利，可控制单个物料传输速度

彩虹-9亮相，未来无人机将越来越大吗？专家解答

雄安未来之城场景汇大赛成果走进唐山

携手推动能源转型和可持续发展（国际视点）

为给新机让路，红米Note13 Pro+，跌至1518元！

苹果或将于12月9日发布iOS 18.2系统带来全新AI功能

首个低空气象产业集群成形

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响