【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

作者：Kida的技术小屋发布时间：2024-05-13

书接上文，我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型，在非 Stream 模式下需要 89 秒才完成一轮问答，响应速度实在是太慢，后续想办法优化...【查看原文】

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

其实 2024 年了，教怎么部署的文章已经很多了，但我实操一下，还是很多坑，实际跑不起来，因此着重描述下我这个mac配置的部署问题## 系统配置Stable Diffusion WebUI 当然支持 Windows/Linux，也适配三种芯片- NVidia (recommended)- AMD GPUs、Intel CPUs,- Intel GPUs (both integrated and discrete)**我的配置如下：**- 系统：MacOS（14.3.1 我最新更新的，应该关系不大）- Py

Stable Diffusion WebUI Stable Diffusion

我爱我所AI 2024-03-23

Mac本地部署大模型体验AIGC能力

介绍随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

AIGC ChatGPT

magicwt 2023-10-08

【Python】Mac 本地部署 stable-diffusion

忙里偷闲在本地部署了一套 stable-diffusion 来玩玩，虽然 Mac 还是使用 CPU 来生图，但是整体效果（生成时间、生成效果）还是能够接受的。

Stable Diffusion

kida_yuan 2024-02-06

LLM探索：环境搭建与模型本地部署

前言最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地

AIGC 编程 ChatGPT

程序设计实验室 2023-05-20

NovelAI 整合包本地部署中核显CPU使用一例

采用设备：笔记本电脑显卡配置：英特尔核显 i7-7500U 系统配置：Win 10 安装包来源：【【AI绘画】A卡也能用？NovelAI中文频道最新整合包使用攻略】 https://www.bilibili.com/video/BV1Mv4y1s7BB/? share_source=copy_web&vd_source=ed7573b826feef8c5cfbe96dc9ed293c 在部署完成后，直接运行程序，后台显示：显示需重定位存储至CPU RuntimeError: Attempting to

AI绘画

Plus_Gate 2023-02-22

近期资讯

新宏泰获得发明专利授权：“一种电机壳飞边冲切装置”

证券之星消息，根据天眼查APP数据显示新宏泰（603016）新获得一项发明专利授权，专利名为“一种电机壳飞边冲切装置”，专利申请号为CN202011110590.5，授权日为2024年12月31日。

证券之星 2024-12-31

详细步骤教你轻松安装显卡，变身DIY高手

装显卡其实并没有想象中的那么复杂，很多人听说这个过程就觉得有点心慌，生怕弄坏了电脑或者显卡。其实，只要你按照步骤来，准备好工具，慢慢来，就能顺利完成。今天就来聊聊怎么装显卡，让你也能像个专业人士一样，轻松搞定这件事。在动手之前，先了解一下需要的工具和材料。

新报观察 2024-12-31

打破传统显示尺寸限制！天马宣布Micro-LED产线全制程贯通

快科技12月30日消息，今日，天马微电子宣布，天马Micro-LED产线在厦门成功实现全制程贯通。本次全制程贯通仪式现场点亮的是天马自主研发生产的PID标准显示单元模块。该标准模块以天马LTPS基玻璃背板为基础，利用天马Micro-LED产线自研的全激光巨量转移工艺，可打破传统显示尺寸限制，实现无尺寸限制的无边框拼接显示。

驱动之家 2024-12-30

轻松应对XPS文件：多种打开和处理方法详解

在我们的日常工作和学习中，文件格式的多样性常常让人感到困惑。XPS文件可以包含文本、图像和矢量图形，所以它在打印和分享文档时非常有用。

新报观察 2024-12-31

组装电脑必看：主板安装全步骤详解与注意事项

在组装电脑的时候，主板的安装是一个非常重要的步骤，虽然看起来简单，但如果处理不当，可能会给后续的使用带来麻烦。今天我们就来聊聊主板怎么插，保证你在动手之前能有个清晰的思路。

新报观察 2024-12-31

字节跳动计划明年斥资70亿美元购买英伟达芯片，正与数据中心运营商洽谈使用Blackwell芯片的事宜。（The Informat

字节跳动计划明年斥资70亿美元购买英伟达芯片，正与数据中心运营商洽谈使用Blackwell芯片的事宜。

华尔街见闻 2024-12-30

皖仪科技两款超声刀头产品拟中选广东联盟集采，今年刚获批上市

上述两款产品适用于在手术中用于软组织的切割止血，分别可闭合直径不超过3mm、5mm的血管。从拟中选价格来看，3mm超声刀头拟中选价格为660元/把，5mm超声刀头拟中选价格为1350元/把，原则上此次集采结果执行到2026年12月31日。

新京报 2024-12-30

联合光电获得实用新型专利授权：“一种长焦投影光学系统及投影设备”

证券之星消息，根据天眼查APP数据显示联合光电（300691）新获得一项实用新型专利授权，专利名为“一种长焦投影光学系统及投影设备”，专利申请号为CN202421219057.6，授权日为2024年12月31日。

证券之星 2024-12-31

路透社：智能眼镜给科技巨头带来危险的错失恐惧症

鞭牛士报道，12月30日消息，据路透社报道，智能眼镜将在2025年成为焦点。与未能赢得大众青睐的笨重虚拟或增强现实耳机不同，Meta的设备实际上看起来像普通眼镜，重量轻（不到50克），并且由于内置内存和处理能力，提供有用的日常功能，如实时翻译和免提图片和视频拍摄。

鞭牛士 2024-12-30

“受惠于”自研芯片，消息称苹果 iPhone SE 4 售价为 499 美元起

公司渠道消息称，新款iPhoneSE（预计为iPhoneSE4）的起售价为499美元（IT之家备注：当前约3645元人民币）或低于7.8万日元（当前约3609元人民币）。作为对比，上一代iPhoneSE于2022年推出，起售价为429美元（当前约3133元人民币），国内发售价为3499元起。

IT之家 2024-12-30

【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

推荐体验

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

Mac本地部署大模型体验AIGC能力

【Python】Mac 本地部署 stable-diffusion

LLM探索：环境搭建与模型本地部署

NovelAI 整合包本地部署中核显CPU使用一例

近期资讯

新宏泰获得发明专利授权：“一种电机壳飞边冲切装置”

详细步骤教你轻松安装显卡，变身DIY高手

打破传统显示尺寸限制！天马宣布Micro-LED产线全制程贯通

轻松应对XPS文件：多种打开和处理方法详解

组装电脑必看：主板安装全步骤详解与注意事项

字节跳动计划明年斥资70亿美元购买英伟达芯片，正与数据中心运营商洽谈使用Blackwell芯片的事宜。（The Informat

皖仪科技两款超声刀头产品拟中选广东联盟集采，今年刚获批上市

联合光电获得实用新型专利授权：“一种长焦投影光学系统及投影设备”

路透社：智能眼镜给科技巨头带来危险的错失恐惧症

“受惠于”自研芯片，消息称苹果 iPhone SE 4 售价为 499 美元起

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响