【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

作者：Kida的技术小屋发布时间：2024-05-13

书接上文，我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型，在非 Stream 模式下需要 89 秒才完成一轮问答，响应速度实在是太慢，后续想办法优化...【查看原文】

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

其实 2024 年了，教怎么部署的文章已经很多了，但我实操一下，还是很多坑，实际跑不起来，因此着重描述下我这个mac配置的部署问题## 系统配置Stable Diffusion WebUI 当然支持 Windows/Linux，也适配三种芯片- NVidia (recommended)- AMD GPUs、Intel CPUs,- Intel GPUs (both integrated and discrete)**我的配置如下：**- 系统：MacOS（14.3.1 我最新更新的，应该关系不大）- Py

Stable Diffusion WebUI Stable Diffusion

我爱我所AI 2024-03-23

Mac本地部署大模型体验AIGC能力

介绍随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

AIGC ChatGPT

magicwt 2023-10-08

【Python】Mac 本地部署 stable-diffusion

忙里偷闲在本地部署了一套 stable-diffusion 来玩玩，虽然 Mac 还是使用 CPU 来生图，但是整体效果（生成时间、生成效果）还是能够接受的。

Stable Diffusion

kida_yuan 2024-02-06

LLM探索：环境搭建与模型本地部署

前言最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地

AIGC 编程 ChatGPT

程序设计实验室 2023-05-20

NovelAI 整合包本地部署中核显CPU使用一例

采用设备：笔记本电脑显卡配置：英特尔核显 i7-7500U 系统配置：Win 10 安装包来源：【【AI绘画】A卡也能用？NovelAI中文频道最新整合包使用攻略】 https://www.bilibili.com/video/BV1Mv4y1s7BB/? share_source=copy_web&vd_source=ed7573b826feef8c5cfbe96dc9ed293c 在部署完成后，直接运行程序，后台显示：显示需重定位存储至CPU RuntimeError: Attempting to

AI绘画

Plus_Gate 2023-02-22

近期资讯

微软开源神器MarkItDown：一键转换任意文件为Markdown的自动化工具

在人工智能和机器学习快速发展的今天，Markdown作为一种轻量级标记语言，正变得越来越重要。它以其简单、清晰和可扩展的特性，成为了文档管理、内容呈现和LLM（大语言模型）辅助工作的首选格式。

几米哥 2024-12-29

二零二四年的个人总结

二零二四年，个人总结第二十六个岁月年，我确实也完成了一些梦想和既定计划。每年的1月1日，我都会定下这一年的一些大计划，虽然不算是一定要完成，但生活嘛，总需要盼头，不要给自己压力，也希望不让自己堕落，

Kuye 2024-12-29

自学记录鸿蒙API 13：实现多目标识别Object Detection

起步：什么叫多目标识别？无论是生活中的动物识别、智能相册中的场景分类，还是工业领域的检测任务，都能看到多目标识别的身影。这次，我决定通过学习HarmonyOS最新的Object Detection。

李游Leo 2024-12-29

2024年终总结：回首过往，共赴新程

这一年，小确幸与大突破 2024 年，于每个人而言，都是一本独特的故事集，翻开它，满是成长、感动与惊喜的篇章。这一年，生活的笔触细腻而温柔，勾勒出无数个令人心头一暖的小确幸。在一个寻常的午后，阳光轻

芯动大师 2024-12-29

沉浸式体验 Windows 10 安装过程

沉浸式体验 Windows 10 安装过程。购买 License，制作安装 U 盘，初始设置，正版激活。

Vic_wkx 2024-12-30

消除协同部门的工作阻碍 —— Mock 平台设计

前言随着业务团队不断扩大，往往一个项目中很多重要的接口都是其他团队提供的。例如我们日常的需求中，有些接口依赖风控团队提供，但是风控是一个单独的团队，他们的工作安排和我们的团队是不一致的，他们有自己的

暮色妖娆丶 2024-12-30

SQL语句`WHERE 1=1`，到底会不会影响性能？

本文探讨了 `WHERE 1=1` 在 SQL 查询中的作用和影响。通过分析其优缺点发现，`WHERE 1=1` 适用于动态 SQL 拼接，能提高代码可读性和一致性，且对现代数据库性能影响微乎其微..

四七伵 2024-12-30

Tomcat(107)Tomcat的集群故障排除

在配置和管理Tomcat集群时，可能会遇到各种故障。常见的问题包括节点间数据不一致、会话复制失败、负载均衡不均衡等。以下是关于如何排查和解决这些问题的详细步骤和示例代码： 1. 检查Tomcat集群配

Victor356 2024-12-30

自学记录鸿蒙 API 13：骨骼点检测应用Core Vision Skeleton Detection

骨骼点检测技术是一项强大的AI能力，能够从图片中识别出人体的关键骨骼点位置，如头部、肩部、手肘等。这些信息在人体姿态分析、动作捕捉、健身指导等场景中有着广泛应用。

李游Leo 2024-12-29

Pandas数据应用：天气数据分析

引言随着全球气候变化的加剧，天气数据的分析变得越来越重要。通过分析历史天气数据，我们可以预测未来的气候趋势，帮助各行各业做出更明智的决策。Pandas 是一个强大的 Python 数据处理库，广泛应

Jimaks 2024-12-30

【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

推荐体验

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

Mac本地部署大模型体验AIGC能力

【Python】Mac 本地部署 stable-diffusion

LLM探索：环境搭建与模型本地部署

NovelAI 整合包本地部署中核显CPU使用一例

近期资讯

微软开源神器MarkItDown：一键转换任意文件为Markdown的自动化工具

二零二四年的个人总结

自学记录鸿蒙API 13：实现多目标识别Object Detection

2024年终总结：回首过往，共赴新程

沉浸式体验 Windows 10 安装过程

消除协同部门的工作阻碍 —— Mock 平台设计

SQL语句`WHERE 1=1`，到底会不会影响性能？

Tomcat(107)Tomcat的集群故障排除

自学记录鸿蒙 API 13：骨骼点检测应用Core Vision Skeleton Detection

Pandas数据应用：天气数据分析

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响