单GPU实现99%ChatGPT性能，「原驼」火了：手机也能微调大模型

作者：机器之心发布时间：2023-05-30

ChatGPT

机器之心报道编辑：小舟、泽南用微调的方法，现在羊驼模型也可以打 ChatGPT 了，这不是随便说说，有测试结果为证。最近，来自华盛顿大学的 QLoRA 成为了 AI 领域的热门，很多人把它形容为...【查看原文】

相关资讯

单GPU实现99％ChatGPT性能，“原驼”火了：手机也能微调大模型

机器之心报道编辑：小舟、泽南「原驼」大模型输出的内容和 ChatGPT 比，人类也无法区分谁好谁坏。用微调的方法，现在羊驼模型也可以打 ChatGPT 了，这不是随便说说，有测试结果为证。

ChatGPT

机器之心 2023-05-26

跑分达ChatGPT的99%，人类难以分辨！开源「原驼」爆火，iPhone都能微调大模型了

ChatGPT

量子位 2023-05-25

跑分达ChatGPT的99％，人类难以分辨！开源“原驼”大模型爆火

自动测试分数达到ChatGPT的99.3%，人类难以分辨两者的回答……这是开源大模型最新成果，来自羊驼家族的又一重磅成员——华盛顿大学原驼（Guanaco）。更关键的是，与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到。开源社区直接开始狂欢，相关论文成为24小时内关注度最高的AI论文。以Meta的美洲驼LLaMA为基础，得到原驼650亿参数版只需要48GB显存单卡微调24小时，330亿参数版只需要24GB显存单卡微调12小时。24GB显存，也就是一块消费级RTX3090

ChatGPT LLaMA

一起学chatGPT一起学ai 2023-05-27

大杀器QLoRA出现，单GPU可部署ChatBot，甚至达ChatGPT 99%的能力

ChatGPT LoRA

AI研习所 2023-05-25

英伟达发布ChatGPT专用GPU，性能提升10倍，还推出云服务，普通企业也能训练LLM

还推出新AI加速技术，光刻计算速度提升40倍

ChatGPT

量子位 2023-03-22

近期资讯

我用 AI 写了一个给 AI 用的 Python 库

使用 AI 将 TypeScript 项目 repomix 重写为 Python 版本，实现了代码库到 AI 友好格式的转换功能。整个重写过程中 AI 完成了 85% 的代码工作，仅用不到两小时就完成

AndersonBY 2024-12-26

OpenCV 和 Matplotlib 的物体移动可视化

在屏幕上显示数值可能无法提供足够的洞察力，尤其是当信号变化迅速时。在这种情况下，可视化信号的一个好方法是带有时间轴的图表。在本文中，我将向你展示如何结合OpenCV和Matplotlib的强大功能，创

星辰聊技术 2024-12-26

ollama 自定义模型

ollama 自定义模型 ollama不仅支持运行预构建的模型，还提供了灵活的工具来导入和自定义您自己的模型。无论是从GGUF格式导入还是进行模型的个性化设置，ollama都能满足您的需求。自定义模

刘不二 2024-12-26

Solid.js 最新官方文档翻译（9）—— 控制流程（条件渲染、动态渲染、列表渲染）

Solid.js，一个比 React 更 react 的框架。每一个使用 React 的同学，你可以不使用，但不应该不了解。我同时搭建了 Solid.js 最新的中文文档站点：https://soli

冴羽 2024-12-25

springboot 项目根目录下lib 目录下文件位置

在 Spring Boot 项目中，如果你有一个 lib 目录，并且需要访问这个目录下的文件，你可以通过几种不同的方式来获取该文件的位置。具体方法取决于你的部署环境以及是否在打包成 JAR 或 WAR

马艳泽 2024-12-25

卷积神经网络3-填充与步幅详解：理解卷积操作的关键

在卷积神经网络（CNN）中，填充和步幅控制着卷积输出的尺寸。填充有助于保留边缘信息，步幅则调整卷积窗口的滑动步伐，影响计算效率。本文通过实例帮助你快速理解这两个概念的实际应用。

ALLINAI 2024-12-26

数据科学家成长路线图

本文介绍了如何深入学习数据科学和机器学习的路线图，包括了基础算法和高级模型，详细介绍了从线性回归到 Transformer 和强化学习的各种模型和技术，并提供了相关学习资源链接。

俞凡 2024-12-26

AI对接之对话API对接指南

本系列AI的API对接均以 DeepSeek 为例，其他大模型的对接方式类似。在人工智能领域，对话系统是连接人与机器的重要桥梁。

我码玄黄 2024-12-26

GPU 性能优化之向量化 loads和stores

GPU kenel 性能优化,基于向量化操作优化 GPU 带宽利用率和计算效率, GPU 编程中,向量化通常是指让每个线程一次性处理多个数据元素,而不是只处理一个标量

不会弹吉他的布鲁克 2024-12-26

Lazydocker：高效便捷的Docker管理工具

在当今的开发环境中，Docker已经成为容器化部署的标准工具。然而，随着Docker的广泛应用，如何高效地管理Docker容器、镜像和网络也成了开发者们面临的一大挑战。

BuluAI算力云 2024-12-26

单GPU实现99%ChatGPT性能，「原驼」火了：手机也能微调大模型

推荐体验

相关资讯

单GPU实现99％ChatGPT性能，“原驼”火了：手机也能微调大模型

跑分达ChatGPT的99%，人类难以分辨！开源「原驼」爆火，iPhone都能微调大模型了

跑分达ChatGPT的99％，人类难以分辨！开源“原驼”大模型爆火

大杀器QLoRA出现，单GPU可部署ChatBot，甚至达ChatGPT 99%的能力

英伟达发布ChatGPT专用GPU，性能提升10倍，还推出云服务，普通企业也能训练LLM

近期资讯

我用 AI 写了一个给 AI 用的 Python 库

OpenCV 和 Matplotlib 的物体移动可视化

ollama 自定义模型

Solid.js 最新官方文档翻译（9）—— 控制流程（条件渲染、动态渲染、列表渲染）

springboot 项目根目录下lib 目录下文件位置

卷积神经网络3-填充与步幅详解：理解卷积操作的关键

数据科学家成长路线图

AI对接之对话API对接指南

GPU 性能优化之向量化 loads和stores

Lazydocker：高效便捷的Docker管理工具

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响