用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

央企十大国之重器投票：歼35A、华为打造的大模型入围

快科技12月26日消息，2024年即将迎来尾声，日前，“国资小新”发起了2024年度央企十大国之重器投票评选活动。“国资小新”综合媒体报道和网友推荐从2024年中央企业建设的

拾柒 2024-12-26

2024年中国折叠屏手机出货量公布：涨不动了

快科技12月26日消息，自折叠屏智能手机市场诞生以来，中国市场经历了显著的增长，但目前增长速度有所放缓。根据调查机构Counterpoint Research的数据，预计2024年中国折叠屏手机出货量将达到9

随心 2024-12-26

小米SU7冬季实测大获全胜：夺全场三个第一

快科技12月26日消息，在易车2024年冬季实测中，小米SU7 Max表现卓越，勇夺全场第一。在三个关键测试项目中——高速续航、城市续航和冷车充电，小米SU7 Max均位列榜首。本次测试的车

2024-12-26

最强骁龙8至尊版旗舰！一加Ace 5 Pro跑分破321万

快科技12月26日消息，一加Ace 5系列今天下午正式亮相，一加Ace 5 Pro作为骁龙8至尊版旗舰，跑分突破了321万，成为同档最强性能输出。除了骁龙8至尊版之外，一加Ace 5 Pro还配备了LPDDR5T内存（

建嘉 2024-12-26

车主罗列60条剖析蔚来存在的问题：创始人李斌在线感激

快科技12月26日消息，爱之深，责之切，只有真正为企业着想的用户，才会发自内心的去发现剖析问题，并提出自己的解决方案。近日，蔚来APP社区里一篇文章火了，火到蔚来汽车创始人、董事长李斌以

落木 2024-12-26

中国游客注意了在韩国首尔喂鸽子将被重罚：最高5000元

12月26日消息，经常去或者将要去韩国首尔旅游的朋友请注意，明年3月起，一定要牢记不能在该市投喂鸽子等动物，否则将被重罚。据“环球时报”援引韩国SBS电视台最新报道，首尔市政府

2024-12-26

RTX 5090的“心脏”首次现身！744平方毫米史上第二大

快科技12月26日消息，刚刚看过RTX 5090非公版的PCB裸板谍照，GPU核心照又第一次出现在我们面前，就是大名鼎鼎的GB202。从照片可以证实，完整的核心编号为GB202-300-A1，与传闻相符。RTX 508

2024-12-26

特斯拉Bot人形机器人开售即抢光：二手平台溢价超百元

若风 2024-12-26

苹果三星谁更胜一筹：iPhone 17Air、S25 Slim薄度细节曝光

快科技12月26日消息，明年苹果和三星都将推出新款超薄手机，iPhone 17 Air和S25 Slim将展开较量上演一场“超薄手机”之战。在苹果iPhone 17 Air方面，根据知名记者Mark Gurman的说法

黑白 2024-12-26

中汽研发布中大型SUV行业报告：问界前三占两个

王略 2024-12-26

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

央企十大国之重器投票：歼35A、华为打造的大模型入围

2024年中国折叠屏手机出货量公布：涨不动了

小米SU7冬季实测大获全胜：夺全场三个第一

最强骁龙8至尊版旗舰！一加Ace 5 Pro跑分破321万

车主罗列60条剖析蔚来存在的问题：创始人李斌在线感激

中国游客注意了在韩国首尔喂鸽子将被重罚：最高5000元

RTX 5090的“心脏”首次现身！744平方毫米史上第二大

特斯拉Bot人形机器人开售即抢光：二手平台溢价超百元

苹果三星谁更胜一筹：iPhone 17Air、S25 Slim薄度细节曝光

中汽研发布中大型SUV行业报告：问界前三占两个

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响