用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

「千顾科技」完成B轮4亿元融资，线控底盘定点超50款车型 | 36氪首发

2026年第四季度实现量产EMB。

田哲 2024-12-31

小学高年级的牛娃，准备“请假去学习”

荒谬而真实

首席商业评论 2024-12-31

2024年A股十大被增持公司

十大A股公司获股东增持超10亿元。

读数一帜 2024-12-31

11700亿，福建首富曾毓群，预定2025最大港股IPO

港交所将迎来一个重磅IPO。

融资中国 2024-12-31

2024年楼市十大关键词

展望2025政策趋势

中指研究院 2024-12-31

字节不再执着于教育业务，却赢得了教育用户

字节教育业务以新形式“重生”。

多知网 2024-12-31

曾负债百万、安徽“海归”白手起家：如今“啥都不干”就有客户，每天必爆5000单

内卷的服装产业，何以依托出海又跑出一个“江南曹县”？

天下网商 2024-12-31

贝好家首进长三角：2024年底落子上海、杭州两地

首次在一线城市成功“拍地”，2025年重点布局北上广等十余个城市。

未来城不落 2024-12-31

中东拿捏中美

生存法则

巨潮 WAVE 2024-12-31

2024年，游戏行业过得怎么样？上百款游戏年内停运

一面海水一面火焰

时代财经 2024-12-31

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

「千顾科技」完成B轮4亿元融资，线控底盘定点超50款车型 | 36氪首发

小学高年级的牛娃，准备“请假去学习”

2024年A股十大被增持公司

11700亿，福建首富曾毓群，预定2025最大港股IPO

2024年楼市十大关键词

字节不再执着于教育业务，却赢得了教育用户

曾负债百万、安徽“海归”白手起家：如今“啥都不干”就有客户，每天必爆5000单

贝好家首进长三角：2024年底落子上海、杭州两地

中东拿捏中美

2024年，游戏行业过得怎么样？上百款游戏年内停运

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响