用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

红杉汇 2024-12-26

第一批离婚的90后妈妈，真的活成了“王铁梅”

单亲妈妈谈恋爱，像极了“课间十分钟”。

新周刊 2024-12-26

反向消费冲击：9.9元风潮背后，品牌们还活得好吗？

9.9元风潮下品牌们如何突围？

ST商业研究社 2024-12-26

微软、阿里老兵胡云华加入智谱，担任「智谱清言」负责人｜36氪独家

智谱清言的增长已经过了新技术驱动获客的阶段，C端产品需要一个专业的带队。

周鑫雨 2024-12-26

咖啡豆狂涨一年，9.9还能撑多久？

9.9咖啡，上游先抗不住了。

杨亚飞 2024-12-26

从《巫师》到《Mafia》，老牌3A为什么都改用虚幻5了？| 游戏知料

不仅仅是技术的更替，更像是行业风向到了转变的节点

薛德兴 2024-12-26

特步丁佳敏：成为“企二代”，是“天降的幸运”

“每个人都有不同的压力”

中国企业家杂志 2024-12-26

或月入7000万，LD +背包+肉鸽，《保卫向日葵》数据如何？

情绪化题材已成立项选材趋势

DataEye 2024-12-26

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

微盟靠“微信小店”发财背后：4年半巨亏51亿，付费用户数锐减

出售ATU美国、英国业务，药明康德背后的谋局

关于花钱这件事，消费者更深思熟虑了

第一批离婚的90后妈妈，真的活成了“王铁梅”

反向消费冲击：9.9元风潮背后，品牌们还活得好吗？

微软、阿里老兵胡云华加入智谱，担任「智谱清言」负责人｜36氪独家

咖啡豆狂涨一年，9.9还能撑多久？

从《巫师》到《Mafia》，老牌3A为什么都改用虚幻5了？| 游戏知料

特步丁佳敏：成为“企二代”，是“天降的幸运”

或月入7000万，LD +背包+肉鸽，《保卫向日葵》数据如何？

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响