用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

最高优惠2500元！华为Mate X5/Pura 70系列等高端手机降价

快科技12月30日消息，华为近期开启了新年礼遇优惠活动，2024年12月20日起至2025年2月16日购买华为手机、平板等多品类产品都有降价优惠。Pura 70系列、Mate X5等多款高端手机也参与其中，华为P

建嘉 2024-12-30

美积电将产4nm芯片：你买安卓/苹果/英伟达产品多付30%！

快科技12月30日消息，据国外媒体报道称，台积电亚利桑那工厂将于2025年下半年开始量产4nm工艺，苹果、英伟达、AMD 和高通等客户将成为主要受益者。不过，对于消费者来说就不那么友好了，因为如

雪花 2024-12-30

特朗普变身硅谷之友：马斯克和他的朋友们赢麻了

特朗普当选总统，马斯克和他的硅谷朋友们赢麻了。在马斯克的影响下，曾经视硅谷科技行业为敌人的特朗普正在变成“硅谷之友”，连续任命了诸多资深硅谷人士进入白宫。马斯克助特朗普

2024-12-30

全汉MEGA TI电源上市：1350W功率支持ATX 3.1标准

快科技12月30日消息，全汉旗舰钛金牌电源MEGA TI目前已经上市，具有1350W功率。据悉，MEGA TI 1350W符合英特尔ATX 3.1 和 EPS 2.92 标准，拥有80 PLUS、Cybenetics双机构钛金转换效率认证。

鹿角 2024-12-30

REDMI Turbo 4定档1月2日！首发天玑8400-Ultra

快科技12月30日消息，作为2025年开年第一款新机，REDMI Turbo 4已经正式官宣，将于1月2日14:00发布。王腾此前在联发科发布会上介绍，REDMI Turbo 4将首发天玑8400-Ultra，由REDMI、联发科和Ar

建嘉 2024-12-30

限速15km/h！广州电动车新规实施：外卖员哭了还没跑快

快科技12月30日消息，备受关注的《广州市电动自行车管理规定》今日起执行，其中提到对多次违反交通法律法规的电动自行车实行扣车。电动自行车有三次以上交通违法行为记录，车主或驾驶人经公安

雪花 2024-12-30

长安汽车董事长朱华荣：2024年被小米雷军上了一课

快科技12月30日消息，日前，长安汽车举办2025长安汽车全球伙伴大会。会上，长安汽车董事长朱华荣表示：小米汽车最新公布的销量数据，关注度是我们平常车企的40倍。视频40倍是什么概念，就

若风 2024-12-30

春运第一天火车票明天开抢 12306称提前抢票纯属炒作

2025年春运将于1月14日开始，按照目前火车票提前15天开始发售的规则，明天将开售春运第一天火车票。2025年春运时段为1月14日-2月22日，其中，12月31日将开售春运第一天火车票，1月14日开售除夕

随心 2024-12-30

华为nova 13系列AI最佳表情评测：人人都是表情管理大师

作为华为专为年轻人打造的时尚手机品牌，每代nova新机上市，都会成为机圈的潮流风向标。最新亮相的华为nova 13系列也不例外，首销日销量即突破11万台，刷新2024年度2000-4000元价位段新纪录。

随心 2024-12-30

Epic连续喜加一！88元《兽人必须死3》免费送

快科技12月30日消息，Epic连续喜加一，今天《兽人必须死！3 》免费送，其原价88元，目前Steam冬季大促也要22元。《兽人必须死3》是Robot Entertainment制作发行的一款第三人称动作塔防游戏，2

随心 2024-12-30

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

最高优惠2500元！华为Mate X5/Pura 70系列等高端手机降价

美积电将产4nm芯片：你买安卓/苹果/英伟达产品多付30%！

特朗普变身硅谷之友：马斯克和他的朋友们赢麻了

全汉MEGA TI电源上市：1350W功率支持ATX 3.1标准

REDMI Turbo 4定档1月2日！首发天玑8400-Ultra

限速15km/h！广州电动车新规实施：外卖员哭了还没跑快

长安汽车董事长朱华荣：2024年被小米雷军上了一课

春运第一天火车票明天开抢 12306称提前抢票纯属炒作

华为nova 13系列AI最佳表情评测：人人都是表情管理大师

Epic连续喜加一！88元《兽人必须死3》免费送

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响