用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

【OpenHarmony】鸿蒙 UI开发之WheelPicker

WheelPicker可以实现滚轮选择，通过设置可以实现多种效果，也可以设置属性，改变UI效果，如时间选择器，地区选择器的三级联动，实现需求效果。

塞尔维亚大汉 2024-12-29

电动汽车非未来污染环境！日本赢麻氢才是王道真相来了

快科技12月30日消息，一直以来，新能源汽车就被一些专家和车企吐槽，认为这不是未来的能源方式，因为非常的污染环境，比如丰田就是这个队伍中最坚定的一员。在更多企业和科研机构看来，氢能源

2024-12-30

你觉得帅吗！2024全球最帅100面孔：男人看了都流口水...

12月30日消息，日前，2024全球最帅100面孔排名揭晓，在汇聚了来自世界各地的男神当中，雷神克里斯·海姆斯沃斯成功登顶，成为今年全球最帅的男人。排名第二的是来自中国香港的年轻偶像

2024-12-30

印度一男子为逃票藏火车车轮间被发现时已跑250公里

12月27日，印度中央邦贾巴尔普尔火车站上演了一场现实版的“火车大逃亡”。一名男子竟然在一列火车的底部藏匿了整整250公里，直到被例行检查的车站员工发现才结束了这场惊心动魄的旅

2024-12-30

欧盟新规正式生效：强制统一USB-C！iPhone 14等已停售

快科技12月30日消息，当地时间12月28日，欧盟委员会2022年通过的关于统一充电接口的新规正式生效。其中规定，电子设备制造商有义务向欧盟27国销售的产品配备USB-C（即USB Type-C）接口，无法适

2024-12-30

100万名员工！王传福：比亚迪是世界上研发人员最多车企

快科技12月30日消息，昨晚，比亚迪在中央广播电视总台首届《中国创新科技盛典》上亮相，向全球展示了中国汽车科技的强大实力。王传福在现场分享了一组令人瞩目的数据：“目前，比亚迪拥有

2024-12-30

经销商：过去大家都不看好零跑现在抢着进零跑体系

“过去很多有资质的经销商对加入零跑体系持观望态度，但今年以来希望进入零跑体系的优质商变多了。”一零跑经销商告诉雷峰网，零跑的渠道在加速整合，经销商的规模及店铺规模质量都

2024-12-30

欧美汽车市场低迷意大利陷入车企产能下降、工人失业困境

快科技12月30日消息，据央视新闻报道，2024年，欧美汽车市场陷入低迷，由意大利、美国、法国合资创建的车企集团Stellantis的营收和股价均出现了严重的下滑。意大利是Stellantis的重要生产基地

2024-12-30

前11月特斯拉城市销量榜：杭州人买的最多苏州排第二

快科技12月30日消息，易车榜根据整理的终端量数据，发布了今年前11月特斯拉的城市销量榜。榜单显示，购买特斯拉的人群主要在一线和新一线城市，前三名分别为杭州、苏州、上海。具体来看

2024-12-30

小米忠实用户+代言人！苏炳添确认：将在十五运会后退役

快科技12月30日消息，日前，中国短跑名将苏炳添将在2025年的全运会后退役，他目前依然是亚洲男子100米纪录保持者。据悉，第十五届全国运动会将于2025年11月9日至21日在广东、香港、澳门举行。

2024-12-30

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

【OpenHarmony】鸿蒙 UI开发之WheelPicker

电动汽车非未来污染环境！日本赢麻氢才是王道真相来了

你觉得帅吗！2024全球最帅100面孔：男人看了都流口水...

印度一男子为逃票藏火车车轮间被发现时已跑250公里

欧盟新规正式生效：强制统一USB-C！iPhone 14等已停售

100万名员工！王传福：比亚迪是世界上研发人员最多车企

经销商：过去大家都不看好零跑现在抢着进零跑体系

欧美汽车市场低迷意大利陷入车企产能下降、工人失业困境

前11月特斯拉城市销量榜：杭州人买的最多苏州排第二

小米忠实用户+代言人！苏炳添确认：将在十五运会后退役

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响