用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

Intel新显卡卖爆！24GB大显存也在路上 AI玩家都来抢了

着实有点Amazing啊。这两天GPU圈子发生了个事儿，被网友们讨论地津津乐道——有一款显卡卖爆了。火到什么程度呢？就是一进货就被抢光。GPU供不应求其实已经司空见惯了，但之所以

2024-12-24

首发1499元 ROG STRIX 1000W白金雷鹰白色版电源上市

快科技12月24日消息，华硕推出了新款ROG STRIX 白金雷鹰氮化镓电源，首发1499元。这款ROG STRIX白金雷鹰氮化镓电源首次融入了智能显卡稳压技术。该技术从源头精准调控显卡电压，其顶部采用了创

鹿角 2024-12-24

颇具偷感的勇气！抢下百万太空船票的淘宝买家还没告诉家人

快科技12月24日消息，据淘宝官方发布消息，近日，淘宝公布了2024年度十大商品！其中，深蓝航天的太空船票，入选了淘宝年度十大勇气商品。买下价值百万的太空船票是需要勇气的，不仅是面对浩

秋白 2024-12-24

致态TiPro9000固态硬盘上手：满血PCIe 5.0破局者

消费级固态硬盘SSD是如何实现对机械硬盘HDD的取代？除了容量已经追平，更重要的是性能达到几十倍的超越。这不仅需要核心元器件NAND FLASH芯片和主控芯片在半导体技术方面的不断演进，还需

2024-12-24

华硕官宣全球最轻Copilot+笔记本！续航可达32小时

快科技12月24日消息，华硕日前发布了一则宣传视频，宣布将在CES 2025上推出一款全球最轻的Copilot+笔记本。根据华硕的新闻稿，这款笔记本电脑将“优雅与功能的完美结合，为专业人士、创作

黑白 2024-12-24

搜狗输入法Mac版重磅更新个性装扮上线与Win版互通

快科技12月25日消息，今日，腾讯搜狗输入法宣布，搜狗输入法Mac版“个性装扮”商城正式上线，升级至6.16.0版本后，在系统状态栏点击“个性装扮”就能启用最新的皮肤商城。

拾柒 2024-12-24

小米SU7高速路上被追尾：蓝牌油车反而自燃起火

快科技12月24日消息，在很多人的印象里，新能源汽车由于电池的存在，事故中容易起火自燃，实际上燃油车的起火概率同样存在，只是因为太平常，没人关注，通常不会引起报道，除非比较特殊，比如这

落木 2024-12-24

累计销量超过25万！比亚迪秦家族第200万辆新车销量达成

快科技12月24日消息，比亚迪秦家族迎来了第200万辆新车销量的里程碑，今年1至11月累计销量已突破40万辆。据悉，秦家族从第一辆到第100万辆耗时九年零六个月，而从100万辆到200万辆的跨越仅用了

王略 2024-12-24

“点男模”擦边骑手服火了！美团：恶意炒作已报送公安

快科技12月24日消息，今日，美团官方发文称，近日多个社交平台上“外卖骑手身着‘点男模’等字样的工服送单”的图片、视频被广泛传播，引发社会关注。经公司核实，上述&l

朝晖 2024-12-24

京东官宣：跨年晚会能抢一斤“狗头金”

快科技12月24日消息，今年，京东独家冠名了《2024-2025年湖南卫视芒果TV跨年晚会》。京东官方刚刚官宣了第一项重磅福利：看湖南跨年晚会有机会赢取7块重达一斤的“狗头金”（‌

建嘉 2024-12-24

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

Intel新显卡卖爆！24GB大显存也在路上 AI玩家都来抢了

首发1499元 ROG STRIX 1000W白金雷鹰白色版电源上市

颇具偷感的勇气！抢下百万太空船票的淘宝买家还没告诉家人

致态TiPro9000固态硬盘上手：满血PCIe 5.0破局者

华硕官宣全球最轻Copilot+笔记本！续航可达32小时

搜狗输入法Mac版重磅更新个性装扮上线与Win版互通

小米SU7高速路上被追尾：蓝牌油车反而自燃起火

累计销量超过25万！比亚迪秦家族第200万辆新车销量达成

“点男模”擦边骑手服火了！美团：恶意炒作已报送公安

京东官宣：跨年晚会能抢一斤“狗头金”

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响