当前位置：首页|资讯|Hugging Face|编程|机器学习

Hugging Face: 代码生成模型的预训练和微调

作者：HuggingFace发布时间：2023-10-23

Hugging Face 编程机器学习

和大家分享我们的机器学习工程师 Loubna Ben Allal 在 10 月上海 KubeCon 大会的主题演讲 📢
题目是：代码生成模型的预训练和微调

演讲介绍了构建和训练大型代码模型比如: StarCoder 🌟 的幕后过程，
还探讨了如何使用开源库，包括 Transformers、datasets 和 PEFT 等。

推荐体验

相关资讯

使用 Hugging Face 微调 Gemma 模型

来自 Google Deepmind 开放权重的语言模型 Gemma 现已通过 Hugging Face 面向更广泛的开源社区开放。该模型提供了两个规模的版本：2B 和 7B 参数，包括预训练版本和经过指令调优的版本。它在 Hugging Face 平台上提供支持，可在 Vertex Model Garden 和 Google Kubernetes Engine 中轻松部署和微调。Gemma 模型系列同样非常适合利用 Colab 提供的免费 GPU 资源进行原型设计和实验。在这篇文章中，我们将简要介绍如何

Hugging Face 谷歌

HuggingFace 2024-02-25

Hugging "Hugging Face"-低代码玩转Hugging Face

2016年，两位怀揣梦想的法国人Clem Delangue和Julien Chaumond在巴黎创立了HuggingFace公司。最初致力于研发聊天机器人，为青少年找点乐子，打发下时间。后来

Hugging Face 编程

colorknight 2023-10-08

Coovally模型探索：一键下载Hugging Face预训练模型并集成应用

Coovally是一个包含完整AI建模流程、AI项目管理及AI系统部署管理的机器学习平台，可提供数据预处理、智能标注、分布式模型训练、多维度模型评估、一键式模型部署服务。Coovally支持图像、文本、表格、时间序列等不同类型数据的深度学习和应用，快速实现机器学习。实现目标检测、图像分割、文本分类、多模态建模等12小类任务类型微调与应用。在模型创建中，系统支持用户上传本地模型文件创建模型，同时也支持用户一键下载和部署开源社区模型并集成应用(*目前支持Hugging Face, TIMM, Github以及

Hugging Face GitHub 机器学习深度学习

跑码地Coovally_AI 2023-09-12

如何使用Databricks、Hugging Face和MosaicML训练大型语言模型

大型语言模型，如OpenAI的GPT-4或谷歌的PaLM，已经席卷了人工智能世界。然而，大多数公司目前没有能力培训这些模型，完全依赖少数大型科技公司作为技术提供商。在本篇文章当中，我们将用Replit团队的实际经验，来概述如何训练LLM，从原始数据到面向用户的生产环境中的部署，在这一过程中面临的工程挑战，以及我们如何利用构成现代LLM堆栈的供应商：Databricks、Hugging face和MosaicML。虽然我们的模型主要用于代码生成的用例，但所讨论的技术和经验教训适用于所有类型的LLM

Hugging Face GPT-4 大语言模型 OpenAI 谷歌

AI研习所 2023-07-13

OLMo：真正的开源大模型，预训练、微调代码、数据集、模型架构、模型权重都完全公开

2024年3月18日，马斯克兑现诺言，开源了其大模型Grok。有网友戏谑：这很马斯克，一言不合就开源，随后还不忘对OpenAI进行一番嘲笑。说起开源大模型，Meta早在2023年7月就开源了LLama2。但无论是Grok还是LLama2，都不包含训练代码，出于隐私和安全考虑，也没有公开训练数据集，只包含模型架构和推理代码。LLama2：https://github.com/meta-llama/llamaGrok：https://github.com/xai-org/grok-1这对于那些想从头开始训练一

编程马斯克 OpenAI GitHub

人工智能大讲堂 2024-03-18

近期资讯

Precor必确打造高端商用椭圆机，引领有氧健身新潮流

椭圆机的设计特性相较于其他有氧器械,更能有效维护关节,预防运动伤害。Precor必确商用椭圆机易于清洁维护,配备封闭式坡道、后部驱动箱和活动状态指示灯设计。

中国财富网 2024-12-27

抖音直播发布2024治理报告聚焦主播精细化管理与城市联合治理机制

12月27日，抖音发布2024年直播治理报告，全面阐释抖音直播过去一年的治理理念、技术及最新成果。报告称，抖音在过去一年持续迭代主播“健康分”，通过加减分定级定档的长效管理机制引导主播“向善”，获得显著成效。抖音直播还配合相关部门打击黄赌毒诈黑色产业链，捣毁百余个犯罪窝点，从源头消除违法犯罪分子对直播行业的污染，全力维护行业的健康发展。

国际在线 2024-12-27

芯片回归全大核设计，联发科发布天玑8400芯片 | 科技前线

此前外界曾认为，联发科的庞大出货量主要依靠中低端芯片作为支撑，随着智能手机不断向高端化发展，对近几年精力主要围绕高端市场、构建厂商小圈子的高通会更加有利，联发科的市场份额也会受到较为明显的冲击。

钛媒体APP 2024-12-27

“AI界的拼多多”DeepSeek发布新模型

12月26日晚间，杭州深度求索人工智能基础技术研究有限公司（以下简称“深度求索”）宣布，全新系列模型DeepSeek-V3首个版本上线并同步开源。

澎湃新闻 2024-12-27

画质最炸裂？海信的超画质Mini LED凭什么能和高端OLED平起平坐

不知道小伙伴们有没有发现一个神奇的事情，那就是双十一、国补环境下大屏MiniLED电视销量持续领先。据奥维云网数据显示，国内市场MiniLED电视销量更是较同期增长超7倍。答案非常简单，就是MiniLED技术相较于OLED技术，具有峰值亮度高、环境光对比度高、使用寿命长等优势，但也普遍存在可视角度小、有光晕等问题。

王晓川 2024-12-27

当科研撞上市场刚需：高等学府与企业的双向奔赴｜甲子引力

新技术成功转化并非一蹴而就，而是无数次的沟通、试验和改进的结果，也为其科学家们志于将科研成果“落地生根”的团队树立了范例。随着更多高校与企业间的合作逐渐加深，越来越多的科学研发之花将为产业发展注入崭新活力，让智慧的种子在更广阔的土壤里茁壮成长。

甲小姐甲子光年 2024-12-27

曝小米MIX Flip 2发布时间提档博主：第一代卖得太好了

快科技12月27日消息，博主数码闲聊站暗示，明年上半年小米MIXFlip2就会亮相，第一代MIXFlip卖得太好，所以第二代直接提档了。资料显示，小米MIXFlip于今年7月份发布，是小米第一款小折叠机型，售价5999元。该机延续了小折叠手机小巧的优势，手机重量为192g，拿在手中非常的轻巧。

驱动之家 2024-12-27

「宠己」成支付宝年度关键词：百万人花式攒钱、千万人提前备老、超1亿人用AI办事

告别2024，你会如何回望这一年？2024年，“重新养自己”的概念在年轻人群中流行，他们更愿意为哄自己开心行动，把“情绪价值”拉满。

扬子晚报 2024-12-27

27日开放！哈工大航天馆全新展区，满满的科技感等你来参观

记者从哈尔滨工业大学获悉，哈工大航天馆经过升级改造，12月27日（星期五）面向社会开放。哈工大航天馆是全国高校规模最大、展品种类最丰富、数量最多的航天主题展馆，也是东北地区唯一一所融航天科技实物和模型展陈、航天知识科普为一体的专业展馆。

生活报 2024-12-27

南都新闻APP获“鸿蒙原生应用体验提升奖”

12月26日，由华为技术有限公司主办的广东鸿蒙生态伙伴论坛在广州举行，南都新闻APP获得“鸿蒙原生应用体验提升奖”。

南方都市报 2024-12-27

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

意见反馈

Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司版权所有京ICP备2023006237号-1