当前位置：首页|资讯|Hugging Face|编程|机器学习

Hugging Face: 代码生成模型的预训练和微调

作者：HuggingFace发布时间：2023-10-23

Hugging Face 编程机器学习

和大家分享我们的机器学习工程师 Loubna Ben Allal 在 10 月上海 KubeCon 大会的主题演讲 📢
题目是：代码生成模型的预训练和微调

演讲介绍了构建和训练大型代码模型比如: StarCoder 🌟 的幕后过程，
还探讨了如何使用开源库，包括 Transformers、datasets 和 PEFT 等。

推荐体验

相关资讯

使用 Hugging Face 微调 Gemma 模型

来自 Google Deepmind 开放权重的语言模型 Gemma 现已通过 Hugging Face 面向更广泛的开源社区开放。该模型提供了两个规模的版本：2B 和 7B 参数，包括预训练版本和经过指令调优的版本。它在 Hugging Face 平台上提供支持，可在 Vertex Model Garden 和 Google Kubernetes Engine 中轻松部署和微调。Gemma 模型系列同样非常适合利用 Colab 提供的免费 GPU 资源进行原型设计和实验。在这篇文章中，我们将简要介绍如何

Hugging Face 谷歌

HuggingFace 2024-02-25

Hugging "Hugging Face"-低代码玩转Hugging Face

2016年，两位怀揣梦想的法国人Clem Delangue和Julien Chaumond在巴黎创立了HuggingFace公司。最初致力于研发聊天机器人，为青少年找点乐子，打发下时间。后来

Hugging Face 编程

colorknight 2023-10-08

Coovally模型探索：一键下载Hugging Face预训练模型并集成应用

Coovally是一个包含完整AI建模流程、AI项目管理及AI系统部署管理的机器学习平台，可提供数据预处理、智能标注、分布式模型训练、多维度模型评估、一键式模型部署服务。Coovally支持图像、文本、表格、时间序列等不同类型数据的深度学习和应用，快速实现机器学习。实现目标检测、图像分割、文本分类、多模态建模等12小类任务类型微调与应用。在模型创建中，系统支持用户上传本地模型文件创建模型，同时也支持用户一键下载和部署开源社区模型并集成应用(*目前支持Hugging Face, TIMM, Github以及

Hugging Face GitHub 机器学习深度学习

跑码地Coovally_AI 2023-09-12

如何使用Databricks、Hugging Face和MosaicML训练大型语言模型

大型语言模型，如OpenAI的GPT-4或谷歌的PaLM，已经席卷了人工智能世界。然而，大多数公司目前没有能力培训这些模型，完全依赖少数大型科技公司作为技术提供商。在本篇文章当中，我们将用Replit团队的实际经验，来概述如何训练LLM，从原始数据到面向用户的生产环境中的部署，在这一过程中面临的工程挑战，以及我们如何利用构成现代LLM堆栈的供应商：Databricks、Hugging face和MosaicML。虽然我们的模型主要用于代码生成的用例，但所讨论的技术和经验教训适用于所有类型的LLM

Hugging Face GPT-4 大语言模型 OpenAI 谷歌

AI研习所 2023-07-13

OLMo：真正的开源大模型，预训练、微调代码、数据集、模型架构、模型权重都完全公开

2024年3月18日，马斯克兑现诺言，开源了其大模型Grok。有网友戏谑：这很马斯克，一言不合就开源，随后还不忘对OpenAI进行一番嘲笑。说起开源大模型，Meta早在2023年7月就开源了LLama2。但无论是Grok还是LLama2，都不包含训练代码，出于隐私和安全考虑，也没有公开训练数据集，只包含模型架构和推理代码。LLama2：https://github.com/meta-llama/llamaGrok：https://github.com/xai-org/grok-1这对于那些想从头开始训练一

编程马斯克 OpenAI GitHub

人工智能大讲堂 2024-03-18

近期资讯

《七年，陈默在云端给布氏鲸安了个“家”》

7年前，广西科学院海洋哺乳动物研究团队负责人陈默带着对布氏鲸的赤诚热爱，踏上了涠洲岛这片充满未知的土地。带着疑问，我们特地前往涠洲岛探访了这位布氏鲸守护者，以下内容为凤凰网《旅途》对于陈默的采访实录。

砍柴网 2024-12-26

华为 BRE-AL80 手机现身电信终端产品库，零售价 1799 元起

IT之家12月26日消息，型号为“BRE-AL80”的华为新机现身中国电信终端产品库“华为先锋计划”板块，相关页面显示产品零售价格1799元起。该款手机宣传名称处于保密状态，其共有雪域白、曜金黑、湖光青、云杉黛四款配色，其中云杉黛配色为8GB+512GB版本独占配色。

IT之家 2024-12-27

亿道信息：AI眼镜产品仍处于客户导入、开模及深入优化阶段

亿道信息在互动平台表示，公司推出了AI眼镜全链路解决方案—SW3010，在拾音、拍照、图像处理、视频优化、国内外AI模型导入、与AIPC、家庭智算中心及AIoT链接等方面进行了深度优化。系统支持多模态交互，包括语音、手势、按键等多种交互方式，适应不同使用场景。目前公司的AI眼镜产品仍处于客户导入、开模及深入优化阶段，暂未达到量产阶段。

金融界 2024-12-27

马来西亚即将实施新网络监管 Telegram及微信申请营运牌照

部先前确认WhatsApp、TikTok和马斯克旗下X等平台需要获得许可。

金融界 2024-12-26

江西赣州瑞金机场试飞工作取得圆满成功

12月26日傍晚，新建的江西赣州瑞金机场顺利完成验证试飞，各项验证指标正常，符合行业标准，为机场正式通航运营奠定了基础。验证试飞是机场通航前的重要验证环节，试飞过程历经一个多小时，主要对机场飞行程序、运行标准、通信导航、灯光系统、飞行区道面、滑行标志等内容进行全面验证。

央广网 2024-12-26

掌握轴测图绘制技巧：从基础到进阶的全面指南

轴测图是一种常见的绘图方式，广泛应用于工程、建筑、机械设计等领域。它能有效地展示三维物体的结构和形状，让人们在平面上就能感受到立体感。首先，了解什么是轴测图是很重要的。它的特点是三个坐标轴（X、Y、Z）之间的角度相等，通常是120度。

新报观察 2024-12-27

德龙激光：公司产品有用于切割AR/VR眼镜玻璃材料的设备

德龙激光在互动平台表示，公司产品有用于切割AR/VR眼镜玻璃材料的设备，暂无AI眼镜应用。

每日经济新闻 2024-12-26

卷造车，也卷造“人”！广汽第三代人形机器人来了，后年量产

12月26日，在2024年中国机器人网年会上，广汽集团推出了自主研发的第三代具身智能人形机器人——GoMate。此次发布的GoMate，是一款全尺寸的轮足人形机器人，全身拥有38个自由度。

南方都市报 2024-12-26

汉威科技获得外观设计专利授权：“激光甲烷遥测巡检仪”

证券之星消息，根据天眼查APP数据显示汉威科技（300007）新获得一项外观设计专利授权，专利名为“激光甲烷遥测巡检仪”，专利申请号为CN202430243676.8，授权日为2024年12月27日。2.本外观设计产品的用途：用于甲烷气体浓度的检测。

证券之星 2024-12-27

619元！欧可林A10冲牙器发布：喷射水雾能否革新洁牙体验？

口腔健康已经成为了今年的消费热点，如何将AI等新技术融入到口腔健康相关产品中，也成为了个人护理行业的探索方向。2024年12月26日，智能口腔清洁品牌欧可林就在深圳为其新品“欧可林AirPumpA10氧气啵啵冲牙器”举办了一场线下体验和产品沟通会。雷科技受邀参加此次活动，在现场为大家带来一手报道。

雷科技 2024-12-26

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

意见反馈

Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司版权所有京ICP备2023006237号-1