用FP8训练大模型有多香？微软：比BF16快64%，省42%内存

作者：机器之心发布时间：2023-11-02

微软 OpenAI 大语言模型

大型语言模型（LLM）具有前所未有的语言理解和生成能力，但是解锁这些高级的能力需要巨大的模型规模和训练计算量。在这种背景下，尤其是当我们关注扩展至 OpenAI 提出的超级智能 (Super Inte...【查看原文】

相关资讯

驱动之家 2024-10-29

安卓旗舰告别8GB内存时代，AI大模型推动手机厂商搞“大内存”

AI大模型

环球网 2024-10-28

近期资讯

小米澎湃OS 2，启动「1+3+8」升级计划

小米澎湃OS2开启首次OTA升级，超级小爱正式版首次向正式版用户开放，还有多项新增实用功能和体验优化。为此内部共识了「1+3+8」升级计划：即1次大版本更新外，还能实现3次新功能OTA和至少8次问题修复OTA，这一轮的升级就是第一次新功能OTA。”

IT之家 2024-12-27

兼具三重科技、一机多用，青瞳视觉全新AI参考相机R3正式发布！

近日，行业领军动捕品牌青瞳视觉推出了全新动捕产品——AI参考相机R3。R3是一款集成了“AI无标记、有标记、参考相机”三重功能于一体的动捕相机，不仅颠覆了传统参考相机单一的应用模式，而且具备卓越的性能、强大的兼容性，便捷部署，易于使用。

中国财富网 2024-12-27

浙江沧海阀门科技股份有限公司取得防盗闸阀专利，解决闸阀因雨水腐蚀影响正常使用的问题

金融界2024年12月27日消息，国家知识产权局信息显示，浙江沧海阀门科技股份有限公司取得一项名为“一种防盗闸阀”的专利，授权公告号CN222209197U，申请日期为2024年6月。

金融界 2024-12-27

2025年石景山区将建成人形机器人产业基地

伴随全球科技创新的浪潮，以人工智能和智能制造为核心的新兴产业正逐步成为经济增长的引擎。

北青网 2024-12-27

【前沿】骁龙8至尊版小米MIXFlip2曝明年上半年发布 OV不更新？

今年年中的时候，有爆料称国产TOP5的手机品牌中有两家目前已暂停小折叠项目的开发，部分网友猜测为OPPO和vivo。现在关于2025年小折叠新机有进一步消息。

小白测评 2024-12-27

提升工作效率：Mac电脑窗口切换技巧与实用方法

在使用Mac电脑的过程中，切换窗口是一个非常常见的操作。无论你是在处理多个文档，还是在浏览网页，快速有效地切换窗口都能大大提高你的工作效率。只需继续按住键，然后按键，就可以在这些应用之间循环切换。

新报观察 2024-12-27

九牧科技创新生态大会召开

近日，2025九牧科技创新生态大会在福建厦门召开，这是厨卫行业首次科技生态大会，旨在为行业提供全球技术创新和跨界应用的合作平台。一位资深卫浴从业者分析，全球卫厨市场正在加速变革，企业面临更加严峻的挑战和全方位的竞争。本次科技创新生态大会的召开充分利用九牧作为行业龙头的优势，带领上下游产业链合作共赢，全面提升产业竞争力。

央广网 2024-12-27

开源数据库openGauss线下集中式新增市场份额达30.2

openGauss社区理事长熊伟在大会上透露，过去4年，开源数据库openGauss的累计装机量已经超过10万台，2024年预估的装机量达到4.3万台，openGauss在线下集中式新增市场份额达到30.2%。

新京报 2024-12-27

多家新能源与储能企业在汉联合倡议：发展新质生产力，加快推动能源转型

12月26日，武汉首届大学之城新能源与储能大会暨第二届智慧新能源产学研学术交流会在武汉工商学院启幕。

极目新闻 2024-12-27

Edge浏览器睡眠标签页立功：一年节省7万亿MB流量

适逢年底，各种年度盘点纷至沓来，微软Edge浏览器也列举了一组相当辉煌的数据。首先是安全方面，按照微软的统计，2024年，Edge浏览器基于内置的安全功能，帮助用户阻止了超过14亿次网络钓鱼、恶意软件和诈骗攻击。Edge移动版更是立下大功，帮助用户阻止了超过1.8万亿次攻击。

驱动之家 2024-12-27

用FP8训练大模型有多香？微软：比BF16快64%，省42%内存

推荐体验

相关资讯

Stable Diffusion 大模型 ChilloutMix fp16

大模型微调实战（八）-使用INT8/FP4/NF4微调大模型

告别卡顿：iPhone 16系列8GB内存大升级，iOS 18智能体验全面爆发

小米15砍掉8GB内存版本王腾：端侧AI大模型对内存占用更多

安卓旗舰告别8GB内存时代，AI大模型推动手机厂商搞“大内存”

近期资讯

小米澎湃OS 2，启动「1+3+8」升级计划

兼具三重科技、一机多用，青瞳视觉全新AI参考相机R3正式发布！

浙江沧海阀门科技股份有限公司取得防盗闸阀专利，解决闸阀因雨水腐蚀影响正常使用的问题

2025年石景山区将建成人形机器人产业基地

【前沿】骁龙8至尊版小米MIXFlip2曝明年上半年发布 OV不更新？

提升工作效率：Mac电脑窗口切换技巧与实用方法

九牧科技创新生态大会召开

开源数据库openGauss线下集中式新增市场份额达30.2

多家新能源与储能企业在汉联合倡议：发展新质生产力，加快推动能源转型

Edge浏览器睡眠标签页立功：一年节省7万亿MB流量

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响