用FP8训练大模型有多香？微软：比BF16快64%，省42%内存

作者：机器之心发布时间：2023-11-02

微软 OpenAI 大语言模型

大型语言模型（LLM）具有前所未有的语言理解和生成能力，但是解锁这些高级的能力需要巨大的模型规模和训练计算量。在这种背景下，尤其是当我们关注扩展至 OpenAI 提出的超级智能 (Super Inte...【查看原文】

相关资讯

驱动之家 2024-10-29

安卓旗舰告别8GB内存时代，AI大模型推动手机厂商搞“大内存”

AI大模型

环球网 2024-10-28

近期资讯

江苏巴陶新材料有限公司取得一种水分分离装置专利，可实现高效且最大化地去除水分

金融界2024年12月30日消息，国家知识产权局信息显示，江苏巴陶新材料有限公司取得一项名为“一种水分分离装置”的专利，授权公告号CN222218618U，申请日期为2024年11月。

金融界 2024-12-30

湖州惠鹏达取得硫酸钠MVR蒸发结晶装置专利，对结晶产生的蒸汽进行二次利用，更加节能

金融界2024年12月30日消息，国家知识产权局信息显示，湖州惠鹏达节能环保科技有限公司取得一项名为“一种硫酸钠MVR蒸发结晶装置”的专利，授权公告号CN222218626U，申请日期为2024年5月。

金融界 2024-12-30

惠威科技：广州耳机展发布多款新品耳机

金融界12月30日消息，有投资者在互动平台向惠威科技提问：2024年12月14-15日2024第十届广州国际耳机展惠威有没有新品耳机。公司回答表示：2024第十届广州国际耳机展展示的新品耳机有IX-MAX金翎、IX-MAX琢樾、IX-600青穹、IX-800瑶光、Tyche（啼澈）TCE-10。

金融界 2024-12-30

科大讯飞：与宇树科技在人工智能及机器人领域合作

飞提问：请问本公司和宇树科技公司存在哪方面的合作？飞机器人超脑平台持续以视听融合的多模感知交互和基于大模型的机器人大脑，通过软硬件一体的方式构建机器人新交互，无其他具体应披露信息。

金融界 2024-12-30

河南德宜瑞取得防止结垢的蒸发器专利，保障装置的蒸发效率

金融界2024年12月30日消息，国家知识产权局信息显示，河南德宜瑞新材料有限公司取得一项名为“一种防止结垢的蒸发器”的专利，授权公告号CN222218617U，申请日期为2024年5月。

金融界 2024-12-30

河北非常机器人科技有限公司被认定为高新技术企业

12月30日，高企认定官网披露对河北省认定机构2024年认定报备的第二批高新技术企业进行备案的公告，河北非常机器人科技有限公司在列，证书编号GR202413002467，发证日期为2024年12月30日。天眼查商业履历信息显示，河北非常机器人科技有限公司，成立于2016年，位于邯郸市，是一家以从事商务服务业为主的企业。

金融界 2024-12-30

河北顺时智能机器人科技有限公司被认定为高新技术企业

12月30日，高企认定官网披露对河北省认定机构2024年认定报备的第二批高新技术企业进行备案的公告，河北顺时智能机器人科技有限公司在列，证书编号GR202413002452，发证日期为2024年12月30日。天眼查商业履历信息显示，河北顺时智能机器人科技有限公司，成立于2021年，位于邢台市，是一家以从事研究和试验发展为主的企业。

金融界 2024-12-30

淄博诺奥取得气相加氢用喷射式液体蒸发装置专利，能够提高液体物料蒸发效率

金融界2024年12月30日消息，国家知识产权局信息显示，淄博诺奥化工有限公司取得一项名为“气相加氢用喷射式液体蒸发装置”的专利，授权公告号CN222218619U，申请日期为2024年11月。

金融界 2024-12-30

东营奥星取得硫氢化钠蒸发提纯装置专利，大大的降低了设备的空置时间，提高了设备的利用率

金融界2024年12月30日消息，国家知识产权局信息显示，东营奥星石油化工有限公司取得一项名为“一种硫氢化钠蒸发提纯装置”的专利，授权公告号CN222218624U，申请日期为2024年2月。

金融界 2024-12-30

巴斯夫杉杉取得晶浆增稠系统专利，降低离心机负荷

金融界2024年12月30日消息，国家知识产权局信息显示，巴斯夫杉杉电池材料（宁夏）有限公司取得一项名为“一种晶浆增稠系统”的专利，授权公告号CN222218623U，申请日期为2024年2月。

金融界 2024-12-30

用FP8训练大模型有多香？微软：比BF16快64%，省42%内存

推荐体验

相关资讯

Stable Diffusion 大模型 ChilloutMix fp16

大模型微调实战（八）-使用INT8/FP4/NF4微调大模型

告别卡顿：iPhone 16系列8GB内存大升级，iOS 18智能体验全面爆发

小米15砍掉8GB内存版本王腾：端侧AI大模型对内存占用更多

安卓旗舰告别8GB内存时代，AI大模型推动手机厂商搞“大内存”

近期资讯

江苏巴陶新材料有限公司取得一种水分分离装置专利，可实现高效且最大化地去除水分

湖州惠鹏达取得硫酸钠MVR蒸发结晶装置专利，对结晶产生的蒸汽进行二次利用，更加节能

惠威科技：广州耳机展发布多款新品耳机

科大讯飞：与宇树科技在人工智能及机器人领域合作

河南德宜瑞取得防止结垢的蒸发器专利，保障装置的蒸发效率

河北非常机器人科技有限公司被认定为高新技术企业

河北顺时智能机器人科技有限公司被认定为高新技术企业

淄博诺奥取得气相加氢用喷射式液体蒸发装置专利，能够提高液体物料蒸发效率

东营奥星取得硫氢化钠蒸发提纯装置专利，大大的降低了设备的空置时间，提高了设备的利用率

巴斯夫杉杉取得晶浆增稠系统专利，降低离心机负荷

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响