用FP8训练大模型有多香？微软：比BF16快64%，省42%内存

作者：机器之心发布时间：2023-11-02

微软 OpenAI 大语言模型

大型语言模型（LLM）具有前所未有的语言理解和生成能力，但是解锁这些高级的能力需要巨大的模型规模和训练计算量。在这种背景下，尤其是当我们关注扩展至 OpenAI 提出的超级智能 (Super Inte...【查看原文】

相关资讯

驱动之家 2024-10-29

安卓旗舰告别8GB内存时代，AI大模型推动手机厂商搞“大内存”

AI大模型

环球网 2024-10-28

近期资讯

青田阿迪玛阀门铸造取得便于更换填料的球阀专利，便于对填料本体更换，减轻工作人员强度

金融界2024年12月27日消息，国家知识产权局信息显示，青田阿迪玛阀门铸造有限公司取得一项名为“一种便于更换填料的球阀”的专利，授权公告号CN222209062U，申请日期为2024年7月。

金融界 2024-12-27

陕西哈曼流体科技取得一种密封球阀专利，避免控制丝杆处出现泄漏影响整个阀体的密封性

金融界2024年12月27日消息，国家知识产权局信息显示，陕西哈曼流体科技有限公司取得一项名为“一种密封球阀”的专利，授权公告号CN222209063U，申请日期为2024年4月。

金融界 2024-12-27

南安亚布洁具取得冷启动式水龙头专利，有效节约能源

金融界2024年12月27日消息，国家知识产权局信息显示，南安亚布洁具有限公司取得一项名为“一种冷启动式水龙头”的专利，授权公告号CN222209069U，申请日期为2024年5月。

金融界 2024-12-27

北京市阀门总厂取得自紧式阀座及浮动球阀专利，提升防火密封性能

金融界2024年12月27日消息，国家知识产权局信息显示，北京市阀门总厂股份有限公司取得一项名为“自紧式阀座及浮动球阀”的专利，授权公告号CN222209060U，申请日期为2024年5月。

金融界 2024-12-27

念承气动取得一种电子排水阀专用球阀过滤器专利，能够方便对滤芯本体进行拆卸

金融界2024年12月27日消息，国家知识产权局信息显示，念承气动科技南京有限公司取得一项名为“一种电子排水阀专用球阀过滤器”的专利，授权公告号CN222209065U，申请日期为2024年7月。

金融界 2024-12-27

浙江杭惠阀门取得控制阀专利，满足高压差大可调比极端复杂工况要求

金融界2024年12月27日消息，国家知识产权局信息显示，浙江杭惠阀门有限公司取得一项名为“种控制阀”的专利，授权公告号CN222208992U，申请日期为2024年2月。

金融界 2024-12-27

上海中君阀门取得暖通用电动二通球阀专利，使阀体与执行器之间的稳定性得到提升

金融界2024年12月27日消息，国家知识产权局信息显示，上海中君阀门集团有限公司取得一项名为“一种暖通用电动二通球阀”的专利，授权公告号CN222209064U，申请日期为2024年5月。

金融界 2024-12-27

浙江盾安禾田取得防冻排水装置专利，解决用水系统相关复杂问题

金融界2024年12月27日消息，国家知识产权局信息显示，浙江盾安禾田金属有限公司取得一项名为“防冻排水装置”的专利，授权公告号CN222209076U，申请日期为2024年3月。

金融界 2024-12-27

广东维杰取得气缸直驱式快速切换三通阀专利，实现流体路径快速切换

金融界2024年12月27日消息，国家知识产权局信息显示，广东维杰物料自动化系统有限公司取得一项名为“一种气缸直驱式快速切换三通阀”的专利，授权公告号CN222209075U，申请日期为2024年5月。

金融界 2024-12-27

金融监管总局：银行保险机构应当建立针对大数据、云计算、移动互联网、物联网等多元异构环境下的数据安全技术保护体系

国家金融监督管理总局印发银行保险机构数据安全管理办法。银行保险机构应当建立针对大数据、云计算、移动互联网、物联网等多元异构环境下的数据安全技术保护体系，建立数据安全技术架构，明确数据保护策略方法，采取技术措施，保障数据安全。

金融界 2024-12-27

用FP8训练大模型有多香？微软：比BF16快64%，省42%内存

推荐体验

相关资讯

Stable Diffusion 大模型 ChilloutMix fp16

大模型微调实战（八）-使用INT8/FP4/NF4微调大模型

告别卡顿：iPhone 16系列8GB内存大升级，iOS 18智能体验全面爆发

小米15砍掉8GB内存版本王腾：端侧AI大模型对内存占用更多

安卓旗舰告别8GB内存时代，AI大模型推动手机厂商搞“大内存”

近期资讯

青田阿迪玛阀门铸造取得便于更换填料的球阀专利，便于对填料本体更换，减轻工作人员强度

陕西哈曼流体科技取得一种密封球阀专利，避免控制丝杆处出现泄漏影响整个阀体的密封性

南安亚布洁具取得冷启动式水龙头专利，有效节约能源

北京市阀门总厂取得自紧式阀座及浮动球阀专利，提升防火密封性能

念承气动取得一种电子排水阀专用球阀过滤器专利，能够方便对滤芯本体进行拆卸

浙江杭惠阀门取得控制阀专利，满足高压差大可调比极端复杂工况要求

上海中君阀门取得暖通用电动二通球阀专利，使阀体与执行器之间的稳定性得到提升

浙江盾安禾田取得防冻排水装置专利，解决用水系统相关复杂问题

广东维杰取得气缸直驱式快速切换三通阀专利，实现流体路径快速切换

金融监管总局：银行保险机构应当建立针对大数据、云计算、移动互联网、物联网等多元异构环境下的数据安全技术保护体系

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响