训练时间减少71.4%，存储成本节省99.9%，厦大指令调优新方案MMA让羊驼模型实现多模态

作者：机器之心发布时间：2023-06-05

ChatGPT 大语言模型

最近几个月，ChatGPT 等一系列大型语言模型（LLM）相继出现，随之而来的是算力紧缺日益严重。虽然人人都想打造专属于自己的大模型，但是能负担得起上亿参数模型训练的机构却寥寥无几。在快速发展的人工...【查看原文】

相关资讯

基于SSE的即时更新方案

相信大家都用过ChatGPT了，其中前端的一个交互就是，用户输入prompt之后，回答是逐步流式渲染的。在大模型计算的场景下，普通的http请求肯定不太合适，因为等待时间过长。

ChatGPT 提示词

Yikuns 2023-10-31

告别限制：chatGPT国内使用新方案！

近年来，由于各种限制，国内用户很难直接访问和使用 ChatGPT 官网。然而，现在有了一种真实有效的方法，可以让国内用户无障碍地体验 ChatGPT 的强大功能。这一解决方案就是使用 ChatGPT 的镜像网站——BB AI，其网址为：bbai.us。BB AI 网站为国内用户提供了与 OpenAI 官方完全一致的 GPT-3.5 和 GPT-4 模型。无论是回答问题的深度还是广度，BB AI 都达到了 100% 的一致度，确保用户在使用时能够获得与官方版本同等高质量的对话体验。这不仅仅是文字上的承诺，而

ChatGPT GPT-4 OpenAI

嗨小姐姐来 2024-06-20

直指数据挑战浪潮存储三大创新方案加速生成式AI落地

作者：李祥敬当下，生成式AI（AIGC）的热度依然在持续，Gartner预测，到2023年将有20%的内容被AIGC所创建；到2025年人工智能生成数据占比将达到10%。随着大模型参数量和数据量的

生成式AI 人工智能 AIGC

至顶头条 2023-07-18

微软推出ZeRO++技术，可显著减少AI大模型训练时间和成本

据微软官方消息，微软研究人员日前推出了名为 ZeRO++ 的新技术，可显著减少大模型训练时间和成本。ZeRO++ 建立在 ZeRO 传输技术基础上，提供增强的通信策略，可提高训练效率，同时减少训练时间和成本。ZeRO++ 可对权重进行量化，其利用基于块的量化方法来保持训练精度，这种优化的量化过程相对原始 Zero 传输技术更快更准确。微软研究人员表示，与 ZeRO 相比，ZeRO++ 减少了高达 4 倍的通信量，提高了训练吞吐量和效率。

微软 AI大模型

2023-06-27

怎么用【指令工程】调优大模型？

那么该怎么用【指令工程】调优大模型？不必担心，在研究数个月后，我为你从众多方法中精选出四种主流且有效的调优方式：提示词工程、模型微调、强化学习人工干预、预训练（顺序由易到难）。提示词工程是指在使用大型预训练语言模型（如GPT-4或BERT）时，精心设计输入的提示词（或称为引导语），可以显著改变模型的输出。

提示词 GPT-4

人人都是产品经理 2024-04-07

近期资讯

小米SU7发布2025年1月限时购车权益！

快科技12月29日消息，小米汽车近日宣布了2025年1月份的小米SU7限时购车权益。从1月1日至1月31日，所有下定购买小米SU7全系车型的用户将享受价值8000元的Nappa真皮座椅、小米智能驾驶智驾增强

王略 2024-12-29

运营时速400公里全球高铁最快！CR450动车组座舱布局公布

快科技12月29日消息，CR450动车组样车今日在北京正式发布，此次发布的CR450动车组样车包括CR450AF和CR450BF两列样车，分别由中国中车旗下四方股份公司与长客股份公司生产。样车采用8节编组，

2024-12-29

网红辛巴力挺良品铺子：不要为蹭流量恶意搞垮国民企业

快科技12月29日消息，日前，国内头部电商主播辛巴在带货良品铺子时，喊话打假人不要为蹭流量搞垮国民企业。辛巴表示，在这个社会上有太多人为了流量不择手段，甚至不惜搞黄企业，把给社会做了

拾柒 2024-12-29

SIE高管谈小机器人：PS集大成之作 9周卖了150万份！

日前，日本知名游戏媒体公布了对索尼互动娱乐有限公司（SIE）首席执行官Herman Hulst的采访，其中提到了TGA2024年度游戏获得者《宇宙机器人》。Herman Hulst表示，他们对《宇宙机器人》获得的成

2024-12-29

雷军元旦跨年直播来了：4个半小时！

快科技12月29日消息，今日，雷军发微博预告称，打算在12月31日晚8点做一场直播，陪大家一起跨年。“2024马上就要过去了，回望这一年，大家肯定都有不少感慨。12月31日晚8点，我打算做一

2024-12-29

Copilot全面“入侵”微软产品

快科技12月29日消息，据报道，微软已通知用户，Microsoft 365应用将更名为Microsoft 365 Copilot，并计划在2025年1月中旬生效。这一更名不仅包括名称的变更，还涉及应用程序图标和界面的调整。

黑白 2024-12-29

索尼高管暗示：PS6或于2027年推出！

近日，索尼互动娱乐（SIE）平台业务集团首席执行官西野英明在Fami通的采访中，提到了PS5的生命周期。他认为PS5的生命周期也会像PS4一样很长，但这并不意味着延迟推出新一代产品。PS4和PS3的生命

2024-12-29

现场画面！韩国客机烧得只剩机尾：2名生还者均为乘务员

12月29日消息，当地时间29日上午9时07分左右（北京时间29日8时07分左右），一架正在着陆的客机在韩国全罗南道的务安国际机场偏离跑道，与围栏外墙发生碰撞后爆炸起火。从现场救援视频可以看

2024-12-29

6.6千米！广西最长跨海大桥龙门大桥正式通车

快科技12月29日消息，据报道，中交公路规划设计院有限公司牵头设计的广西首座单跨超千米的跨海大桥，也是广西最长的跨海大桥——龙门大桥于12月29日上午正式通车。龙门大桥以双向六

2024-12-29

DeepSeek甩出了一张“王炸”

12月26日消息，国产大模型DeepSeek推出DeepSeek-V3，一个强大的混合专家（Mixture-of-Experts, MoE）语言模型。主要的技术迭代是671B的MoE，37B的激活参数，在14.8万亿个高质量token上进行了预训

2024-12-29

训练时间减少71.4%，存储成本节省99.9%，厦大指令调优新方案MMA让羊驼模型实现多模态

推荐体验

相关资讯

基于SSE的即时更新方案

告别限制：chatGPT国内使用新方案！

直指数据挑战浪潮存储三大创新方案加速生成式AI落地

微软推出ZeRO++技术，可显著减少AI大模型训练时间和成本

怎么用【指令工程】调优大模型？

近期资讯

小米SU7发布2025年1月限时购车权益！

运营时速400公里全球高铁最快！CR450动车组座舱布局公布

网红辛巴力挺良品铺子：不要为蹭流量恶意搞垮国民企业

SIE高管谈小机器人：PS集大成之作 9周卖了150万份！

雷军元旦跨年直播来了：4个半小时！

Copilot全面“入侵”微软产品

索尼高管暗示：PS6或于2027年推出！

现场画面！韩国客机烧得只剩机尾：2名生还者均为乘务员

6.6千米！广西最长跨海大桥龙门大桥正式通车

DeepSeek甩出了一张“王炸”

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响