当前位置：首页|资讯

NVIDIA提出Hymba网络，Mamba+Attenation解决transformer的长序列低效难题

作者：大鲸鱼crush发布时间：2024-12-25

本文详细讲解了NVIDIA 本月提出的 Hymba 模型架构。该架构结合了SSM和transformer，解决了传统架构处理长序列成本过高的问题...【查看原文】

相关资讯

NeurIPS 2024 | 哈工深提出新型智能体Optimus-1，横扫Minecraft长序列任务

类似于知识与经验在指导人类完成复杂任务中的重要作用，智能体在规划阶段借助结构化知识生成可行的任务计划，而在反思阶段则利用多模态经验对当前状态进行判断，并做出更加合理的决策。在混合多模态记忆的赋能下，Optim…

机器之心Pro 2024-12-17

顶会新热点！斯坦福全新架构TTT干翻Mamba和Transformer！

来源：3D视觉工坊添加小助理：dddvision，备注：方向+学校/公司+昵称，拉你入群。文末附行业细分群扫描下方二维码，加入3D视觉知识星球，星球内凝聚了众多3D视觉实战问题，以及各个模块的学习资料：近20门视频课程（星球成员免费学习）、最新顶会论文、计算机视觉书籍、优质3D视觉算法源码等。想要入门3D视觉、做项目、搞科研，欢迎扫码加入！0. 这篇文章干了啥？2020年，OpenAI的扩展定律论文（Kaplan等人）表明，LSTM（一种RNN）无法像Transformer那样进行扩展，也无法有效地利用长

斯坦福OpenAI

3D视觉工坊 2024-07-27

【花师小哲】鉴定网络热门（？）AI（26）——Mamba：被拒稿的黑马，优美的网络架构

今天终于有点时间来看看Mamba的论文了。我在之前一些专栏中也提到过这个模型，不过一直没时间来看。可能非AI行业的朋友都不知道这个模型，相比于Sora之类的，Mamba确实没有那么出圈，但不能说这个模型不重要。我看不少业界大佬都表扬过这个模型，一些大佬还指出Mamba的论文写的非常漂亮，包括现在已经有很多方法在使用Mamba做事情了。但是很可惜的是，这篇文章被ICLR给拒稿了。作为专业性比较强的一篇论文，这里不深入讲解Mamba的细节设计，一方面是这个系列的目的还是给大众科普的，另一方面是我也没吃透，虽然

Sora

花师小哲-中二 2024-03-01

极长序列、极快速度：面向新一代高效大语言模型的LASP序列并行

从国际顶流 GPT-4 128K、Claude 200K 到国内「当红炸子鸡」支持 200 万字上下文的 Kimi Chat，大语言模型（LLM）在长上下文技术上不约而同地卷起来了。

大语言模型GPT-4Claude

机器之心 2024-04-16

ChatGPT怎么解决管理难题

ChatGPT在管理方面的应用

ChatGPT

倪云华 2023-07-12

近期资讯

科学家打造“变分偏好学习”技术，将AI偏好辨识准确率提高10%，助力保护少数群体用户利益

DeepTech深科技 2024-12-25

吴柳芳，再度打开了流量的潘多拉魔盒

这几天，吴柳芳被封到解禁，又到被清空粉丝闹得沸沸扬扬。本文深入剖析了这一事件背后的流量机制，探讨了它如何成为个体和产业发展的双刃剑。

孟永辉 2024-12-25

减肥药“替尔泊肽”美团上市，预约数日环比超三倍

36氪 2024-12-25

苹果市值逼近 4 万亿美元，分析师称 AI 推动新 iPhone 超级周期

IT之家 2024-12-25

溢价15倍收购亏损资产，华海清科10亿加码半导体国产替代

钛媒体APP 2024-12-25

它们拿下2024年App“奥斯卡”大奖

IT时报 2024-12-25

顾客终于成“上帝”了

IT时报 2024-12-25

「点点」浮出水面，小红书AI搜索有了新进展

随着AI之争进入到比拼应用的阶段，小红书迫切需要一款具备一定用户体量和活跃度的产品。它可以不是一个爆款产品，但一定要能够帮助其持续思考、迭代AI搜索能力，使其拥有参与未来竞争的底气。

窄播 2024-12-25

滴滴“臭车”谁之过？

昨天滴滴因“臭车”问题冲上热搜，再次成为公众讨论的焦点，这一问题不仅影响了乘客的出行体验，也暴露了网约车行业在服务质量上的短板。本文多角度分析了“臭车”问题背后的复杂原因，从司机的工作强度到平台的监管责任，再到行业的竞争压力，多角度分析了这一问题的根源。

互联网那些事 2024-12-25

罗永浩瞄准AI硬件！新品理念超前，能否一雪TNT前耻？

雷科技 2024-12-25

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1