1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

一加Ace 5系列发布：搭载骁龙8系处理器，2299元起售

一加Ace5系列搭载骁龙8系旗舰平台和行业首个自研芯片级游戏技术“风驰游戏内核”，采用全新直屏设计以及同档唯一陶瓷机身，首发1.5K第二代东方屏，搭载行业最高能量密度冰川电池，还拥有旗舰影像和饱受好评的“机圈德芙”ColorOS15等众多行业领先的硬件和功能配置。一加Ace5Pro售价3399元起，一加Ace5售价2299元起。

观察者网 2024-12-27

2024“打卡中国古韵潮音——你好，大湾区！”网络国际传播活动正式启动

国际在线消息（记者石丽敏）：12月27日，2024“打卡中国·古韵潮音——你好，大湾区！”本次活动由国家互联网信息办公室网络传播局指导，广东省互联网信息办公室、国际在线主办，珠海市互联网信息办公室、国际在线广东频道承办。

央广网 2024-12-28

2024世界机器人大赛总决赛官宣牵手郑州高新区

当前，机器人易用性及配置效率显著提升，正以空前的广度和深度融入生产与生活，推动人类社会加速进入智能时代。

大象新闻 2024-12-27

专家探讨：办好科技期刊需要一个久久为功的过程

12月26日，在2024年科技期刊服务高质量创新发展案例发布会上，科学家、期刊行业专家以及各类科技期刊负责人坐在一起，共同探讨科技期刊建设。她专门提到，办期刊需要的人才，得具备专业知识与学术素养、科普写作与传播能力、策划与选题能力、创新思维与技术应用能力、沟通与协作能力以及公众需求洞察力等核心素质。

中国青年网 2024-12-27

福建新诺机器人自动化有限公司被认定为高新技术企业

12月27日，高企认定官网披露对福建省认定机构2024年认定报备的第一批高新技术企业进行备案的公告，福建新诺机器人自动化有限公司在列，证书编号GR202435001085，发证日期为2024年12月27日。

金融界 2024-12-28

微美全息开发出一种基于量子技术的随机存取存储器结构QRAM

微美全息宣布，开发出一种基于量子技术的随机存取存储器结构（QRAM），可以成功地执行基本的“且”“或”“非”等逻辑运算。

华尔街见闻 2024-12-27

华为官翻机打响第一炮，最高降4000元，定价逻辑令人深思

元旦将至，华为官翻机打响了年底促销第一炮，平均降幅在2000元~4000元，最高直降4000元（华为MateX312GB+1TB典藏版)。

王新喜 2024-12-27

AI+教育：Meta Dot携手GPTBots，打造教育行业智能化新标杆

在教育领域，人工智能的应用正日益深入，彻底颠覆了传统的教学模式。这一创新尝试旨在通过AI技术提升教育质量与效率，全面释放学生的创造力，为教育行业注入新的活力。

砍柴网 2024-12-27

雷神推出26999元黑武士·Shark主机：酷睿Ultra7 265K + RTX 4090D

IT之家12月27日消息，雷神今天推出了一款搭载英特尔酷睿Ultra7265K处理器、RTX4090D显卡、64GBDDR5内存、2T固态硬盘、360水冷的黑武士・Shark电脑主机，定价26999元。12月30日开售。

IT之家 2024-12-27

余承东怒赞华为Mate 70：兄弟们做得好一起去找下一个未来！

快科技12月28日消息，余承东在微博转发了华为终端的一则视频，展示了华为Mate70Pro+全新超可靠高亮钛玄武架构背后的故事。据了解，华为Mate70Pro+独家采用了业内领先的高亮钛玄武架构，主打坚固与耐摔性能。这三者共同构成了全新的高亮钛玄武架构，使得华为Mate70Pro+成为一款全方位可靠的智能手机。

快科技 2024-12-28

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

一加Ace 5系列发布：搭载骁龙8系处理器，2299元起售

2024“打卡中国古韵潮音——你好，大湾区！”网络国际传播活动正式启动

2024世界机器人大赛总决赛官宣牵手郑州高新区

专家探讨：办好科技期刊需要一个久久为功的过程

福建新诺机器人自动化有限公司被认定为高新技术企业

微美全息开发出一种基于量子技术的随机存取存储器结构QRAM

华为官翻机打响第一炮，最高降4000元，定价逻辑令人深思

AI+教育：Meta Dot携手GPTBots，打造教育行业智能化新标杆

雷神推出26999元黑武士·Shark主机：酷睿Ultra7 265K + RTX 4090D

余承东怒赞华为Mate 70：兄弟们做得好一起去找下一个未来！

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响