1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

如何高效创建和管理微信群聊的实用指南与技巧分享

录”、“发现”和“我”。我们要点击“聊天”图标，进入聊天列表。在聊天列表的右上角，有一个“+”号，点击它后，会弹出一个菜单。在这个菜单里，你会看到“发起群聊”的选项，点一下这个选项。接下来，微信会显示你的好友列表。你可以在这里选择你想要邀请进群的人。可以通过滑动屏幕来查看更多的好友，或者直接在搜索框中输入好友的名字，快速找到他们。

新报观察 2024-12-31

如何轻松查找自己电脑的IP地址：多种方法详解与注意事项

无论是为了网络设置、解决连接问题，还是为了保护自己的隐私，掌握如何查找自己的IP地址都能让你在网络世界中游刃有余。

新报观察 2024-12-31

上纬新材获得实用新型专利授权：“试样对中装置”

证券之星消息，根据天眼查APP数据显示上纬新材（688585）新获得一项实用新型专利授权，专利名为“试样对中装置”，专利申请号为CN202420441555.9，授权日为2024年12月31日。

证券之星 2024-12-31

中航光电获得实用新型专利授权：“一种带倾角的PCB连接器及连接器组件”

证券之星消息，根据天眼查APP数据显示中航光电（002179）新获得一项实用新型专利授权，专利名为“一种带倾角的PCB连接器及连接器组件”，专利申请号为CN202420673595.6，授权日为2024年12月31日。

证券之星 2024-12-31

如何顺利安装和配置CAD软件，提升设计效率与技能

在现代设计和工程领域，CAD（计算机辅助设计）软件是不可或缺的工具。这里列出几个，供你参考：安装失败：如果安装过程中出现错误，检查一下系统要求是否满足，或者尝试以管理员身份运行安装程序。

新报观察 2024-12-31

如何高效管理邮箱：使用技巧与安全建议的全面指南

在这个数字化时代，邮箱已经成为我们生活中不可或缺的一部分。无论是工作、学习还是日常交流，邮箱都发挥着重要的作用。今天，我们就来聊聊怎么正确地使用邮箱，帮助你更好地管理和利用这个工具。首先，选择一个合适的邮箱服务提供商很重要。市面上有很多邮箱服务，比如Gmail、Outlook、Yahoo等，每个都有自己的特点和功能。

新报观察 2024-12-31

平煤股份获得实用新型专利授权：“一种水动力除尘器”

证券之星消息，根据天眼查APP数据显示平煤股份（601666）新获得一项实用新型专利授权，专利名为“一种水动力除尘器”，专利申请号为CN202421004172.1，授权日为2024年12月31日。专利摘要：本实用新型涉及煤矿除尘设备领域，尤其涉及一种水动力除尘器。

证券之星 2024-12-31

华帝股份获得实用新型专利授权：“一种电热水器的挂架”

证券之星消息，根据天眼查APP数据显示华帝股份（002035）新获得一项实用新型专利授权，专利名为“一种电热水器的挂架”，专利申请号为CN202323498257.8，授权日为2024年12月31日。

证券之星 2024-12-31

佰维存储获得发明专利授权：“封装结构散热优化方法、装置、可读存储介质及电子设备”

证券之星消息，根据天眼查APP数据显示佰维存储（688525）新获得一项发明专利授权，专利名为“封装结构散热优化方法、装置、可读存储介质及电子设备”，专利申请号为CN202110337921.7，授权日为2024年12月31日。

证券之星 2024-12-31

如何选择适合自己的键盘：关键因素与实用建议解析

选键盘可不是一件简单的事，尤其是在如今这个各种品牌、各种类型的键盘层出不穷的时代。无论你是游戏玩家、程序员还是普通的上班族，找到一款适合自己的键盘都能提高你的工作和娱乐体验。接下来，就跟我一起聊聊选键盘的时候需要考虑的几个方面吧。首先，键盘的类型是个非常重要的因素。市面上主要有机械键盘、薄膜键盘以及静电容键盘。

新报观察 2024-12-31

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

如何高效创建和管理微信群聊的实用指南与技巧分享

如何轻松查找自己电脑的IP地址：多种方法详解与注意事项

上纬新材获得实用新型专利授权：“试样对中装置”

中航光电获得实用新型专利授权：“一种带倾角的PCB连接器及连接器组件”

如何顺利安装和配置CAD软件，提升设计效率与技能

如何高效管理邮箱：使用技巧与安全建议的全面指南

平煤股份获得实用新型专利授权：“一种水动力除尘器”

华帝股份获得实用新型专利授权：“一种电热水器的挂架”

佰维存储获得发明专利授权：“封装结构散热优化方法、装置、可读存储介质及电子设备”

如何选择适合自己的键盘：关键因素与实用建议解析

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响