1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

全面解析音箱使用技巧，提升你的音频体验与乐趣

音箱怎么用音箱，这个在生活中随处可见的设备，可能你家里就有几台。无论是听音乐、看电影，还是玩游戏，音箱都能给我们带来更好的音效体验。但是，很多人可能只知道怎么把音箱插上电源，其他的功能却没怎么尝试过。今天就来聊聊音箱的使用，帮助你更好地享受音频世界。首先，音箱的种类多种多样。常见的有蓝牙音箱、有线音箱、便携音箱、家庭影院音响等等。

新报观察 2024-12-31

江苏久动传动轴取得具有良好减震效果的传动轴吊架专利，可提高装置实用性

金融界2024年12月31日消息，国家知识产权局信息显示，江苏久动传动轴有限公司取得一项名为“一种具有良好减震效果的传动轴吊架”的专利，授权公告号CN222223905U，申请日期为2024年3月。

金融界 2024-12-31

潍柴雷沃取得一种机械式脚油门装置及拖拉机专利，改善易变形出现控制精度低的问题

金融界2024年12月31日消息，国家知识产权局信息显示，潍柴雷沃智慧农业科技股份有限公司取得一项名为“一种机械式脚油门装置及拖拉机”的专利，授权公告号CN222223907U，申请日期为2024年5月。

金融界 2024-12-31

有效利用微信进行品牌营销的实用技巧与策略

在当今这个数字化的时代，微信已经成为了一个不可或缺的社交工具。无论是日常聊天、分享生活，还是进行商业活动，微信都扮演着重要的角色。对于商家来说，如何利用微信进行有效的营销，已经成为了一个热门话题。接下来，我们就来聊聊微信营销的一些实用技巧和策略。在微信上，品牌形象的建立是非常重要的。你可以通过创建一个专业的公众号来展示你的品牌。

新报观察 2024-12-31

深圳市普菲特精密制品取得防疲劳断裂连接机构的驱动轴专利，提高连接的稳定性和使用寿命

金融界2024年12月31日消息，国家知识产权局信息显示，深圳市普菲特精密制品有限公司取得一项名为“防疲劳断裂连接机构的驱动轴”的专利，授权公告号CN222223904U，申请日期为2024年5月。专利摘要显示，本实用新型公开了防疲劳断裂连接机构的驱动轴，涉及车辆传动装置的布置或安装技术领域。

金融界 2024-12-31

个性化手机铃声设置指南：安卓与iOS用户的实用技巧分享

录”应用，找到你想设置的联系人，进入他们的详细信息页面，点击“编辑”，然后就能看到“铃声”选项，选择你喜欢的铃声后保存即可。其实，铃声设置不仅仅是为了区分来电，更是一种个性化的表达。试想一下，当你在公共场合，听到你喜欢的那首歌在响起，心情一定会变得格外愉悦。特别是当朋友打电话时，铃声一响，就能让你瞬间想起那段美好的回忆。

新报观察 2024-12-31

星网宇达：IMU产品广泛应用于机器人等领域

金融界12月31日消息，有投资者在互动平台向星网宇达提问：你好！请问贵公司有没有机器狗或人形机器人技术储备？谢谢。公司回答表示：您所提及的机器狗、人形机器人领域，也是公司积极关注的方向。

金融界 2024-12-31

提升网络速度的实用技巧，让你畅享数字生活的乐趣与便利

在这个信息爆炸的时代，网速快慢直接影响着我们的生活和工作效率。无论是追剧、打游戏，还是远程办公，网速都扮演着一个举足轻重的角色。尤其是一些自动更新的软件，它们可能在你最需要网络的时候悄悄占用带宽。

新报观察 2024-12-31

安徽中信取得离合器踏板总成专利，便于离合器踏板本体安装和拆卸

金融界2024年12月31日消息，国家知识产权局信息显示，安徽中信汽车零部件有限公司取得一项名为“一种离合器踏板总成”的专利，授权公告号CN222223906U，申请日期为2024年3月。

金融界 2024-12-31

电脑键盘无法输入的原因及解决方法详解，助你轻松排查问题

在日常使用电脑的过程中，键盘出现打不出字的情况，真的是让人感到非常烦恼。如果问题依然存在，可以考虑更新或重装键盘的驱动程序。

新报观察 2024-12-31

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

全面解析音箱使用技巧，提升你的音频体验与乐趣

江苏久动传动轴取得具有良好减震效果的传动轴吊架专利，可提高装置实用性

潍柴雷沃取得一种机械式脚油门装置及拖拉机专利，改善易变形出现控制精度低的问题

有效利用微信进行品牌营销的实用技巧与策略

深圳市普菲特精密制品取得防疲劳断裂连接机构的驱动轴专利，提高连接的稳定性和使用寿命

个性化手机铃声设置指南：安卓与iOS用户的实用技巧分享

星网宇达：IMU产品广泛应用于机器人等领域

提升网络速度的实用技巧，让你畅享数字生活的乐趣与便利

安徽中信取得离合器踏板总成专利，便于离合器踏板本体安装和拆卸

电脑键盘无法输入的原因及解决方法详解，助你轻松排查问题

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响