1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

专注药用酸枣苗种植，探寻果实背后的经济秘密

探寻药用酸枣苗的经济秘密：开启高端水果种植之旅 [图片] 一、品种优势显著的高品质药用酸枣苗 [图片] 在这片充满生机的大地上，一种特殊的植物正在悄然改变着农业格局。那就是我们的药用酸枣苗，其品种优势显著，成为引领现代农业的新风尚。作为一种天然的药食同源植物，它的果实不仅口感超群，更富含多种营养元素，市场需求日益增长。在这里，每一株药用酸枣苗都蕴藏着无限的潜力。选对优质的种苗，是您走向成功种植之旅的第一步。 [图片] 二、独特的种植模式与环境探寻 [图片] 药用酸枣苗生长的理想环境是温暖湿润、光照充足、土

万林农业 2024-12-29

微信被临时限制所有社交场景怎么解封？

微信被临时限制了怎么办？例如社交功能限制，虽然是最轻度的处罚，但不会自动恢复，必须要主动处理。今天在这里分享点个人经验和解决的办法，仅供参考 [图片] 第一种：好友辅助根据系统的提示，完成辅助流程即可解决，这是最简单的，注意邀请和被邀请的双方都要符合条件才行没，否则会通不过。 [图片] 第二种：变更类型有的没好友，或里面的人都不认识，不符合的情况，可以申请变更类型，更换成其他的验证方式即可解决，选择合适自己的方式即可通过，不会的可以来问。 [图片] 第三种：提交复审如你被冤枉，就果断去提交复审，把

坤琳讲 2024-12-29

来聊科技 2024-12-29

新机遇：统一润滑油2024可持续发展者大会的启示

2024年12月18日，统一润滑油在全国范围内召开了以“主动增长、做最值钱的经销商、销售令人自豪的产品”为主题的可持续发展者大会。此次大会汇聚了来自全国各地的经销商家人们，大家积极响应，共同探讨如何把握国产替代的历史机遇，结合大牌国货的低碳路线图与目标用户企业的低碳发展进程，以央企的品牌优势持续赢得更多的商业机会。在当今全球经济环境中，面对日益严峻的环保形势和市场竞争，企业的可持续发展已成为一个不可逆转的趋势。统一润滑油作为行业的领军企业，深刻认识到自身在推动低碳经济和可持续发展方面的责任与使命。大会上

江江的科技生活 2024-12-29

解密RNA的动态构象：AFM与深度学习的完美结合

在生命科学研究中，RNA分子扮演着重要的角色，从基因表达调控到蛋白质合成，它无处不在。然而，RNA分子的多样性不仅体现在其序列上，更体现在其复杂多变的三维结构中。解析RNA的构象异质性，不仅是理解其生物学功能的关键，更是探索新型RNA靶向药物的重要前提。然而，传统技术在应对RNA分子的动态行为时面临诸多瓶颈。最近发表的一篇题为 “Determining structures of RNA conformers using AFM and deep neural networks” 的研究，创新性地结合了原

学海一粟su 2024-12-29

美国RO反渗透膜公司的汇总（工业8040尺寸的反渗透膜公司）

美国RO反渗透膜公司的汇总（工业8040尺寸的反渗透膜公司） 1.美国菲欧姆泰克膜FILMTEC公司，母公司为美国杜邦膜DUPONT公司，RO膜公司在美国，沙特等地方生产。 2.美国菲欧姆泰克膜FILMTEC公司，母公司为美国陶氏膜DOW公司，RO膜公司在美国，沙特等地方生产。 3.美国奥斯莫尼斯膜OSMONICS公司，RO膜公司在美国等地方生产。 4.美国迪赛欧膜DESAL公司，母公司是美国奥斯莫尼斯OSMONICS公司，RO膜公司在美国等地方生产。 5.美国海德能膜HYDRANAUTICS公司，母公司

水处理从业人员 2024-12-29

中考数学(150个常考母题+450道精选好题)，考试刷这些就够了！

在当下竞争白热化的教育情境之中，初中数学作为一门基础性学科，不但要求学生熟稔基本的运算技法，更着重于逻辑思维与问题解决能力的培育。直面纷繁复杂的数学题目，学生们时常感到心余力绌，然而“母题解题法”恰似一把金质钥匙，为初中生开启了通向数学神圣殿堂的大门。本文将深度探究母题解题法于初中数学内的重要效用，以及它怎样助力学生高效学习、提升成绩。所以学姐将初中数学的常考母题分享给大家，初中生考前刷这些足够了！篇幅有限，建议领取电子版打印学习！领取方式：点击头像私信【资料】或评【想要】后看私即可~

半月学姐冲高中 2024-12-29

武汉深蓝S07车友会年会圆满结束~

2024年12月28日, 我们湖北深蓝S07车友会成功举办了一次令人难忘的年会活动。这次活动不仅让车友们有了更深入的交流，也为大家带来了许多欢乐和美好的回忆。在露营过程中，我们组织了丰富多彩的活动。白天，车友们分贝体验了高尔夫, 一起开心户外ktv, 以及各种桌游, 围在茶炉旁交流用车体验, 氛围十分友好。夜幕降临，篝火点燃，温暖的火光映照着大家的笑脸。烧烤的香味四溢，大家一边品尝着美食，一边享受着这轻松愉快的氛围, 最后大家一起燃放烟花庆祝此次活动圆满结束。通过这次活动，车友们的关系紧密了起来。我们不

丨弦月丶 2024-12-29

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

专注药用酸枣苗种植，探寻果实背后的经济秘密

微信被临时限制所有社交场景怎么解封？

高中语文140+，年级第一。多亏了这份提分秘籍帮大忙！

【计算机毕业设计选题推荐】基于java的健身房管理系统的设计与实现

统一润滑油2024年市场战略与服务提升分析（一）

新机遇：统一润滑油2024可持续发展者大会的启示

解密RNA的动态构象：AFM与深度学习的完美结合

美国RO反渗透膜公司的汇总（工业8040尺寸的反渗透膜公司）

中考数学(150个常考母题+450道精选好题)，考试刷这些就够了！

武汉深蓝S07车友会年会圆满结束~

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响