1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

沈阳天瑞众成取得一种核生化 AI 机器人的智能预警装置专利

金融界2024年12月31日消息，国家知识产权局信息显示，沈阳天瑞众成系统集成有限公司取得一项名为“一种核生化AI机器人的智能预警装置”的专利，授权公告号CN118883146B，申请日期为2024年9月。天眼查资料显示，沈阳天瑞众成系统集成有限公司，成立于2011年，位于沈阳市，是一家以从事软件和信息技术服务业为主的企业。

金融界 2024-12-31

如何正确调校和使用标尺以确保测量准确性

《标尺怎么调出来》在我们的日常生活中，标尺是一个非常常见的工具。无论是在学校的课堂上，还是在家里的工作间，甚至是一些专业的领域，标尺都扮演着重要的角色。它可以帮助我们准确地测量物体的长度、宽度，甚至是深度。然而，很多人可能会忽视一个问题，那就是如何正确地调校标尺。今天，我们就来聊聊这个话题。首先，调校标尺的必要性是毋庸置疑的。

新报观察 2024-12-31

新实亚取得新能源轻卡压缩机支架结构专利，具有结构简单等优点

金融界2024年12月31日消息，国家知识产权局信息显示，北京新实亚科技有限公司取得一项名为“一种新能源轻卡压缩机支架结构”的专利，授权公告号CN222223859U，申请日期为2024年5月。

金融界 2024-12-31

如何轻松取消腾讯视频会员自动续费，保障您的消费权益

视频会员自动续费的朋友们有所帮助。操作过程中如果有任何疑问，记得随时寻求帮助，确保自己的账户安全和权益。同时，享受视频带来的快乐，也要理性消费，选择最适合自己的会员服务。祝你在观看的旅程中，找到更多的乐趣和精彩！

新报观察 2024-12-31

如何高效复制图片：实用技巧与注意事项解析

在现代社会，图片已经成为我们日常生活中不可或缺的一部分。无论是社交媒体上的分享，还是工作中的资料整理，图片都扮演着重要的角色。然而，很多人可能会发现，复制图片并不是一件简单的事情。今天我们就来聊聊，关于如何有效地复制图片的那些事儿。首先，复制图片的方式有很多种，具体取决于你使用的设备以及软件。

新报观察 2024-12-31

泉州永晋机械取得一种风箱用导流板专利，减小噪音

金融界2024年12月31日消息，国家知识产权局信息显示，泉州永晋机械有限公司取得一项名为“一种风箱用导流板”的专利，授权公告号CN222223855U，申请日期为2024年5月。

金融界 2024-12-31

电光科技：电力巡检机器人主要用于煤矿变电所

金融界12月31日消息，有投资者在互动平台向电光科技提问：公司开发的电力巡检机器人主要用于哪些行业？公司回答表示：开发产品主要想用于煤矿变电所。

金融界 2024-12-31

手机双系统切换方法与注意事项详解，助你轻松使用

在如今这个科技飞速发展的时代，手机已经成为我们生活中不可或缺的一部分。双系统的好处不言而喻，比如可以在不同的环境下使用不同的系统，或者在一个系统上进行测试而不影响主系统的使用。今天，我们就来聊聊手机双系统的切换方法。

新报观察 2024-12-31

华域三电取得热管理集成模组专利，减少线束布设数量，便于后续检修工作

金融界2024年12月31日消息，国家知识产权局信息显示，华域三电汽车空调有限公司取得一项名为“一种热管理集成模组”的专利，授权公告号CN222223858U，申请日期为2024年5月。

金融界 2024-12-31

如何轻松连接手机与蓝牙设备，提升生活便利性指南

在现代生活中，蓝牙已经成为了我们日常使用的一种重要技术。无论是无线耳机、音响，还是智能手表、健身手环，蓝牙连接都能让我们的生活更加便利。

新报观察 2024-12-31

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

沈阳天瑞众成取得一种核生化 AI 机器人的智能预警装置专利

如何正确调校和使用标尺以确保测量准确性

新实亚取得新能源轻卡压缩机支架结构专利，具有结构简单等优点

如何轻松取消腾讯视频会员自动续费，保障您的消费权益

如何高效复制图片：实用技巧与注意事项解析

泉州永晋机械取得一种风箱用导流板专利，减小噪音

电光科技：电力巡检机器人主要用于煤矿变电所

手机双系统切换方法与注意事项详解，助你轻松使用

华域三电取得热管理集成模组专利，减少线束布设数量，便于后续检修工作

如何轻松连接手机与蓝牙设备，提升生活便利性指南

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响