1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

如何在家中顺利安装WiFi，享受稳定网络连接的全攻略

在这个信息化的时代，WiFi已经成为我们生活中不可或缺的一部分。无论是工作、学习还是娱乐，稳定的网络连接都能让我们的生活更加便利。今天，我就来聊聊怎么装WiFi，让你在家里也能享受到快速、稳定的网络。首先，装WiFi的第一步就是选择合适的设备。一般来说，你需要一个路由器和一个调制解调器（如果你的网络服务提供商没有提供的话）。

新报观察 2024-12-28

因 USB-C 要求，苹果 iPhone 14 / Plus、SE 3 在欧盟多国下架

IT之家12月27日消息，据macrumors报道，因欧盟要求所有智能手机使用通用接口（即USB-C）进行充电，苹果iPhoneSE3和iPhone14/Plus手机已从大多数欧盟国家的苹果在线商店中下架。

IT之家 2024-12-27

如何在Mac上轻松打开RAR文件的实用指南与工具推荐

在使用Mac电脑的时候，很多朋友可能会遇到一个问题，那就是如何打开RAR格式的压缩文件。RAR文件是一个广泛使用的压缩格式，尤其是在分享大文件的时候，它能大大节省空间并加快传输速度。无论你选择哪种方法，掌握了这些技巧后，以后再也不用为RAR文件而烦恼了。

新报观察 2024-12-28

初次使用苹果手机的开机与基本功能指南，助你轻松上手！

苹果手机作为现代人生活中不可或缺的工具，无论是用来打电话、发信息，还是上网、玩游戏，功能都非常强大。如果你用的是iPhoneX及更新型号，电源键和音量键的位置会有所不同，但是只要你找到那个按钮，接下来的步骤就简单多了。

新报观察 2024-12-28

广合科技获得发明专利授权：“PCB板的防铜皱工艺以及PCB板”

证券之星消息，根据天眼查APP数据显示广合科技（001389）新获得一项发明专利授权，专利名为“PCB板的防铜皱工艺以及PCB板”，专利申请号为CN202211272033.2，授权日为2024年12月27日。

证券之星 2024-12-28

如何为视频添加字幕以提升观众体验与传播效果

在这个信息爆炸的时代，视频已经成为我们获取信息和娱乐的重要方式。无论是YouTube上的短视频，还是社交媒体上的直播，字幕的作用都显得尤为重要。添加字幕不仅能帮助听障人士理解视频内容，还能吸引更多的观众。今天，我们就来聊聊视频怎么添加字幕，让你的作品更加易于理解和传播。说到添加字幕，首先要明确的是字幕的类型。

新报观察 2024-12-28

中国电信获得发明专利授权：“程序运行方法、装置、设备及存储介质”

证券之星消息，根据天眼查APP数据显示中国电信（601728）新获得一项发明专利授权，专利名为“程序运行方法、装置、设备及存储介质”，专利申请号为CN202210878280.0，授权日为2024年12月27日。专利摘要：本公开提供一种程序运行方法、装置、设备及存储介质，涉及计算机技术领域。

证券之星 2024-12-28

太钢不锈获得发明专利授权：“一种发动机高压共轨用不锈钢精炼的方法”

证券之星消息，根据天眼查APP数据显示太钢不锈（000825）新获得一项发明专利授权，专利名为“一种发动机高压共轨用不锈钢精炼的方法”，专利申请号为CN202211520704.2，授权日为2024年12月27日。

证券之星 2024-12-28

宏昌科技获得实用新型专利授权：“一种结构简单的减压阀”

证券之星消息，根据天眼查APP数据显示宏昌科技（301008）新获得一项实用新型专利授权，专利名为“一种结构简单的减压阀”，专利申请号为CN202420787900.4，授权日为2024年12月27日。

证券之星 2024-12-28

如何优化手机应用设置提升使用体验与隐私保护

在现在这个数字化的时代，手机应用程序已经成为我们生活中不可或缺的一部分。无论是社交、购物还是学习，我们总能在应用商店找到一款合适的app来满足自己的需求。

新报观察 2024-12-28

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

如何在家中顺利安装WiFi，享受稳定网络连接的全攻略

因 USB-C 要求，苹果 iPhone 14 / Plus、SE 3 在欧盟多国下架

如何在Mac上轻松打开RAR文件的实用指南与工具推荐

初次使用苹果手机的开机与基本功能指南，助你轻松上手！

广合科技获得发明专利授权：“PCB板的防铜皱工艺以及PCB板”

如何为视频添加字幕以提升观众体验与传播效果

中国电信获得发明专利授权：“程序运行方法、装置、设备及存储介质”

太钢不锈获得发明专利授权：“一种发动机高压共轨用不锈钢精炼的方法”

宏昌科技获得实用新型专利授权：“一种结构简单的减压阀”

如何优化手机应用设置提升使用体验与隐私保护

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响