1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

手机免打扰模式设置指南：助你专注与宁静生活

特别是在想要专注工作、休息或者与朋友家人相处的时刻，频繁的打扰实在是让人难以忍受。今天，我们就来聊聊如何设置免打扰模式，让你的手机在需要专注的时候，帮你屏蔽那些不必要的干扰。

新报观察 2024-12-26

机械革命 CES 2025 笔记本电脑新品预热：A 面外壳采用特殊工艺

IT之家12月26日消息，机械革命即将亮相CES2025国际消费类电子产品展览会，并在同期举办2025年重磅新品品鉴会，IT之家届时将为大家带来详细报道。今日，机械革命宣布其下代游戏本将采用全新开发的模具，推测是新款耀世Pro和翼龙Pro游戏本。如图所示，这款新机在A面采用了全新的表面工艺，从特定角度看起来会有特殊的色彩和观感。

IT之家 2024-12-26

“马上消费”智慧农业项目“富慧养”荣获中国创新方法大赛银奖丨马上消费

在近日于重庆圆满落幕的2024年中国创新方法大赛电视擂台赛中，由中国科学技术协会与重庆市人民政府携手打造的这一科技盛会，见证了马上消费金融股份有限公司(简称“马上消费”)以“富慧养”智慧农业技术项目荣膺银奖(全国一等奖)的辉煌时刻，其在金融行业的创新实力得以璀璨展现。

中国财富网 2024-12-26

美的MR-190E：859元到手的181升双门节能冰箱，性价比之选

#年货节好物集市#选择性价比冰箱时，消费者通常会考虑几个关键因素：品牌信誉、价格、能效等级、制冷性能、噪音水平以及空间占用。一个性价比高的冰箱应该在满足基本需求的同时，提供额外的功能和良好的用户体验。根据最新的市场信息，这款冰箱在电商平台的到手价为859元，相较于其功能和品质，性价比极高。

小米地瓜 2024-12-26

七工匠 18mm F5.6 全画幅镜头新品 12 月 30 日发售

IT之家12月26日消息，七工匠今日宣布其18mmF5.6全画幅饼干镜头将于12月30日上市发售，详细信息届时才会公布。从海报来看，这款镜头将提供E卡口、Z卡口、L卡口三个版本可选，采用手动对焦方式且光圈非常小，其价格预计不会太贵，IT之家后续将保持关注。

IT之家 2024-12-26

江西煜明智慧光电申请无荧光粉多基色LED自适应调节光源控制系统专利，实现高效自适应的LED控制

金融界2024年12月26日消息，国家知识产权局信息显示，江西煜明智慧光电股份有限公司申请一项名为“一种无荧光粉多基色LED自适应调节的光源控制系统”的专利，公开号CN119183224A，申请日期为2024年11月。专利摘要显示，本发明涉及LED控制技术领域，尤其涉及一种无荧光粉多基色LED自适应调节的光源控制系统。

金融界 2024-12-26

鼎阳科技：公开发布三个新产品

鼎阳科技公告，2024年12月26日，公司正式公开发布最高输出频率达67GHz的SSG6000A系列高端射频微波信号发生器、最高测量频率达50GHz的SSA6000A系列高端频谱分析仪和最高测量频率达50GHz的SNA6000A系列高端矢量网络分析仪。

每日经济新闻 2024-12-26

一加Ace5系列发布 Pro版首发电竞Wi-Fi芯片G1

12月26日，一加Ace5系列正式发布，其中标准版搭载高通骁龙8Gen3芯片，Pro版本搭载骁龙8至尊版处理器，并首发电竞Wi-Fi芯片G1与第二代1.5K东方屏，同时配备13根电竞天线和游戏云计算专网，全系搭载ColorOS15系统，支持与iPhone隔空互传及一碰互传功能，同时支持一键问屏、AI修图、AI学习等多项AI功能。

证券时报 2024-12-26

小米推出全新REDMI Book 16 2025笔记本电脑性能超强智能识别场景

小米全新REDMIBook162025笔记本电脑于12月26日官宣，该产品以“轻薄/性能/续航”为设计目标，旨在满足用户对多方面需求的平衡。REDMIBook162025现已开始接受预约，并将于Turbo4新品发布会上正式发布。去年11月底发布的RedmiBook162024售价为4399元起。

中关村在线 2024-12-26

国网湖北电力充电桩年充电量首次突破5亿千瓦时

12月26日，记者从国网湖北省电力有限公司获悉，截至目前，国网湖北电力的充电桩年充电量首次突破5亿千瓦时，达5.01亿千瓦时，同比增长51.82%。近年来，为满足飞速增长的充电需求，国网湖北电力加快推进充电基础设施建设，不断优化完善充电网络布局。“2024年，除年度充电量取得历史性突破外，单日充电量、充电设施可用率均创历史新高。”

极目新闻 2024-12-26

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

手机免打扰模式设置指南：助你专注与宁静生活

机械革命 CES 2025 笔记本电脑新品预热：A 面外壳采用特殊工艺

“马上消费”智慧农业项目“富慧养”荣获中国创新方法大赛银奖丨马上消费

美的MR-190E：859元到手的181升双门节能冰箱，性价比之选

七工匠 18mm F5.6 全画幅镜头新品 12 月 30 日发售

江西煜明智慧光电申请无荧光粉多基色LED自适应调节光源控制系统专利，实现高效自适应的LED控制

鼎阳科技：公开发布三个新产品

一加Ace5系列发布 Pro版首发电竞Wi-Fi芯片G1

小米推出全新REDMI Book 16 2025笔记本电脑性能超强智能识别场景

国网湖北电力充电桩年充电量首次突破5亿千瓦时

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响