1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

React 标签页组件 Tab

标签页（Tab）组件是现代Web应用程序中常见的UI元素，用于在有限的空间内展示多个内容面板。React 提供了强大的工具来创建和管理这些交互式组件。本文将深入探讨如何在React中实现一个功能完善的

Jimaks 2024-12-26

HarmonyOS: 跨模块访问 HSP/HAR 包资源

在HarmonyOS应用开发过程中，常常涉及到多个模块协同工作，尤其是当使用 HSP和 HAR包时，那么如何跨模块访问其 resources 目录下的各种资源文件?

i鸿蒙 2024-12-26

Monorepo 项目实现子包的热更新

问题在 Monorepo 项目开发过程中，为了方便，我们一般都将当前仓库中的子包通过 workspace 的方式直接引用。但是子包对外的入口一般都是编译构建后的文件，我们用 workspace 方式

liub89 2024-12-26

浅谈鸿蒙应用 Http Axios 请求组件泛型封装，支持 UI 响应式更新

前言市面上找了一圈关于这个得文章，也看了官方的社区和给出的解决方案，都没讲清楚怎么优雅的实现 class 反射需求当前在开发的应用是基于鸿蒙 API 13，具体依赖如下。众所周知，Axios

yangyj 2024-12-26

纯前端使用 docx 和 html2canvas 库导出 Word 报告：从表格到图表的完整实现

作为一名前端开发工程师，搞事情是我的日常。今天的主题是：如何用 Ant Design 表格和 AntV/G2 图表实现一个 Word 文档导出功能！别急，听我慢慢道来，保证让你在 30 分钟内从菜

Surprisec 2024-12-26

同一个表格组件在不同的页面下展示不同列

1、需求背景展示一个任务详情页，这个页面有两个入口任务创建页点击详情进入；任务开发页点击详情进入。进入任务详情后，详情中展示子任务列表，子任务列表还要根据不同的页面来源（任务创建页还是任务开发

IcecreamH2o 2024-12-26

ArkTs进阶之保姆教程

1.通用属性 1.1多态样式属性：stateStyles() 参数描述 normal 组件无状态时的样式（默认状态） pressed 组件按下状态的样式 disabled 组件禁用状态的样式 fo

梁林烁 2024-12-26

Tauri 开源笔记(2) - 配合 Next.js + shadcn/ui 搭建项目

大家好，我是 codexu。从今天开始，我在撰写一个关于 Tauri 跨端开发的系列文章，分享我在开发笔记 APP 过程中所采用技术和遇到的问题。

codexu 2024-12-26

关于 Angular 应用错误日志 1 rules skipped due to selector errors

错误日志 1 rules skipped due to selector errors，可以翻译为“由于选择器错误，跳过了一条规则”。在 Angular 应用中，类似的日志通常与 CSS 选择器相关联

汪子熙 2024-12-26

Koa2 响应中间件：从基础到进阶的 API 处理方案

在这篇文章中，我们将一起深入探索 Koa2 的响应中间件。我们将从基础概念开始，逐步走向更复杂的应用，确保你能够构建出既一致又易于维护的 API。

surewinT 2024-12-26

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

React 标签页组件 Tab

HarmonyOS: 跨模块访问 HSP/HAR 包资源

Monorepo 项目实现子包的热更新

浅谈鸿蒙应用 Http Axios 请求组件泛型封装，支持 UI 响应式更新

纯前端使用 docx 和 html2canvas 库导出 Word 报告：从表格到图表的完整实现

同一个表格组件在不同的页面下展示不同列

ArkTs进阶之保姆教程

Tauri 开源笔记(2) - 配合 Next.js + shadcn/ui 搭建项目

关于 Angular 应用错误日志 1 rules skipped due to selector errors

Koa2 响应中间件：从基础到进阶的 API 处理方案

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响