颜水成/程明明新作！Sora核心组件DiT训练提速10倍，Masked Diffusion Transformer V2开源

作者：新智元发布时间：2024-03-18

Sora

DiT作为效果惊艳的Sora的核心技术之一，利用Difffusion Transfomer 将生成模型扩展到更大的模型规模。...【查看原文】

相关资讯

深度学习笔记——DiT（Diffusion Transformer）

本文详细介绍Transformer架构图像生成方面的应用，将Diffusion和Transformer结合起来的模型：DiT。目前DiT已经成为了AIGC时代的新宠儿，视频和图像生成不可缺少的一部分。

深度学习 AIGC

好评笔记 2024-12-21

【文生图系列】 Stable Diffusion v2复现教程

Stable Diffusion v2 基础环境承接Stable Diffusion v1,需要更新pytorch版本，使用xformers能有效缓解GPU内存不足的问题。

Stable Diffusion

鹤宁 2023-06-16

比标准Attention提速5-9倍，大模型都在用的FlashAttention v2来了

近来，几种长上下文语言模型陆续问世，包括 GPT-4（上下文长度为 32k）、MosaicML 的 MPT（上下文长度为 65k）Anthropic 的 Claude（上下文长度为 100k）。长文档

GPT-4 Claude

机器之心 2023-07-31

AIGC: MaskGIT (Masked Generative Image Transformer) 笔记

论文详情MaskGIT: Masked Generative Image TransformerHuiwen Chang, Han Zhang, Lu Jiang, Ce Liu, William T. Freeman官方的 Colab Demo: https://colab.research.google.com/github/google-research/maskgit/blob/main/MaskGIT_demo.ipynbImageGPT 工作机制先简单介绍一下 ImageGPT (Genera

AIGC 谷歌 GitHub

刹那-Ksana- 2023-06-27

北大字节开辟图像生成新范式！超越Sora核心组件DiT，不再预测下一个token

北大和字节联手搞了个大的：提出图像生成新范式，从预测下一个 token 变成预测下一级分辨率，效果超越 Sora 核心组件 Diffusion Transformer（DiT）。并且代码开源，短短

北大 Sora 编程

量子位 2024-04-16

近期资讯

巴基斯坦M762自动武器基于AK系列现代化改进型能安装瞄准镜

武器科技 2024-12-31

076四川舰正式出坞！美国称为“怪物两栖攻击舰”到底有多厉害？

科技老房 2024-12-31

国外军事博主开始给中国六代机找毛病

黑科技老黄 2024-12-31

竞争惨烈！汽车行业要变天：1月将爆发价格战

24年最后一周新势力销量出炉，各家车企均迎来小幅爆发。12月31日，理想汽车发布24年第52周中国市场新势力品牌销量，其中理想依然以1.34万辆稳居本周榜单TOP1，展现出了企业惊人的市场观察力和

2024-12-31

AI赋能，业财融合的深度创新与管理升级

36氪 2024-12-31

“物流出海三剑客”，拉动南美配送数字化

钛媒体APP 2024-12-31

上海“网事”的四个时代勇敢者先拥有世界速度

IT时报 2024-12-31

《IT时报》2024年度“数字上海十大场景”以及各单项奖正式揭晓

IT时报 2024-12-31

全国首家全高帧 LED 影院“华夏电影中心”在北京正式落成

IT之家 2024-12-31

致命细胞因子风暴，背后机制公开

陈根谈科技 2024-12-31

颜水成/程明明新作！Sora核心组件DiT训练提速10倍，Masked Diffusion Transformer V2开源

推荐体验

相关资讯

深度学习笔记——DiT（Diffusion Transformer）

【文生图系列】 Stable Diffusion v2复现教程

比标准Attention提速5-9倍，大模型都在用的FlashAttention v2来了

AIGC: MaskGIT (Masked Generative Image Transformer) 笔记

北大字节开辟图像生成新范式！超越Sora核心组件DiT，不再预测下一个token

近期资讯

巴基斯坦M762自动武器基于AK系列现代化改进型能安装瞄准镜

076四川舰正式出坞！美国称为“怪物两栖攻击舰”到底有多厉害？

国外军事博主开始给中国六代机找毛病

竞争惨烈！汽车行业要变天：1月将爆发价格战

AI赋能，业财融合的深度创新与管理升级

“物流出海三剑客”，拉动南美配送数字化

上海“网事”的四个时代勇敢者先拥有世界速度

《IT时报》2024年度“数字上海十大场景”以及各单项奖正式揭晓

全国首家全高帧 LED 影院“华夏电影中心”在北京正式落成

致命细胞因子风暴，背后机制公开

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响