当前位置：首页|资讯|GPT-4|Claude

比标准Attention提速5-9倍，大模型都在用的FlashAttention v2来了

作者：机器之心发布时间：2023-07-31
GPT-4Claude

近来，几种长上下文语言模型陆续问世，包括 GPT-4（上下文长度为 32k）、MosaicML 的 MPT（上下文长度为 65k）Anthropic 的 Claude（上下文长度为 100k）。长文档...【查看原文】

相关资讯

Attention提速9倍！大模型都在用的FlashAttention

近来，几种长上下文语言模型陆续问世，包括 GPT-4（上下文长度为 32k）、MosaicML 的 MPT（上下文长度为 65k）Anthropic 的 Claude（上下文长度为 100k）。长文档查询和故事写作等新兴用例已经表明扩展语言模型上下文窗口是非常必要的。 然而，扩大 Transformer 的上下文长度是一个挑战，因为其核心的注意力层在时间复杂度和空间复杂度与输入序列长度的平方成正比。 一年前，来自斯坦福大学、纽约州立大学布法罗分校的研究者共同提出一种快速、内存高效的注意力算法 ——Flas

GPT-4Claude斯坦福

人工智能AI课程 2024-01-15

颜水成/程明明新作！Sora核心组件DiT训练提速10倍，Masked Diffusion Transformer V2开源

DiT作为效果惊艳的Sora的核心技术之一，利用Difffusion Transfomer 将生成模型扩展到更大的模型规模。

Sora

新智元 2024-03-18

Midjourney V5来了！实体版杂志也来了！

Midjourney V5已正式发布！快来看看多了哪些新特性可以体验！一、如何使用：1、后缀加入 --v 5 2、或直接输入 /settings ，选择 MJ version 5 即可settings界面二、新特性速览1、自动高清。现在输入 /imagine 生成的初始的4张图片，已经自动高清化。按钮“U1~U4”仅起到将这张图单独发给你的作用，无法再继续放大。现在，按下按钮“U1~U4”之后，高清图片会直接发给你，无需等待重新生成，也不会再额外消耗你的可使用次数。2、图片质量更高。V5生成的图片质量更高

Midjourney V5Midjourney

AI边缘 2023-03-17

Midjourney V1、V2、V3、V4、V5各版本区别详细介绍

Midjourney V1、V2、V3、V4、V5有什么区别？V1、V2、V3、V4、V5代表不同的版本，每个版本生成的图片在风格上有一些禅意如果使用相同的提示词，V1、V2、V3、V4、V5版本生成的结果如下：从上图中，你可以看到 这是Midjourney 不同版本的演变过程：生成的内容越来越详细和真实。V1 和 V2 本质上是涂鸦。在V2中，第四张图像中前景和背景的处理相当粗糙。在V3中，背景和视角变得更加合理，到了V4，已经处于可用状态。更高的分辨率。V1到V3图像为256 x 256，而在V5中，

Midjourney提示词

百万CCC 2023-10-19

Playground V2与SDSL风格效果对照

之前做了 Playground AI（Playground (playgroundai.com)）在线Stable Diffusion XL平台不同风格和第三方模型的效果比较：第一部分第二部分 第三部分12月，Playground AI推出了Playground V2，与之前的SDXL相比，仅保留了自带的若干风格，测试下来发现，效果有非常大的不同，故再次做了Playground V2与SDSL风格效果对照的测试，SDXL部分沿用了之前测试的第一部分，Playground V2部分用同样的Prompt：“a

Stable Diffusion XLStable Diffusion提示词

空了一格S 2023-12-17

近期资讯

梅州卷烟厂：以“特色化、差异化”助力“智能化、数字化”

“这个装置可以通过自锁式设计防止钢印脱落，还能自动检测运行过程中钢印是不是正确完整，有效降低质量事故的风险。”近日，梅州卷烟厂(以下简称“梅州厂”)自主研发的新型条盒钢印装置投入生产，卷接包车间高级技师、项目负责人彭宁介绍道。

金台资讯 2024-12-27

江苏利恒幕墙科技取得高效密封结构及内开窗专利，防止雨水顺着缝隙进入室内

金融界2024年12月27日消息，国家知识产权局信息显示，江苏利恒幕墙科技有限公司取得一项名为“一种高效密封结构及内开窗”的专利，授权公告号CN222207633U，申请日期为2024年4月。

金融界 2024-12-27

没有退路，就是胜利之路！2024，见证原生鸿蒙速度

2024年，我们见证了原生鸿蒙HarmonyOSNEXT走向成熟，原生鸿蒙应用生态用1年走完了友商十多年的路，创造了“鸿蒙速度”。年终之际，央视新闻发布微纪录片《没有退路就是胜利之路》，回顾了鸿蒙系统的发展历程，以及华为携手合作伙伴、开发者和消费者共建鸿蒙生态的故事。

砍柴网 2024-12-27

AI时代，媒体末路？

近日，资深媒体人OmMalik发表了一篇深度文章，他以对互联网和媒体多年的深刻洞察，毫不留情地揭示了传统媒体在数字化转型中的困境。Malik认为，传统媒体未能充分理解互联网和数字化的发展趋势，他们现在又在AI领域犯了同样的错误。

华尔街见闻 2024-12-27

一加 Open 2 折叠手机抢先看：10mm超薄机身、最高 16GB+1TB 组合

IT之家12月27日消息，科技媒体smartprix今天（12月27日）发布博文，分享了一加Open2（对应国内OPPOFindN5）的渲染图，并透露了这款折叠屏手机的关键规格参数。外观方面，一加Open2采用全新设计，机身更大，却比前代更薄，继续保留“奥利奥”圆形摄像头模组，内置哈苏认证的三摄系统。

IT之家 2024-12-27

身边云革新数字营销策略，助力游戏公司跨越营销鸿沟

据QuestMobile发布的《2024微信小程序年度报告》显示，2024年微信小程序用户达到9.49亿，其中，微信小游戏的用户使用时长占比高达36.4%。据权威数据显示，红包类营销活动占整体营销预算的比重日益增大，营销活动的高额管理成本也成为制约公司发展的沉重负担。

中国财富网 2024-12-27

全平台兼容 支持苹果ProRes录制，三星便携式USB-C闪存盘太全面了

另一方面，手机的拍照、录像功能也达到前所未有的进步，因而很多内容创作者都是以手机为主要设备拍摄素材。但是高清的影像对存储容量与性能的需求可以说是永无止境，所以不少用户还会再选择更便携、兼容性更好的USB-C闪存盘作为存储设备，而备受消费者青睐的三星便携式USB-C闪存盘系列已然成为首选。

IT168 2024-12-27

小米16可期！高通骁龙8 Elite 2曝光：GPU性能提升明显

快科技12月27日消息，博主数码闲聊站爆料，高通下一代旗舰平台骁龙8Elite2（型号为SM8850）产品节奏提前，理论上迭代新机的发布时间会再往前提。据悉，骁龙8Elite2GPU性能还会有明显提升，基于台积电N3P制程打造，这是台积电第三代3nm工艺。

快科技 2024-12-27

煤科院创新矸石处置技术 助力绿色开采与增产增效

中新网山西新闻12月26日电日，煤炭科学技术研究院有限公司(煤科院)在山西省晋城地区取得重大突破，其承建的崇安公司苏村煤业有限公司矸石充填及残留煤柱充填回收系统正式投入运行。

中国新闻网 2024-12-27

摄像头使用指南：轻松打开与常见问题解决技巧详解

当然可以！下面是一篇关于《摄像头怎么打开》的文章，希望你喜欢。在现代生活中，摄像头已经成为我们日常生活中不可或缺的一部分。无论是用来视频通话、在线学习，还是进行直播，摄像头的使用频率越来越高。但是，有时候我们可能会遇到一些小麻烦，比如摄像头怎么打开？别担心，今天就来聊聊这个话题。首先，打开摄像头的方式其实取决于你使用的设备。

新报观察 2024-12-27

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2026 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1