比Transformer更好，无Attention、MLPs的BERT、GPT反而更强了

作者：机器之心发布时间：2023-10-30

Stable Diffusion

从 BERT、GPT 和 Flan-T5 等语言模型到 SAM 和 Stable Diffusion 等图像模型，Transformer 正以锐不可当之势席卷这个世界，但人们也不禁会问：Transfo...【查看原文】

相关资讯

lulucas光 2023-04-28

FasterWhsiperGUI 更快更强更好用的 whisper

前一篇文章中曾经介绍过 OpenAI 的开源模型 whisper，可以执行 99 种语言的语音识别和文字转写。但是 whisper 模型占用计算资源多，命令行使用门槛高，所以还介绍了 whisper 模型的 c++ 实现：whisper.cpp 项目，以及该项目的 GUI 版本：whisperDesktop 。whisper.cpp 项目采用 c++ 语言以及 ggml 张量计算库对 whisper 模型进行了重新实现，whisperDesktop 则对whsiper.cpp 的成果进行了进一步利用

Whisper OpenAI

UAreGoing2nd 2023-07-27

近期资讯

时速400公里！全球最快高铁列车亮相

据新华社电记者从中国国家铁路集团有限公司获悉，12月29日，CR450动车组样车在北京发布，这标志着“CR450科技创新工程”取得重大突破，将极大提升我国铁路科技创新水平和科技自立自强能力，进一步巩固扩大我国高铁技术世界领跑优势。据介绍，CR450动车组样车运营速度、运行能耗、车内噪声、制动距离等主要指标国际领先。

新华日报 2024-12-30

广东率先开启“AI农业”全面探索

科技兴农是推动农业现代化、保障国家粮食安全的重要战略，正日益成为各行各业关注的焦点。与此同时，农业领域的科技创新比赛的影响力也在最近几年间逐渐彰显，通过以赛促研的方式，激发了农业领域的创新活力，培养更多掌握“新农具”的新农人，共同推动农业高质量发展。

羊城晚报 2024-12-30

做传统采矿行业的变革者（这些豫企相当潮）

跃薪公司做了哪些努力，是如何让企业在5G时代勇立“潮”头的？张帅：未来，公司将不断开拓新领域、研发新产品，落实国家对无人智慧矿山的发展要求，一如既往地创新发展。未来，我们将努力把业务从矿山承包领域拓展到对外销售，从国内矿区走向国际矿区，让传统采矿行业共享绿色智慧时代成果。

河南日报 2024-12-30

AI“教父”辛顿：AI在三十年内灭绝人类概率达10%到20%；科学家利用现有光缆实现量子隐形传态丨全球科技早参

近日，诺贝尔物理学奖获得者，AI教父辛顿表示，AI在未来三十年内导致人类灭亡的概率有10%到20%，并警告该技术的变化速度“比预期快得多”。

每日经济新闻 2024-12-30

科济药业-B(02171.HK)：舒瑞基奥仑赛注射液用于治疗晚期胃╱食管胃结合部腺癌的中国关键II期临床试验取得初步阳性结果

科济药业-B(02171.HK)公布，关键II期临床试验CT041-ST-01(NCT04581473)已取得阳性结果。

金融界 2024-12-30

从“书架”走上“生产线” 高校科研成果如何落地生“金”？

“盾构机”是隧道挖掘的关键设备，曾被国外垄断多年，每台的美元售价曾达到以“亿”为单位计算的级别。在2024中国高校科技成果交易会上，2700余项科技成果集中亮相，它们是由200多所高校精心挑选的较具转化应用价值的项目，吸引了2700多家企业参会。

极目新闻 2024-12-30

华为Pura 80 Art有望回归，旗舰手机设计标杆

近日有博主暗示，华为Pura80Art有望回归，定位跟非凡大师系列类似。资料显示，华为2023年3月推出了P60Art，该机凭借独具一格的设计引发行业关注。从博主爆料来看，Pura80系列有可能会新增Art版，该机的影像、工业设计都值得期待。

中关村在线 2024-12-30

在三亚入列的“探索三号”，有啥来头？

12月29日，中国首艘设计拥有完全自主知识产权的“深远海多功能科学考察及文物考古船——探索三号”正式在三亚入列，这艘能考古、能深潜，甚至还能破冰的科考船，是我国首艘具有覆盖全球深远海探测并具备冰区载人深潜支持能力的综合科考船。它可在相对较小的推进功率下达到破1.2米厚冰+0.2米厚雪的能力，双向破冰的技能，简直就是极地水域的“开路先锋”。

光明网 2024-12-30

一座实验室的向“新”修行

因地制宜发展新质生产力的热潮正在云岭大地涌动。春城昆明，一座绿色实验室矗立在科医路上，它是由贝泰妮集团牵头建设，云南大学、云南农业大学、云南药物所共同参建的云南实验室，根植科研，承于自然，见证植物科学智慧涌动。这里就是云南特色植物提取实验室。12月30日，云南特色植物提取实验室正式建成落地，云南省可持续创新发展再启新章。

南方都市报 2024-12-30

微星推出“325CQRXF”32 英寸显示器，搭 2K 280Hz Rapid VA 面板

IT之家12月30日消息，微星现已在海外推出一款型号为“325CQRXF”的32英寸显示器，这款显示器主打“2K280Hz”，相对于之前的“MAG325CQRXFE2”主要将分辨率从240Hz提升到280Hz。

IT之家 2024-12-30

比Transformer更好，无Attention、MLPs的BERT、GPT反而更强了

推荐体验

相关资讯

TRANSFORMER, BERT, AND GPT：简介

ChatGPT｜Transformer模型｜Attention Is All You Need

BERT基础教程 Transformer大模型实战

人工智能Transformer的火种源 : Self-Attention架构机制

FasterWhsiperGUI 更快更强更好用的 whisper

近期资讯

时速400公里！全球最快高铁列车亮相

广东率先开启“AI农业”全面探索

做传统采矿行业的变革者（这些豫企相当潮）

AI“教父”辛顿：AI在三十年内灭绝人类概率达10%到20%；科学家利用现有光缆实现量子隐形传态丨全球科技早参

科济药业-B(02171.HK)：舒瑞基奥仑赛注射液用于治疗晚期胃╱食管胃结合部腺癌的中国关键II期临床试验取得初步阳性结果

从“书架”走上“生产线” 高校科研成果如何落地生“金”？

华为Pura 80 Art有望回归，旗舰手机设计标杆

在三亚入列的“探索三号”，有啥来头？

一座实验室的向“新”修行

微星推出“325CQRXF”32 英寸显示器，搭 2K 280Hz Rapid VA 面板

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响