比Transformer更好，无Attention、MLPs的BERT、GPT反而更强了

作者：机器之心发布时间：2023-10-30

Stable Diffusion

从 BERT、GPT 和 Flan-T5 等语言模型到 SAM 和 Stable Diffusion 等图像模型，Transformer 正以锐不可当之势席卷这个世界，但人们也不禁会问：Transfo...【查看原文】

相关资讯

lulucas光 2023-04-28

BERT基础教程 Transformer大模型实战

链接：https://pan.baidu.com/s/11iG6hxx_nDADWbqLw4hm8g?pwd=29v6 提取码：29v6苏达哈尔桑.拉维昌迪兰（Sudharsan Ravichandiran）热爱开源社区的数据科学家，研究方向为深度学习和强化学习的实际应用，在自然语言处理和计算机视觉等领域都颇有建树，另著有《Python强化学习实战》。【译者简介】周参就职于谷歌，任软件工程师，研究方向为自然语言处理。工作之余的兴趣是研究人工智能领域机器学习方向以及新的模型算法，并将多种深度学习模型应用于实

百度谷歌人工智能深度学习

刘小六六不六 2023-04-14

FasterWhsiperGUI 更快更强更好用的 whisper

前一篇文章中曾经介绍过 OpenAI 的开源模型 whisper，可以执行 99 种语言的语音识别和文字转写。但是 whisper 模型占用计算资源多，命令行使用门槛高，所以还介绍了 whisper 模型的 c++ 实现：whisper.cpp 项目，以及该项目的 GUI 版本：whisperDesktop 。whisper.cpp 项目采用 c++ 语言以及 ggml 张量计算库对 whisper 模型进行了重新实现，whisperDesktop 则对whsiper.cpp 的成果进行了进一步利用

Whisper OpenAI

UAreGoing2nd 2023-07-27

近期资讯

TCL华星官宣供屏小米15系列：超窄四等边超越iPhone 16 Pro

快科技10月31日消息，小米15系列已经正式开售，今晚TCL华星发文宣布供屏小米15系列。值得一提的是，王化今天还发文确认，小米15是由TCL华星独家供屏，不会出现网络传言的混用情况。

快科技 2024-10-31

4499元起的一加13，当年的“旗舰杀手”回来了。

众所周知，在上次一加12的评测里，编辑们对于这部手机的评价很不错，认为它是那一批新机里，综合配置相当不错的水桶机，要什么有什么。但是到了今天，时代变了，因为在这个手机普遍涨价减配的年代，你很难再去激进地堆料，或多或少都要做出取舍。怎么样，这一波报菜名下来，再搭配4499元的炸裂起售价，大伙对一加13已经心中有数了吧？

差评XPIN 2024-11-01

神舟十九号丨中国航天太空“全家福”上新

据中国载人航天工程办公室消息，北京时间2024年10月30日12时51分，在轨执行任务的神舟十八号航天员乘组顺利打开“家门”，欢迎远道而来的神舟十九号航天员乘组入驻中国空间站，完成中国航天史上第5次“太空会师”。

央广网 2024-10-31

微星“MAG 255PXF”显示器开售：1080P 300Hz，1099 元

IT之家10月31日消息，微星“MAG255PXF”24.5英寸显示器现已在京东开售，这款显示器主打“1080P300Hz”，定价为1099元。

IT之家 2024-10-31

成都粤江泵业取得一种水泵泵壳塑形装置专利，可对泵壳进行有效冷却

金融界2024年10月31日消息，国家知识产权局信息显示，成都粤江泵业有限公司取得一项名为“一种水泵泵壳塑形装置”的专利，授权公告号CN221892436U，申请日期为2024年3月。专利摘要显示，本实用新型公开了一种水泵泵壳塑形装置，涉及泵壳塑形技术领域。

金融界 2024-10-31

自主研制，大国重器上新！

10月31日，由中国铁建重工集团、中铁十四局集团联合打造，最大开挖直径达16.64米的超大直径盾构机“江海号”在湖南长沙下线。这是由我国科研人员自主研制出的最大直径盾构机。下线后，它将应用于目前世界最长公路水下盾构隧道——海太长江的隧道施工。位于江苏的海太长江隧道具有超长距离、超大直径、超高水压、超大埋深、工况复杂等特点。

封面新闻 2024-10-31

中科信息：智能麻醉机器人已通过第三方产品检测

10月31日，中科信息在投资者活动记录表中称，智能麻醉机器人是公司从0~1自主研发的产品，可通过动态监测和调控基本生命功能实现术中麻醉智能化调控。现在是第一期产品，该产品已通过第三方产品检测，开始进入全过程质量体系认证，正在申请第三类医疗器械注册。

每日经济新闻 2024-10-31

4799元超强大路灯！小米米家立式学习灯Pro上市：灯下无手影

快科技10月31日消息，近几年，“大路灯”产品非常火爆，国际大品牌甚至能卖到上万元。此前小米推出过一款千元大路灯，如今又打造了一款升级版本——米家立式学习灯Pro。上光源配置540颗全光谱灯珠，上出光经天花板多重反射，提高桌面及空间照度，降低环境光与桌面学习光亮暗差异，减轻视觉疲劳。

驱动之家 2024-10-31

4499 元起！一加 13 发布

10月31日，一加13正式发布，起售价为4499元。一加13手机屏幕采用第二代京东方屏，支持太阳显示技术以及明眸2.0，屏幕大小为6.82英寸，3168*1440分辨率，居中挖孔全等深柔边直屏，支持1-120Hz刷新率，支持全亮度类DC调光、超声波屏下指纹，支持雨水触控2.0以及手套触控，晶盾超瓷玻璃盖板等。

简科技 2024-10-31

一“眼”千年 “天关”卫星在轨交付

10月31日，“天关”卫星（爱因斯坦探针卫星）正式在轨交付给中国科学院国家天文台等科学用户使用。中国“天关”，一“眼”千年。“天关”源于我国北宋司天监于公元1054年观测并记录的“天关客星”超新星爆发。“天关”卫星就是用于发现宇宙中的X射线暂现源和爆发天体，通过捕捉转瞬即逝的宇宙“焰火”，探索更多宇宙奥秘。

千龙网 2024-10-31

比Transformer更好，无Attention、MLPs的BERT、GPT反而更强了

推荐体验

相关资讯

TRANSFORMER, BERT, AND GPT：简介

ChatGPT｜Transformer模型｜Attention Is All You Need

人工智能Transformer的火种源 : Self-Attention架构机制

BERT基础教程 Transformer大模型实战

FasterWhsiperGUI 更快更强更好用的 whisper

近期资讯

TCL华星官宣供屏小米15系列：超窄四等边超越iPhone 16 Pro

4499元起的一加13，当年的“旗舰杀手”回来了。

神舟十九号丨中国航天太空“全家福”上新

微星“MAG 255PXF”显示器开售：1080P 300Hz，1099 元

成都粤江泵业取得一种水泵泵壳塑形装置专利，可对泵壳进行有效冷却

自主研制，大国重器上新！

中科信息：智能麻醉机器人已通过第三方产品检测

4799元超强大路灯！小米米家立式学习灯Pro上市：灯下无手影

4499 元起！一加 13 发布

一“眼”千年 “天关”卫星在轨交付

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响