探索大语言模型：理解Self Attention| 京东物流技术团队

作者：京东云开发者发布时间：2024-05-14

一、背景知识在ChatGPT引发全球关注之后，学习和运用大型语言模型迅速成为了热门趋势。作为程序员，我们不仅要理解其表象，更要探究其背后的原理。究竟是什么使得ChatGPT能够实现如此卓越的问答性能...【查看原文】

相关资讯

Self-Attention in Stable Diffusion

CVPR 2024 Towards Understanding Cross and Self-Attention in Stable Diffusion for Text-Guided Image Editing 和本人撞idea了属于是，这篇实验做得多笔记：https://fir-pufferfish-b8d.notion.site/Towards-Understanding-Cross-and-Self-Attention-in-Stable-Diffusion-for-Text-Guided-Im

Stable Diffusion

桃桃仁_ 2024-04-11

lulucas光 2023-04-28

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

20年内，极端天气将会迅速加强，2024年：地球6大临界点或难稳住

不得不说，这研究再次给人类发出了警告，那就是极端性的气候增强，将可能带来地球气候的重大转变，如果持续这种模式下去，未来人类的生存将可能面对困境，这究竟是怎么回事？极端天气将会迅速加强对于极端性的天气来说，不说远了，就说今年夏季，人类再次创造了历史。

环球科学猫 2024-09-15

佛山印发人工智能“三年计划”：打造3个大模型，育百强人工智能应用企业

近日，佛山市政府办公室印发了《加快推动人工智能赋能佛山制造行动方案》（下称《方案》），这是佛山市级层面出台的首个人工智能方案，提出要以人工智能和制造业深度融合为主线，以智能制造为主攻方向，以场景应用为牵引，将佛山打造成具有影响力的人工智能赋能制造业应用示范高地，构建年轻态、高技术现代化产业体系。

21世纪经济报道 2024-09-15

填补国际空白！清华大学发布突破性成果

近日，中国工程院院士、清华大学自动化系教授戴琼海团队，在国际权威期刊《细胞》发表最新科研成果——新一代介观活体显微仪器RUSH3D。据介绍，RUSH3D凭借跨空间和时间的多尺度成像能力，填补了国际上对哺乳动物介观尺度活体三维观测的空白，为揭示神经、肿瘤、免疫新现象和新机理提供了新的“杀手锏”。

中国经济网 2024-09-15

特斯拉4680电池第1亿颗下线全新突破

9月15日，特斯拉迎来了一个重要的里程碑时刻，其第1亿颗4680电池顺利下线。仅仅在三个月前，特斯拉宣布了第5000万颗4680电池的下线。作为特斯拉公司于2020年电池日活动中公布的最新电池技术，4680电池具有直径为46毫米、高度为80毫米的圆柱形设计。

中关村在线 2024-09-15

星空有约｜当中秋遇上“超级月亮”，会擦出怎样的火花？

“一年逢好夜，万里见明时。”每年中秋，赏月都是重头戏。天文科普专家表示，今年中秋是“十五的月亮十六圆”，还是一轮“超级月亮”。喜欢赏月的朋友可于中秋当晚和18日晚欣赏这轮大圆月亮。星空摄影师申然2023年9月29日（农历八月十五）在上海拍摄的中秋月，也是一轮“超级月亮”。

北青网 2024-09-15

宇宙中最大的星系居住在我们宇宙的超星系团“城市”中

自古至今，仰望星空的我们总会好奇，天上的星星是什么？随着技术的进步，天文学的研究从人工观察和手工计算，过渡到了依靠机器和人工智能进行数据分析。

来自星星的小胖子 2024-09-15

芭蕾舞剧《壮丽的云》在京上演

9月14日，演员在芭蕾舞剧《壮丽的云》中表演。当日，作为“大戏看北京”2024展演季演出剧目之一，大型原创芭蕾舞剧《壮丽的云》在北京天桥剧场上演。该剧由苏州芭蕾舞团演出，以“两弹一星”元勋的真实事迹为蓝本，再现了老一辈科学家在艰苦卓绝的环境中攻克重重难关，完成中国第一颗原子弹研制的故事。

光明网 2024-09-15

中秋节遇强台风，太保服务与风赛跑全力守护

今年第13号台风“贝碧嘉”正逐渐向我国东部沿海靠近，登陆时强度预计为台风级或强台风级，预计未来三天，上海、浙江、江苏等8省市将受到风雨影响。当前正值中秋出行高峰期，防汛防台形势严峻复杂。

金融界 2024-09-15

极氪副总裁辟谣：极氪001暂无CTB和三电机计划

鞭牛士9月15日消息，针对有网传消息称极氪001将改CTB、三电机一事，极氪智能科技副总裁赵春林辟谣称，极氪001到目前为止没有CTB和3电机计划。另外极氪001现款已经采用一体式轻量化压铸后底板，也采用了轻量化铝合金前轮罩技术。

鞭牛士 2024-09-15

热搜！iphone 16系列直降1200元？这款机型首批货源开售秒罄，沙漠金版本最抢手

9月14日，“iphone16pro预售遇冷”“iphone16系列最高直降1200元”的消息冲上热搜。记者在多个黄牛群中发现，多数黄牛主要争抢的是iPhone16pro和promax版本，此前群内回收手机的商家曾多次强调iPhone16可能面临“破发”（指二级市场价格跌破发售价）。

每日经济新闻 2024-09-15

探索大语言模型：理解Self Attention| 京东物流技术团队

推荐体验

相关资讯

Self-Attention in Stable Diffusion

【ChatGPT-应用篇】基于ChatGPT覆盖测试过程的初步探索 | 京东物流技术团队

长连接：ChatGPT流式响应背后的逻辑 | 京东物流技术团队

人工智能Transformer的火种源 : Self-Attention架构机制

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

20年内，极端天气将会迅速加强，2024年：地球6大临界点或难稳住

佛山印发人工智能“三年计划”：打造3个大模型，育百强人工智能应用企业

填补国际空白！清华大学发布突破性成果

特斯拉4680电池第1亿颗下线全新突破

星空有约｜当中秋遇上“超级月亮”，会擦出怎样的火花？

宇宙中最大的星系居住在我们宇宙的超星系团“城市”中

芭蕾舞剧《壮丽的云》在京上演

中秋节遇强台风，太保服务与风赛跑全力守护

极氪副总裁辟谣：极氪001暂无CTB和三电机计划

热搜！iphone 16系列直降1200元？这款机型首批货源开售秒罄，沙漠金版本最抢手

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响