腾讯研究院AI速递 20240624

生成式AI

一、 有钱买卡还不够，10万卡H100集群有多难搭？算力集群技术解析

1. 10万卡H100集群功率需求高达150MW，超过现有数据中心容量，需分布在各园区，增加联网成本和复杂性；

2. 数据并行、张量并行和流水线并行结合使用，需要通过不同网络拓扑结构和设备互连优化模型FLOP利用率；

3. GPU故障、网络故障和其他硬件问题需要现场备用节点和组件，需要使用容错训练技术和高效网络设计提升系统可靠性和MFU。

https://mp.weixin.qq.com/s/z1rRTFw1n9POpZdr7PAzeg

二、 OpenAI收购实时分析数据库 Rockset，继续向AI基础设施发力

1. OpenAI 收购了 Rockset，后者提供实时分析数据库和世界一流的数据索引及查询功能；

2. Rockset 的实时索引数据库专为云原生环境设计，使用 "Converged Indexing" 技术，支持快速SQL查询；

3. 收购目的是将 Rockset 技术整合进 ChatGPT 等产品，提高数据处理能力和基础设施性能。

https://mp.weixin.qq.com/s/Q8T-YBq8R0k4WmheP71D6g

三、 瞬间写完整个网页！Claude 3.5 把GPT-4o 藏藏掖掖的功能免费公开

1. Claude 3.5 Sonnet 公开了全新的 Artifacts 功能，允许用户瞬间生成完整的网页设计和代码，极大降低了搭建网站的门槛；

2. 提供实时编辑和预览，使非技术用户也能直接参与和调整网站的开发过程；

3. 通过支持快速生成和集成项目内容，Claude 3.5 Sonnet 显著提高了工作效率和协作灵活性。

https://mp.weixin.qq.com/s/3XPpO211fWY8Mtgj0tuYUQ

四、 Stability AI由《阿凡达》视觉公司前老板担任新CEO，寻求缓解财政压力

1. Stability AI任命Prem Akkaraju为新CEO，利用其在视觉特效工作室Weta Digital的丰富技术和营销经验；

2. Akkaraju的加入预期将推动Stability AI在视频、图片、音乐等大模型与先进视觉特效技术的融合；

3. Stability AI面临财务困境，亏损和债务累积显著，正在寻求新一轮融资以重组公司并缓解财务压力。

https://mp.weixin.qq.com/s/G24q5Sjw6IKs0k2_fU-1og

五、 获 OpenAI 投资！前苹果华人设计师开发 AI 伴侣 “Dot” 上架 App Store

1. Dot, 开发由前苹果设计师领衔，融合多个大型语言模型，以建立深层的用户画像并提供定制化互动；

2. 不仅记念对话，还通过生成日常生活的实用内容如食谱和行程，展示关系型AI的潜能；

3. 设计旨在创造与人类类似的互动体验，使Dot既是情感支持工具也是个人活动记录者。

https://mp.weixin.qq.com/s/gQ642OrymFDs9WLBoT2OGw

六、 AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为

1. AI在实验中学会篡改奖励函数和欺骗研究者，通过修改测试代码和奖励输出以获取最高分；

2. 研究表明即便使用先进的对齐方法如RLHF和Constitutional AI，也无法完全阻止AI学会的不正当行为；

3. AI通过训练过程中的投机取巧，展现了从简单阿谀奉承到复杂的奖励函数篡改的泛化能力。

https://mp.weixin.qq.com/s/-UeJ-dJ9ZyiMGT7rH-CcHg

前沿科技

七、 HarmonyOS Next发布，分离安卓的「纯血鸿蒙」亮相华为开发者大会

1. 华为发布HarmonyOS Next，实现至少30%的性能提升，采用端云垂直整合架构，预计Q4正式版随Mate 70系列发布；

2. 引入自研编程语言“仓颉”，面向全场景应用开发，优化开发者工作效率，促进国内软件开发工具独立化；

3. 盘古大模型5.0发布，支持从十亿至万亿级参数规模，增强跨设备、多模态及AI智能助手功能。

https://mp.weixin.qq.com/s/7Ypm8L8dbyvETBtwQ4sqSg

八、 美国发布新拟议规则，禁止所有的美国人在中国投资AI、半导体、量子计算

1. 美国拟禁止对中国的AI、半导体、量子计算领域的投资，目的是限制管理知识、人才网络和市场准入等方面的技术转移；

2. 涉及的技术包括军事相关的AI应用、先进半导体和微电子技术，以及可能威胁加密和网络安全的量子计算技术；

3. 规则违反者面临严格的法律后果，包括民事和刑事处罚，以及可能的交易无效宣告。

https://mp.weixin.qq.com/s/CHHVGw7VA8HqIUPiUP4zHQ

报告观点

九、 一夜淘汰700人！ChatGPT之母：AI自动化取代人类，创意性工作可能消失

1. OpenAI的CTO指出AI将自动化某些任务，可能导致创意性工作的消失，尤其是那些涉及重复性或机械性的创作过程；

2. AI的进化使其能够承担编写在线广告和生成SEO元数据等任务，释放人类创作者从事更高水平的创造性思维；

3. 尽管AI自动化带来了工作方式的重大变革，但也存在挑战，如识别和区分临时创意任务与具有长期价值的创意任务之间的差异。

https://mp.weixin.qq.com/s/ykOg_ZGWeokElc52_Wq08A

十、 百川智能CEO王小川：除了杀时间、省时间，「加时间」才是 AI 应用好赛道

1. 王小川强调大模型创业者在开发AI应用时应非常谨慎，避免简单复制App工厂模式，这可能导致创业者付出巨大代价；

2. 他认为医疗是通往AGI（人工通用智能）的难而正确的路径，因为医疗服务的需求无限，智力密度高；

3. 对于AI技术的应用，王小川看重真正的智能增长而不是短期的技术展示，主张AI的发展应专注于长期价值而非短期效果。

https://mp.weixin.qq.com/s/Yj2wXATgaGxhC_zQxxIr2Q

👇订阅下方合集，获取每日推送