腾讯研究院AI速递 20240719
生成式AI
一、 英伟达官宣全面开源GPU内核驱动，Blackwell将全用开源
1. 英伟达全面开源GPU内核驱动，历经两年迭代，增加新功能如异构内存管理和机密计算；
2. 开源驱动支持新旗舰平台如Grace Hopper和Blackwell，旧GPU如Maxwell继续使用专有驱动；
3. 开源社区通过阅读、逆向工程等方式改进驱动程序，NVK和Nova为新的用户空间和内核空间驱动解决方案。
https://mp.weixin.qq.com/s/VG9giQVRXwhcdpyCbVz0ig
二、 OpenAI“最后一篇”超级对齐论文发布：大小模型相互博弈
1. OpenAI通过让大模型与小模型相互博弈，提升了模型生成内容的可读性而不损失准确性；
2. 该研究模仿“证明者-验证者”博弈，通过多轮训练使模型在准确率与易读性之间达到平衡；
3. 训练结果显示，对模型输出的判断准确率和速度均有提升，验证器的鲁棒性也随之增强。
https://mp.weixin.qq.com/s/Lf-3WpAMreVoJJHl0zTZMA
三、 爆火AutoGPT进阶版来了：定制节点、多智能体协同
1. 下一代AutoGPT增强了构建、运行和共享AI智能体的便利性和可靠性，支持定制节点和多智能体协同工作；
2. 新系统引入SubGraphs简化复杂图表处理，提高了系统的灵活性和用户自定义能力；
3. 主要组件包括后端的AutoGPT Server和前端的AutoGPT Builder，支持通过“块”构建高度模块化的智能体功能。
https://mp.weixin.qq.com/s/dBL47yYoVNkyPoPG8pcLLA
四、 谷歌的Gemini，能够在Android设备锁定状态下回答提问
1. 谷歌升级了生成式AI助手Gemini，使其在Android设备锁定状态下能够回答各种提问；
2. 新功能允许用户在不解锁设备的情况下获得健康食谱、减肥套餐等问题的答案，并且触碰屏幕会触发解锁提示；
3. 用户在偏好设置页面中会发现新增的“Gemini在锁屏状态”选项，与现有的“Google Assistant锁屏状态”选项相辅相成。
https://mp.weixin.qq.com/s/yl16_TncelpilMr4oWk0ow
五、 Anthropic 联合 Menlo Ventures 成立 1 亿美元 AI 创业基金
1. Anthropic与Menlo Ventures成立1亿美元的Anthology Fund，投资种子前、种子期和A轮的AI初创公司；
2. Menlo Ventures从其13.5亿美元的投资基金中分拆出资金，并使用专有机器学习工具对申请进行评分和排名；
3. Anthology Fund向初创企业提供起价100,000美元的支票和价值25,000美元的信用额度以使用Anthropic的模型。
https://mp.weixin.qq.com/s/lMuWZNDketo0C6QmjUXtbA
六、 只激活3.8B参数，性能比肩同款7B模型！训练微调都能用
1. 微软亚洲研究院提出Q-Sparse方法，通过激活60%的参数实现与全激活模型相当的性能，显著降低推理成本；
2. Q-Sparse在神经元级别实现稀疏化，使用Top-K函数和直通估计器（STE）进行前向和反向传播，适用于从头训练、继续训练和微调；
3. 研究发现稀疏激活模型的性能缩放定律，最优稀疏率在全精度模型中约为45.58%，在低精度模型中约为61.25%。
https://mp.weixin.qq.com/s/hBC9TcYrHMGVG9VgogLqWw
七、 上海AI lab开源3.5万小时训练的LLaMAX，百种语言翻译
1. 上海AI Lab开源LLaMAX，通过3.5万小时的A100 GPU训练，掌握了100多种语言的翻译能力；
2. LLaMAX采用持续预训练和词表扩展策略优化，结合数据增强技术和平行语料处理策略，显著提升多语言翻译性能；
3. LLaMAX在Flores-101基准测试中表现优异，特别是在低资源语言翻译任务中，展示了强大的跨语言迁移能力和泛化能力。
https://mp.weixin.qq.com/s/_UcBD-aD9Aky30X05qqzbA
八、 AI教母李飞飞狂揽1亿投资，3个月干出10亿美元独角兽！
1. 李飞飞创立的World Labs在3个月内获得a16z和Radical Ventures等投资，估值超过10亿美元，并筹集了约1亿美元；
2. World Labs专注于空间智能，通过算法推断图像和文字在三维环境中的样子，并采取相应行动，提升机器对物理世界的理解和互动能力；
3. 李飞飞的创业旨在实现AI的常识推理能力，克服当前技术局限，推动AI从理论到实践的跨越，并强调AI的以人为本理念。
https://mp.weixin.qq.com/s/63t0H9TOLuIbbcPbI12cEQ
前沿科技
九、 基于Transformer的新方法，从纳米孔测序中预测DNA甲基化
1. 新加坡A*STAR开发了基于Transformer的深度学习算法Rockfish，通过纳米孔测序显著提高5-甲基胞嘧啶检测能力；
2. Rockfish使用原始纳米孔信号、核碱基序列和比对信息进行5mC修饰检测，在R9.4.1和R10.4.1数据集上表现优异；
3. Rockfish与全基因组亚硫酸盐测序高度相关，计算效率高，对富含CpG的启动子区域具有更高置信度，但无法区分5mC和5hmC甲基化。
https://mp.weixin.qq.com/s/Ygf6IOfJ_Sr6BXj_-g_coA
报告观点
十、 a16z对话Inngest创始人：AI 不是业务核心，而是辅助功能
1. Inngest专注于帮助开发者构建复杂事件驱动工作流，简化生成式AI工具的使用，提高开发效率和便捷性；
2. Tony Holdstock-Brown强调开源与建立可持续公司往往是对立的，Inngest通过轻量级SDK和流程控制等功能解决基础设施问题；
3. AI在Inngest中作为辅助功能，提高开发效率和决策能力，Tony认为AI应用于特定任务而非完全取代人类。
https://mp.weixin.qq.com/s/D7ZpXzjO9Ouez5o46z0Rdg
👇订阅下方合集，获取每日推送
