腾讯公布最新AI原生云产品：更快的云底座，更强的大模型｜甲子光年
已覆盖超400家互联网企业，服务超过12万家互联网客户。
作者｜王艺
大模型的光荣与梦想已经日渐远去，但市场对AI原生应用的呼唤还没有停止。
作为技术的基础架构，大模型并不创造直接收益，同时市场也难以承载过多的大模型产品。在很多专业人士看来，大模型最终的格局是市场最终有一两款大模型产品会成为主力产品和底层操作系统，其他模型则作为辅助零散地分布在长尾市场中。
与大模型不同，AI原生应用的热度关注度则常年居高不下。ChatGPT的月活一直在2亿左右徘徊，Perplexity、Character.ai等产品也常年保持着高增长。
AI时代呼唤AI原生应用，也对“AI原生云”提出了新的要求。如今，云+AI基础设施已成为企业智能化转型的关键支撑，生成式AI在带来生产力的提升和更加百花齐放应用的同时，也给云服务提出了更高的要求：一个能承载更广泛参与者、支持多模态、支持大规模模型训练和高效能集群调度、能进行全域数据检索和本地部署、降低开发门槛、具有内容质量控制和安全保障能力的云亟待出现。
9月6日，2024腾讯全球数字生态大会互联网AI应用专场正式举办。专场以“从数字化原住民，到智能化先锋派”为主题，SaaS、文娱、社交等赛道的先锋企业齐聚一堂，分享用云最佳实践，以及AI在影音、营销、电商、招聘等多个领域的创新应用经验。会上，腾讯云还公布了最新的AI原生云产品服务。
腾讯云副总裁许华彬在开场致辞中表示：“RAG结合企业自有知识，无需企业花费较多人力和算力，以及对大模型SFT精调，是当前企业级AI应用落地的成熟方案。近期来多行业场景的AI Agent蓬勃发展，面向Ｃ端的原生应用，以及B端企业级业务流程自动化，将成为后续应用落地的主要方式。云计算是夯实基础的重要底座，云原生技术助力企业实现敏捷开发，以新技术、新市场的创新，实现增长突破。”
腾讯云副总裁许华彬
1.以AI大模型为“基座”，驱动业务创新发展
随着大模型深入应用于各行各业，各行业对大模型的要求也更为精细。腾讯混元大模型算法负责人康战辉在演讲中提到，算力更强、效果更好、应用成本更低的大模型才符合当下需求。
相比前代模型，最新发布的旗舰大模型“混元Turbo”性能有显著提升，训练效率提升108%，推理效率提升100%，推理成本降低50%，解码速度提升20%，效果在多个基准测试上对标GPT-4o，第三方测评居国内第一。
混元Turbo大模型在SuperCLUE评测集的表现，图片来源：腾讯混元
除支持通用大模型能力外，腾讯混元Turbo也支持角色扮演、FunctionCall、代码生成和AI联网搜索等领域能力。目前，腾讯混元在腾讯云上提供了多种尺寸的模型服务，通过API、专属模型、精调模型等接入和使用方式面向企业及个人开发者全量开放。
腾讯机器学习平台总监、混元大模型算法负责人 康战辉
金蝶中国副总裁、研发平台总经理李帆介绍了金蝶Cosmic一体化企业级AI解决方案等与腾讯云的系列合作成果。基于腾讯混元大模型，金蝶招聘可实现5分钟招聘需求生产以及简历初筛，招聘效率提升90%。基于腾讯云TI平台，结合高性能计算集群与星脉网络，金蝶训练财务大模型效率提升30%。
金蝶中国副总裁、研发平台总经理李帆
在协同办公领域，腾讯文档AI负责人TONY TANG分享了腾讯文档AI在全品类文档生成、跨品类信息处理、一键式智能交互方面的优势。目前，基于腾讯混元大模型能力，腾讯文档AI智能助手已全面应用于文档、表格、幻灯片、PDF、智能文档、收集表、思维导图等文档类型，涵盖了文本内容秒级处理、函数公式运算应用、表格数据精准呈现、PPT快速生成美化、收集结果自动分析、思维导图一键生成等多项能力，并支持跨品类文档内容畅通流转。用户在腾讯文档电脑端或移动端，通过“一句话”的指令，即可开启AI融合后的智能办公和高效创作体验。
腾讯文档负责人 TONY TANG
2.挖掘云上增长新能力，解锁AIGC用云最佳实践
AI应用长久稳定运行，离不开云上基础设施的构建。建设好坚实的云基座，才能为AI应用提供更为广阔的能力上探空间。大会现场，多位AI应用的先锋实践者基于自身业务进展，分享了AIGC用云的意义。
在消费领域，值得买科技CTO王云峰分享了值得买科技1个“值得买消费大模型”，“商品库”和“内容库”2大数据库，AIUC分析引擎、AIGC生成引擎和AGENT调度引擎3个应用构建框架，以及提供针对性的AI解决方案的4类应用AI战略。
针对云基础设施，王云峰分享了值得买科技依托腾讯混元大模型等理解语音、视频、图像的多模态数据，以及自购算力+多云算力的模式。目前，值得买科技已可实现10亿+条商品库与近百亿条内容库的数据处理和迅速进行模型训练和推理部署，而通过腾讯云容器场景GPU虚拟化，什么值得买也实现了对单个GPU的更细粒度划分，大大提升了资源利用率减少资源和人力的消耗。
值得买科技CTO王云峰
燧原科技副总裁任树峰表示，通过腾讯云保障燧原的峰值算力供给，燧原验证、benchmark测试效率从2周准备环境缩短至30分钟，提升作业并发100%、缩短仿真周期30%。
燧原科技副总裁任树峰
在文娱领域，猫眼娱乐副总裁徐晓分享了基于腾讯云数据传输、数据存储安全方面能力打造的猫眼渲染平台的全程云端制作与渲染提升案例。依托腾讯云，猫眼娱乐的大数据平台，可实现日均3万+离线数仓调度任务稳定运行，核心任务执行效率提升20%。
猫眼娱乐副总裁徐晓
趣丸技术保障负责人刘亚丹分享了AI大模型赋能软件研发提质增效的实践。借助腾讯云提供的丰富能力，趣丸在代码Review、编码、测试等环节实现效率提升，在AI辅助编码方面，代码采纳率30%+；AI辅助代码Review方面，bug有效性60%+，AI辅助测试用例生成方面，测试用例行采纳率40%+，运维数字员工方面，问答解决率45%+。
趣丸技术保障负责人 刘亚丹
3.AI原生云平台助力企业快速部署AI应用
尽管基于AI大模型，更多AI应用得以迅速落地；但作为AI应用的底座，大模型对算力的需求正在呈指数级增长，数据集规模持续增大也对数据清洗甄别提出了更高的要求。同时，数据无偏见，图片、影像、音频是否安全合规，使用成本是否可控等，都是使用大模型时需要考虑的问题。
从AI应用落地面临的挑战出发，腾讯云行业架构副总监邱浩基于腾讯云AI全栈解决方案，从基础设施层、模型层、模型加速层、机器学习平台层、应用平台层和业务应用层阐述了腾讯云在计算、存储、网络，一站式AI开发平台腾讯云TI-ONE以及云原生产品等方面的能力，并给出了对应不同阶段AI应用开发的具体方案。
腾讯云行业架构副总监 邱浩
智谱企业商业技术中心总经理柴思远表示，腾讯云算力集群搭配自研的星脉网络，有效提升了多机并行训练速度。其中，星脉网络通过自研交换机和通讯协议，为每台GPU服务器提供3.2T的交互带宽，实现40us内的拥塞控制和0丢包，为大规模的训练集群提供可靠的网络保障。搭建星脉的算力集群较智谱原有算力集群，在13B和60B的模型下吞吐表现均大幅提升。此外，腾讯云为智谱AI提供高自愈能力的算力集群，全局监控，一站式掌握7*24小时运行状态，支持故障自动监测与恢复，保证任务连续进行，其中任务自愈时间从2小时缩短至5分钟，集群自愈时间从24小时缩短至10分钟。
智谱企业商业技术中心总经理柴思远
在大模型的助力下，AI应用已覆盖互联网多个行业，在业务高效创新上展现出了更强势的产品力。会上，面向招聘、营销、文娱等多方面的AI创新应用也悉数亮相。
在招聘方面，猎聘技术副总裁、AI中心负责人莫瑜表示，与腾讯云共同探索高度自动化的数字助理，针对不同职类主动挖掘招聘需求，简化工作流程，提升候选人寻访效率；自动化候选人面试环节，降低人才遴选成本。
猎聘技术副总裁、AI中心负责人 莫瑜
在营销领域，筷子科技CEO陈万峰展示了基于腾讯云的迁移工具MSP、腾讯云容器服务TKE和中间件、腾讯云高性能文件存储CFS Turbo，在数据迁移、弹性伸缩扩容应对高并发，文件存储以及上传下载对应解决方案，实现了AIGC一体化平台在编导、拍摄、剪辑、投放、管理方面工作流性能提升240%。
筷子科技CEO陈万峰
腾讯新闻内容治理中心负责人陆毅然表示，腾讯新闻与AI大模型结合后，提供评论识别的AI应用、新闻Push“AI编辑”、新闻“划重点”、AI助手“新闻妹”等能力。通过AI在新闻内容精选、编辑、评论治理等多个的运用，新闻类产品内容生产效率和用户体验同步提升。
腾讯新闻内容治理中心负责人 陆毅然
腾讯混元高级AI策略产品经理张汉策以《长相思 第二季》中的角色AI为例，介绍了腾讯元宝如何与影视IP进行深度结合。此次《长相思》角色AI基于腾讯自研混元大模型的能力，训练了专门的角色模型，深入地理解角色的核心特质，而不仅仅是模仿表面的说话风格，从而塑造出更具真实感的角色，激发用户参与和共创。同时，基于多轮对话能力，实现了持续、实时、个性化对话，并采用音色克隆的技术，高度还原角色原声，建立了与粉丝真实且长久的联结。目前，长相思AI角色对话总热度超3.7亿，“相柳” 单角色热度超2亿。
腾讯混元高级AI策略产品经理 张汉策
腾讯云拥有广泛的全球基础设施，覆盖21个地区，运营58个可用区，全球服务器数量超过100万台，全球加速节点超过3200个，带宽储备达到200Tbps。截至目前，腾讯云AI产品已覆盖超过400家互联网头部企业，累计服务超过12万家互联网客户。腾讯云表示，将继续秉承开放合作、创新发展的理念，不断深化AI技术的研发与应用，携手各界伙伴共同探索AI技术的无限可能，助力企业在变革中把握住机遇，破开创新增长新空间，打造第二增长曲线。
（封面图来源：腾讯云）
END.