当前位置:首页|资讯|AIGC

基础设施到生态平台的转型,中国电信的AIGC大模型生态之路

作者:IDC圈发布时间:2023-12-25

原标题:基础设施到生态平台的转型,中国电信的AIGC大模型生态之路

在人工智能时代,算力是推动技术创新和应用落地的核心驱动力。随着大模型的兴起,算力需求呈现爆发式增长,对算力资源的规模、性能、效率、安全等方面提出了更高的要求。中国电信作积极响应国家战略,将科技创新作为高质量发展的关键,不断提升算力网络自主创新能力和核心竞争力,构建了从基础设施到生态平台的全链条算力服务体系,为大模型的发展和应用提供了强大的支撑

算力基础设施是算力服务的基础和保障

中国电信拥有全国最大的算力网络,覆盖全国31个省市自治区,在京津冀、长三角、粤港澳大湾区、成渝等区域中心节点,边缘算力节点超过800个,为用户提供高效集约、超低时延分布式云服务,2023年上半年智算规模达到4.7EFLOPS;通用算力达到3.7EFLOPS,为大模型提供了稳定、高效、低成本的基础算力资源。

同时,中国电信还拥有全球最大的光纤网络,覆盖全球170多个国家和地区,为算力资源的传输和分发提供了高速、低延迟、高可靠的网络带宽。

此外,中国电信还积极探索算力网络的规划、布局和优化,结合“东数西算”的政策支持,利用西部地区的电费、能评、土地等成本优势,打造了全国最大的算力集群,为客户提供了更具竞争力的算力服务。

生态平台建设打造全栈式算力服务体系

中国电信不仅提供基础算力资源,还构建了完善的算力服务生态平台,包括算力云、算力网、算力平台等,为客户提供了从算力获取、算力管理、算力应用到算力价值的全流程服务。

算力云平台提供公有云、私有云、混合云等多种云服务模式,为客户提供了灵活、便捷、安全的算力资源池。

算力网网络平台提供算力传输、算力分发、算力调度等多种网络服务,为客户提供了高速、低延迟、高可靠的算力网络。

算力应用平台提供自研大模型和第三方合作大模型等多种模型服务,为客户提供了丰富、高效、智能的算力应用。

中国电信的算力服务生态平台已经在多个行业和领域得到了广泛的应用和验证,为客户提供了高质量的专业化解决方案,赋能了千行百业的数字化转型。

比如,中国电信为某头部互联网媒体客户提供了高性能芯片、数据中心、低延迟网络带宽等基础设施,为大模型算力、应用以及可持续发展提供保障。客户利用现有大模型厂商的预训练模型的能力,结合自身数据打造所需的推理模型,在此基础上增强媒体垂类功能,主要为媒体提供自动生成内容、自动生成图片等功能,在媒体的具体功能中体现为博文内容生成、明星伴聊、垂类标签生成,软文撰写等,提升用户使用的交互体验感。

该项目中国电信主要由上海分公司提供算力服务的裸资源交付,包括H800服务器、机柜等,并通过公网搭建VPN通道回源到客户在北京的核心节点,由客户侧自行搭建上层应用模型,这次合作是电信从IDC服务转型到算力服务的一次积极探索,对拥有大量自有数据的互联网客户具有一定的合作借鉴意义,同时,对于客户自建训练模型,也提出了新的方向,即落地资源省可与客户的核心节点不在同一地区,利用传输打通两个节点间的联通,从而帮助客户可以选择在有成本优势的地区落地算力节点。

用友是全球领先的企业数智化软件与服务提供商。2023年7月,用友发布业界首个企业服务大模型YonGPT,这是用友基于数字和智能技术服务企业和公共组织数智化的最新研发成果。YonGPT提供深入到客户业务前端的全价值链、全场景的泛在智能和群体智能应用,覆盖企业财务、人力和业务,是多领域融合化、多形态综合型的企业服务大模型。

与用友的合作中,电信主要由广东分公司提供算力服务的全栈式服务,包括算力资源、算力网络、算力平台等,并为用友提供了基于telechat的大模型技术支持,为用友的大模型应用提供了优化和提升。这次合作是电信从算力服务提供商转型到算力服务生态合作伙伴的一次重要尝试,对拥有大量行业客户的企业服务提供商具有一定的示范作用,同时,对于客户共建大模型实验室,也提出了新的模式,即通过合作伙伴的协同,实现大模型的共享和创新,为客户提供更多的算力价值。

灵活的服务模式满足不同场景客户需求

中国电信在算力服务方面,不仅提供了丰富的算力资源和算力应用,还提供了多种灵活的算力服务模式,满足不同场景和需求的客户。这些服务模式包括:

公有云资源池模式:客户可以通过算力云平台,按需获取和使用电信的公有云算力资源,享受灵活、便捷、安全的算力服务,只需按使用量付费,无需投入硬件成本,适用于算力需求较小或较不稳定的客户。

ICT集成模式:客户可以通过电信的ICT集成服务,将电信的算力资源和自有的IT资源进行集成,形成一个统一的算力环境,享受高性能、高可靠、高安全的算力服务,同时保留自有资源的控制权,适用于算力需求较大或较稳定的客户。

设备租赁与服务模式:客户可以通过电信的设备租赁与服务,将电信的算力设备租赁到客户的本地,享受专属、高效、低成本的算力服务,同时由电信提供设备的维护和管理,适用于算力需求较特殊或较敏感的客户。

移动算力服务模式:本地化需求的企业客户,可以通过电信设计并研发移动算力车和算力手提箱,解决训练数据不能出域的问题,为保护企业数据安全性。

中国电信根据客户的不同需求,提供不同模式的部署服务,为客户提供了更多的算力选择;同时,还为客户提供了大模型定制全流程服务,包括大模型的需求分析、方案设计、模型训练、模型优化、模型部署、模型运维等,为客户提供了多维度的算力支持;此外,还利用自有的大数据和行业的大数据,为大模型提供了海量的训练样本,提升大模型的性能和效果。

AIGC大模型生态之路的机遇与挑战

大模型可以广泛应用于各行各业,为数字化转型提供新的动力和价值。中国电信可以利用自身的网络优势,为大模型提供高速、低时延、高可靠的数据传输服务,为大模型提供高效、安全、可控的算力服务,为大模型提供丰富、多样、高质的数据服务,为大模型提供开放、协同、创新的生态服务,从而打造出具有竞争力的大模型产品和解决方案,满足不同行业和场景的需求,创造出更多的商业价值和社会效益。

中国电信在AIGC大模型生态建设的尝试与探索,将实现电信从基础设施到生态平台的转型,为大模型的发展和应用提供了强大的支撑;实现从算力服务提供商到算力服务生态合作伙伴的转型,为客户提供了丰富的算力价值。

同时,在转型和探索过程中,中国电信也面临着一些挑战和问题,如算力资源的分布不均、算力服务的标准不统一、算力服务的安全性和可信度等。中国电信将继续加强自身建设,提升算力服务的能力和水平,打造开放、共享、协同的算力生态,与各方共享算力红利,为构建数字中国、智慧社会贡献力量。

中国电信的AIGC大模型生态之路,是一条充满机遇和挑战的创新之路。中国电信将坚持以客户为中心,以技术为驱动,以创新为动力,以合作为基础,不断优化算力服务的产品和体验,不断拓展算力服务的领域和场景,不断提升算力服务的价值和效益,为客户创造更多的商业价值,为社会创造更多的社会价值。

| 文章来源:中国IDC圈

• END

IDC行业市场研究

部分一线城市市场增速下滑超9% 数据中心供需、价格将呈何种走向?

部分一线城市价格下跌10% 数据中心正发生哪些变化?

上架率近60%!未来三年中国IDC行业市场环境解析

【专栏】精品在读(点击进入)

选冷板还是浸没?

智算中心应该建到哪儿?

为什么2023年新建项目过半都是智能算力?


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1