关键字: [亚马逊云科技中国峰会2024, 生成式AI应用, 出海企业云选择, 云服务扩展性, 微服务容器化改造, 计算资源成本优化]
本文字数: 2000, 阅读完需: 10 分钟
在2024亚马逊云科技中国峰会上,大宇无限的技术副总裁李睿和AI科学家赖坤锋分享了如何借助亚马逊云科技的产品和服务,为出海企业提供稳定、安全、合规的高品质服务。他们介绍了大宇无限与亚马逊云科技合作的三个主要方面:面向终端用户的ToC场景、大数据服务以及ToC/ToB广告和AI创新应用。他们还分享了在出海过程中的经验教训,如何通过微服务化、容器化、Spot实例等优化架构和降低成本,以及如何利用亚马逊云科技的安全合规服务。此外,他们重点讨论了在生成式AI浪潮下,大宇无限如何借助亚马逊云科技的产品和服务,在图像生成和增强等AI应用中实现高质量、高性价比的解决方案。
以下是小编为您整理的本次演讲的精华,共1700字,阅读时间大约是8分钟。
2024年,在亚马逊云科技中国峰会的一场主题为”在生成式AI浪潮下,出海企业如何选对云、用好云”的对话环节中,虎嗅网的王一鹏邀请到了大宇无限公司的技术副总裁李睿和AI科学家赖坤锋作为嘉宾。
李睿首先介绍了大宇无限与亚马逊云科技的合作情况。他表示,两家公司的合作建立在共同的愿景之上,那就是创新、可靠和安全。亚马逊云科技为大宇无限提供了全球高可用的技术设施、先进的安全服务以及合规标准,助力大宇无限在海外做好业务。李睿具体阐述了合作的三个主要方面:首先是面向终端用户的ToC场景,大宇无限每月需要为超过2亿用户提供服务,每秒服务请求量高达数十万次;其次是提供大数据服务,由于拥有海量用户,每天需要处理的数据量超过数百亿级别;第三方面是基于前两者,开展了ToC/ToB广告服务和AI创新应用,使用了算法服务。
李睿特别强调,亚马逊云科技的对象存储服务切合了他们在上述三个关键点的需求。对象存储服务是亚马逊云科技最早对内对外发布的一项服务,在使用过程中,大宇无限受益于它能够获得广泛的工具支持,无论是在亚马逊云科技产品矩阵内还是社区生态,都提供了良好的扩展性,让他们能够专注于业务创新。
接下来,李睿分享了大宇无限对于出海市场的看法。他认为,全球化趋势和数字经济的发展为企业带来了更广阔的市场空间,中国企业在创新和技术方面拥有强大的竞争力,在全球市场上占据一席之地。与亚马逊云科技的合作对于像大宇无限这样的创新型小公司来说受益良多,他分享了两个具体例子:
第一个例子是在快速部署和扩展过程中的好处。随着互联网在当地的发展,用户需求也在不断变化,对产品创新和技术创新提出了更高要求。大宇无限识别了用户的不同需求,从最初的工具型产品,逐步转向音视频娱乐应用,再到现在的创新型AI应用,技术需求不断迭代。亚马逊云科技提供的产品和服务能够整合社区能力,提供较高的扩展性,让大宇无限有限的人力资源可以投入到产品和技术创新上。
第二个例子是在敏捷管理和自动化运维方面的好处。由于大宇无限的产品用户规模非常高,每月服务超过2亿用户,每天需要处理数百亿级别的数据量,相当于国内像微博、小红书这样的产品服务量级,但作为创业小公司,没有那么庞大的技术团队。在这种情况下,与亚马逊云科技合作带来了有效帮助,使用其提供的一系列基础设施服务,实现了持续降本增效,让有限的资源可以投入到产品和技术创新上。从音视频到AI的应用,都是服务器压力较大的领域,亚马逊云科技的服务发挥了重要作用。
李睿还分享了一些经验教训。大宇无限成立之初就开始做出海业务,当时就使用了云服务,没有经历过IDC时代,可以说是一家云上原生的公司,并且当时就与亚马逊云科技开始合作。但最初他们没有充分利用云服务带来的便利,服务是大单体结构,基于虚拟机部署,业务逻辑耦合在一起,产品迭代发布和故障率较高。2017-2018年,借助亚马逊云科技的ECS和EKS服务,他们对服务进行了微服务化和容器化改造,将原本耦合的复杂业务逻辑解耦,使研发效率提高了50倍,故障时间相比前一阶段降低了70%。
在快速发展的第二阶段,成本成为了一个问题。前一阶段的容器化和微服务化为第二阶段的Spot化做了基础。亚马逊云科技除了传统的计算实例售卖方式,还提供了Spot模式,有效帮助大宇无限节省成本。在这个过程中,大宇无限实现了Spot实例在整体算力占比中占到90%的状况,最终计算成本降低了50%。
作为一家做出海业务的公司,大宇无限面对不同国家和市场,在安全合规方面会有更多更复杂的挑战。在这一方面,亚马逊云科技无论是从产品服务层还是解决方案层,都提供了大量帮助,让大宇无限可以将更多资源投入到自身产品和技术创新上,而不必过多关注合规问题。不同地区的合规要求差异很大,找一个好的合作伙伴对于出海企业来说是一个非常重要的方法。
在对话的后半部分,赖坤锋补充说,生成式AI为中国企业出海带来了新的机遇。在生成式AI之前,AI主要是理解型的,如搜索推荐系统、电商系统等,大家已经非常熟悉。但生成式AI开拓了更广阔的领域,比如对话式生成产品、认知智能工具等层出不穷。与过去的理解型AI不同,认知智能AI能够主动理解内容、图片、视频、文字等,会有新的能力涌现,给生活各方面带来巨大变化,在C端应用上也拥有广阔的想象空间。
赖坤锋以大宇无限的皮卡AI产品为例,阐述了在人像生成领域的实践经验。皮卡AI的口号是”创造更美的用户个人形象”。首要挑战是提高生成图像与用户的相似度,这是一个非常困难的问题。大宇无限从技术上进行了大量投入,包括在生成的不同阶段采用逐步对齐的方式,对齐用户的脸型、发型、眼镜、着装等细节特征,最终能够达到0.65以上的相似度,在行业内处于领先水平。
另一个挑战是提高生成图像的质量。用户上传的个人形象照参差不齐,大宇无限会进行图像增强操作,并在最终生成的照片中,使用自身独到的技术对衣着、发型、发饰等进行增强,以达到较高的精度,使图片的光照、皮肤纹理质感、头发质感等效果自然。
在成本方面,赖坤锋表示,Stable Diffusion等大模型的使用成本非常高。为了节省成本,大宇无限借助了亚马逊云科技提供的按需和Spot实例,采用混搭方式部署,成本降低了50%以上。此外,还利用了亚马逊云科技的弹性伸缩能力来部署Stable Diffusion相关服务,进一步降低了成本。
在模型训练方面,大模型的机器和样本成本都非常高昂,对于大宇无限这样的小公司来说,每次都进行全量训练收集大量样本是不现实的。他们采用了一种方法,即针对真人风格进行全模型训练,而对于其他风格如皮克斯风格、领土人风格等,则在真人风格模型的基础上叠加小的插件调整,只需使用全量训练1/10甚至1/20的样本就能实现目标效果。这种方式大幅降低了训练时间和训练成本。
在图像增强领域,大宇无限开发了自身的技术,能够对整张图片进行增强,不仅包括脸部,还包括衣着、背景等,使图片达到真实和美化相结合的程度。
最后,赖坤锋分享了选择亚马逊云科技的原因和效果。第一,亚马逊云科技提供了行业标准的Stable Diffusion WebUI API和ControlNet UI API,能够让复杂的业务流程快速部署上线,起到关键作用。第二,混合使用按需和Spot实例,可以降低50%左右的成本。第三,未来将结合使用Inferentia芯片和GPU,将稳定的工作负载放在Inferentia上,将研究中的ControlNet放在GPU上,从而在降本增效的同时保持开发灵活性。
通过本次对话,我们深入了解了在生成式AI浪潮下,出海企业如何借助云计算能力选择合适的云服务商,用好云服务实现创新、降本增效。大宇无限公司作为亚马逊云科技的重要合作伙伴,分享了宝贵的实践经验,为我们呈现了一个生动的案例。
下面是一些演讲现场的精彩瞬间:
亚马逊云科技中国峰会2024上,演讲者与两位嘉宾探讨了在生成式AI浪潮下,出海企业如何选择和利用云计算技术。
亚马逊云科技为快速部署和扩展提供了强大支持,助力产品和技术不断创新,满足用户日益变化的需求。
亚马逊云科技助力创业公司通过敏捷管理和自动化运维实现降本增效,将有限资源投入产品和技术创新。
借助亚马逊云科技的ECS和EKS服务,公司进行了微服务化和容器化改造,大幅提高了研发效率和降低故障率。
亚马逊云科技通过提供按需机器设备和弹性伸缩服务,帮助客户降低了50%以上的成本
稳定扩散未来公司期望与亚马逊云科技进一步合作,利用其芯片和GPU的优势,实现灵活开发和降本增效的双重目标。
在生成式AI浪潮下,大宇无限与亚马逊云科技携手为终端用户提供稳定、安全、合规的高品质服务。他们的合作主要体现在三个方面:面向终端用户的ToC场景、大数据服务以及ToC/ToB广告和AI创新应用。亚马逊云科技的对象存储服务为大宇无限带来广泛的工具支持和扩展性,使其专注于业务创新。
大宇无限通过与亚马逊云科技合作,实现了快速部署和扩展、敏捷管理和自动化运维,降低了成本。他们利用亚马逊云科技的基础设施服务和解决方案,满足了不同地区的合规要求,将有限资源投入到产品和技术创新中。在生成式AI领域,大宇无限开发了皮卡AI产品,通过与亚马逊云科技合作,降低了成本并提高了效率。
大宇无限认为,与亚马逊云科技的合作为其带来了行业标准的API、混合部署方式以及未来芯片层面的合作机会,助力其业务快速上线、降低成本并保持灵活开发能力。总的来说,亚马逊云科技为大宇无限提供了稳定、安全、合规的基础设施和服务,支持其业务创新和全球化发展。