做AI私有化大模型“卖水人” ，白海科技推出大模型集成开发工具 | 早期项目
作者 | 黄金琼
编辑 | 邓咏仪
AI大模型火热半年后，如今国内厂商已经逐步走到落地阶段，一轮“AI产业链”革新也随之开始。
AI大模型已经由于参数大、算力要求高，对基础设施的需求也水涨船高。如今，AI开发、训练、部署、运维等环节都在发生巨大变化，与AI相关的IT产业链——从底层的芯片、数据库、中间件，再到AI开发工具，近期都有不少创业项目浮出水面。
近期，AI工具服务商「白海科技」就推出一站式大模型微调工具平台IDP LM。IDP LM能够以低门槛、高效和可控的方式，来帮助用户构建垂直行业专属大模型。
白海科技是一家云原生AI基础软件平台服务商公司，成立于2021年，其主要定位是提供AI基础软件平台的产品及服务。白海科技的主要核心产品为IDP AI开发生产平台，能够利用灵活的插件式架构满足AI开发生产的流程需求。
如果说传统软件开发需要软件工程师写代码、进行调试、部署、运维等，都在专有的开发环境，如IDE当中——IDE就如同一个软件“工作台”，一套用来开发软件完整的工具。那么，当大模型时代来临后，AI大模型也需要一个专属的“工作台”，专门用于构建适用于企业的大模型。
而在国内市场里，如今私有化、行业化的大模型正在成为趋势——由于国内的央国企、大公司等在安全、合规、可控要求上更高，在软件采购中常采用私有化部署模式。AI大模型兴起后，在央国企中的部署也会遵循这样的模式。
白海科技近期推出的新产品IDP LM，正是为了这一需求而推出。
成立之初，白海科技就推出了IDP AI开发生产平台，而IDP LM是基于IDP Studio（云原生AI集成开发环境）和IDP Engine（高性能分布式计算引擎）之上推出的新品。通过提供大模型微调工具，IDP LM主要在训练数据、反馈回流数据、模型评估和推理服务商位客户提供服务，来将大模型应用到垂直细分行业中。
白海科技创始人卢亿雷对36氪表示，在产品路线上，IDP LM选择了较为产品化的路线，构建了一个低代码平台，将各种功能进行打包，用户只需要像乐高一样，将不同的功能组合起来，就能完成对AI模型的数据清洗、调用、建模、部署等。
“IDP LM不是只面向工程师，而是主要面向企业的业务人员，比如产品经理、业务分析师等提供服务。”卢亿雷表示，在AI大模型出来后，因为有很多开源的大模型，个人和企业在构建大模型时，总体成本是更低的，以后更重要的是如何应用大模型。但由于AI大模型是新生事物，是面试针对AI大模型的“工作台”其实数量很少，IDP LM的目标，即是填补这一个市场空白。
具体到实际功能，IDP LM在数据的处理、数据标注、数据审核和模型评估方面都提供了解决方案，用户能够用较少的代码一站式完成数据接入、标注、监督微调、反馈强化和模型发布等全流程，以此来进行建模、训练、评估。
IDP LM除了在将大模型微调流程训练工具化外，在数据的处理、数据标注、数据审核和模型评估方面也提供了易用的工具和经验证的高效方法。比如，在数据标注方面，白海提供适用于大模型场景的标注工具，如答案质量打分，答案补充，便捷高效的支持数据的标注和数据的训练应用。
除此之外，由于AI大模型对算力的密度和规模要求很高，在如今算力紧缺的情况下，白海科技也将提升算力作为一个卖点。作为专属可控大模型应用加速平台，IDP LM能够帮助企业快速微调构建自有个性化大模型，以提升算力资源利用率。
因此，IDP LM能够通过上述手段降低大模型微调应用的门槛和冷启动成本，帮助客户高效地部署私有AI大模型与业务场景。并且，IDP LM同时也提供自动化的反馈数据回流与应用让模型持续迭代。
当前，IDP LM已经于4月上线，目前已在交互式数字人、AI问诊等领域服务企业客户。卢亿雷表示，未来，白海科技会持续通过帮助客户落地私有化大模型，来进行IDP LM的商业化。
