AI的“瘦身”革命与绿色发展，智识学研社对话数珩科技董事长张继生

人工智能行业的发展，一直与能耗相伴，大量的算力需要海量的电力支持，众多大型科技公司纷纷布局能源公司。但在另一方面，降低能耗，提高效率也是科技公司的优先布局点，《知识分子》鉴于此方面的发展趋势，对话数珩科技创始人&董事长张继生。

降低AI应用能耗，转型服务绿色发展

在现有的业界讨论中，AI能耗问题的困难不仅在于信息不透明，还因为它的边界难以界定。就大模型和算法层面，AI在训练阶段比推理阶段的能耗更高。换句话说，现有的超高能耗不会成为未来AI应用的常态化。

对此，张继生先生说，随着技术的完善，日常使用AI推理的单次能耗有望下降。数珩科技作为一家领先的企业级AI解决方案服务商，一直致力于研究和应用两方面齐头并进，在自研训练大模型的基础上，开发和落地了诸多AI应用。同时为提高AI系统在特定场景中的性能、降低整体能耗，研发出了很多软硬件技术，包括模型压缩、剪枝、量化、异构计算芯片等。通过这些方式，数珩科技将AI大模型在客户实际使用中的耗能进行了有效的降低，为客户服务真实做到降本增效。

专属化AI应用，助力技术落地转化

张继生先生认为，当前AI行业存在一种趋势，即追求大规模、通用型的模型，这些模型参数量巨大，训练成本和能耗极高。然而，这种模式并不适合所有行业和企业，尤其是中小企业。他认为，根据不同行业需求，开发针对性强的小模型，不仅能够大幅降低训练成本和能耗，还能更精准地满足行业需求，实现AI价值的最大化。

数珩科技就在这一方面走在了前列，与OpenAI等公司开发的过千亿参数的大规模模型相比，数珩科技与客户紧密合作，深入了解客户需求，并据此开发出更符合实际需求、面向特定领域、参数量在20亿至50亿之间的小模型，这些小模型训练成本和时间都大大降低，同时还能更好地适应特定领域的使用场景。

张继生先生强调，AI的价值最大化需要通过与具体行业应用的深度融合来实现，而不仅仅是追求技术上的极致。实际上，数珩科技基于自研大模型开发的多款AI应用，已经在汽车、教育、快消和人力资源服务行业精准地满足用户需求，提供高效便捷服务。

最后，张继生先生表示，AI行业在追求技术进步的同时，也需要考虑其对环境的影响，寻找更高效、低碳的发展模式。通过开发小而美的模型，不仅能够降低能耗，还能更好地服务于行业需求，实现AI技术的可持续发展。数珩科技也将会持续研发技术和转化应用，以服务客户真实需求为第一位，助力更多客户实现数字化转型。