大模型是走通用路线还是专业路线？目前有三种声音，开始站队了

过去一段时间一直在写大模型技术原理和应用的内容，今天换换脑子，从技术原理切换到商业视角，正好最近看了腾讯深度访谈对朱啸虎，杨植麟和王小川关于大模型的访谈文章。

这三个人的观点也代表了目前国内对大模型的三种主流声音。

朱啸虎的市场信仰派

作为金沙江创投主管合伙人，朱啸虎认为，中国科技界在大模型问题上存在分歧，一方是技术信仰派，另一方是市场信仰派。他本人属于市场信仰派，看好专用大模型在垂类领域的应用，作为商人更关心大模型在2B市场上的变现能力。

AIGC时代的到来是时代产物。

在朱啸虎的访谈中，他反复强调自己的成功完全是因为移动互联网时代的红利。这番话难免有谦逊的含义，但通过他的谈话让我对时代的更迭有了更深刻的理解。尽管我们很多人亲历了整个移动互联网时代，但我们并没有抓住这个时代赋予的机会，从个人PC到移动终端，从2G到5G，抓住机遇的人创造了淘宝、饿了么、抖音、滴滴、小红书等消费互联网产品。近几年，随着流量增长的放缓和人口红利的枯竭，移动互联已经进入尾声，从最近几年各大互联网公司财报以及裁员新闻中也能看出一些端倪。一个时代的终结往往是是另一个时代的开始，那移动互联网下一个黄金赛道是什么？朱啸虎在视频中指出是大模型，是生成式AI，是AGI。

所以，无论是个人还是组织都不要再错过这次机会。

杨植麟的技术信仰派

作为技术派代表人物，杨植麟依然坚持长期主义，专注于AGI（通用人工智能）的发展，而不是仅仅寻找短期的PMF（产品/市场契合）。他提到，月之暗面正在开发智能助手Kimi，专注于长文本处理，并探索新的技术维度。杨植麟对大模型行业的未来发展持乐观态度，并预测未来几年将出现更多技术突破和用户量级产品。

王小川代表第三种声音

百川智能的王小川先是回应了朱啸虎对中国AI的看法。王小川讨论了中国人工通用智能（AGI）的第三种可能性，强调技术和市场结合的重要性，并提出了技术与行业问题契合（TPF）的概念。他还谈到了百川智能的发展方向，包括构建三个模型大楼和三个世界（娱乐、医疗、创造），以及如何在大模型领域与国内外巨头竞争。此外，王小川还分享了他对投资人态度、团队建设、产品策略和个人经历的见解。

但这三种观点孰对孰错亦是众说纷纭，莫衷一是。

通用大模型还是专用大模型？

做通用大模型很难，不是技术上的难，难在资源。

训练大模型烧资源，包括训练数据，卡，能源。

据专业人士透露，想从头训练大模型，10万块显卡是个起点，后期的电费和维护费就可想而知了。

这种情况，个人和小公司都玩不起，适合那些科技巨头。

高投入也代表着高收益，以OpenAI为例，Pro会员每月需要付费20美元，据统计，截止到2023年7月，其付费用户200万，光是会员费每个月就4000万美元。

这还是在GPT4和Sora发布之前的统计数据，如果考虑这两个重磅的产品的影响力，现在的付费用户会更多。

除了会员费，其API也是收费的。

还有就是2B的收入，微软的Copilot用的就是GPT4和DALLE-3，还有Arzue和亚马逊云这样的平台。

所以，做大模型虽然很难，但只要成功，回报也是巨大的。

对于个人和小公司，更适合做垂类大模型。

从技术上说，专业大模型是在通用大模型基础上进一步微调而来的。

所以它不需要太多数据，只需要与具体任务相关的数据即可。

并且它在训练过程中并不需要更新全部参数，所以需要较少的算力。这种情况小公司也能承受。

但做垂类大模型和做互联网产品一样，要找对风口。

朱啸虎表示，很多创业者都是拿着锤子找钉子，锤子是技术，钉子是应用场景。做垂类大模型，技术往往不是瓶颈，更重要的是能解决什么问题才能让用户付费买单。

在访谈中，朱啸虎特别提到fancytech，它专为电商制作广告视频，它的视频虽然也只有4秒，它为什么能成功？你看看它的团队，基本来自天猫，手淘团队，基本上左手锤子，右手钉子。

AI的尽头是电力

模型的推理能力和参数量符合scale定律，据估计，人脑神经元的个数大约100万亿，大模型要达到人类智力水平，要实现AGI，其参数量也要达到相应量级。

随着模型scale的增长，训练所需要的电能也会成倍增加，面对可能到来的能源恐慌，不少人猜测AI的尽头是电力。

目前摩尔定律的速度已经明显放缓，每年仅能增长20%-30%，而以端侧AI的复杂度来讲，每年需要底层硬件提升的性能则需要达到至少两倍。

模型可解释性

从深度学习起，模型可解释性就是一个议题，大模型的涌现能力难道真的是简单的暴力出奇迹吗？虽然有人把神经网络可视化了，但为什么只有一个隐藏层的网络就能模拟任何函数，还没有没有明确的数学解释。

数学是被创造的还是被发现的？所以有人把这个数学中的经典问题拿到了AI上，AI是人类发明还是人类发现？但两者都一样目前没有明确的定论。

李飞飞认为，我们正处在AI的前牛顿时代，牛顿定律的出现奠定了物理基础，解开了物理世界很多谜团。