当前位置:首页|资讯|汽车|生成式AI

新思科技开发者大会:大模型时代的芯片挑战

作者:经济观察报发布时间:2023-09-09

原标题:新思科技开发者大会:大模型时代的芯片挑战

经济观察网 记者 潘俊田9月8日,“2023新思科技开发者大会”在上海召开,会议中的论坛环节,新思科技全球技术创新与战略合作副总裁王秉达,台积电(中国)副总经理陈平,芯擎智能创始人汪凯、新思科技中国区副总裁王小楠分享了从芯片制造、设计到应用各个层面,大模型对其带来的挑战。

陈平从芯片制造的角度认为大模型是更大的“动物”,对于制造公司而言是更大的压力。

他认为大模型需要大算力,因而需要先进工艺,一方面需要在单位面积里做出更多的晶体管,另一方面需要把芯片做大,主要是通过3D的技术。除此之外他还认为这样的芯片还需要有很高的能效比,因此需要更高效的晶体管。

“AI出现之后,对于芯片的开发是一种加速,迭代速度更快,因此对于工艺的要求更高。”他总结道。

设计层面,王小楠介绍到大模型的机制和传统的芯片机制不同,更类似于人脑,因此从芯片设计角度来讲,每一个计算单元需要的算力需要增加,带宽的需求和互联互通的需求都在变高。

“所以这些对我们芯片设计,包括EDA工具以及通过EDA来支持这些芯片的实现都增加了新的挑战,但同时这也是新的机遇。”他总结道。

陈平认为生成式AI为芯片从业者而言提供了一个充满了机遇的时代。他认为生成式AI能够推动芯片在5G、汽车等领域的应用。

王小楠则认为生成式AI不是一个赛道,而是一个技术,他建议芯片从业者掌握自己最核心的技能,然后应用到比较有前景的领域中去,大模型还有很多落地的场景和机会,比如数据中心和汽车。

大模型在汽车领域的应用上,汪凯认为自动驾驶是执行预定好的编程规则,不可避免地会碰到不能解决的问题,尤其是在一些特殊的环境中,大模型试图以人类的思维去解决自动驾驶上的一些问题,对于自动驾驶能力的提高很有帮助。

但是他认为大模型真正想在自动驾驶上面有所作为还面临五大挑战。首先是大模型的算力挑战,汽车领域需要实时处理问题,如果应用大模型,计算能耗非常大;其次是数据的质量问题,如果想要一个很好的汽车大模型,需要大量的数据训练;第三是数据的可靠性问题,用于训练的数据必须是正确的;第四是数据的追溯性问题,以黑盒形式出现的大模型,很难在自动驾驶的过程中去解释为何汽车采取此种行为;第五是法律法规问题,大模型需要根据不同的地理环境以及政策法律来决定何时落地,因此还需一段时间。

王小楠则介绍,如果后续将大模型落地到APP端,需要做很多的垂直整合,根据不同的应用场景进行整理,需要对大模型做相应的优化和裁剪,因此不同的开发者能够有不同的机会。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1