中国芯片产业现状的端侧大模型犹如一场火山爆发将带来前所未有的颠覆性变化

中国芯片产业现状中的端侧大模型，犹如一场火山爆发，将带来前所未有的颠覆性变化。然而，在探索大模型在端侧的落地应用之前，我们首先应该解决的是如何克服内存和带宽限制，以及算力瓶颈的问题。

爱芯元智创始人、董事长仇肖莘在世界人工智能大会期间表示，目前端侧大模型的应用仍处于探索阶段，还不好判断是否会带来颠覆。智慧物联和人工智能创新融合专家殷俊则分享了他的观点：“不应该让用户放弃原有的技术投资，而是要通过大小模型协同和模型小型化，实现最优算力配置，以加快大模型行业落地。”

端侧大模型落地到底面临哪些挑战？会在哪些场景先落地？又会带来怎样的变化？这是一个值得进一步探讨的话题。在谈颠覆之前，我们首先应该解决的是如何将这些技术应用到实际中去。

爱芯通元AI处理器已经完成布局，并且可以支持以文搜图、通用检测、以图生文、AI Agent等通用大模型应用。这款处理器的核心是算子指令集和数据流微架构，同时也具备灵活性的软件工具链，可以快速适配各种AI的应用。

汽车和手机两个领域无疑是当下端侧大模式最适合落地的场景。汽车计算实时性需求，以及对智能化的需求，让汽车成为了落地端侧大模式的一个重要市场。而手机作为消费电子产品，其对智能化功能的追求，也使其成为另一个关键市场。

爱芯元智瞄准的是售价10万以下汽车的L2、L2+智能驾驶场景，性价比就是关键。通过平台化设计芯片并面向不同市场，可以通过大量出货降低芯片成本，从而实现普惠AI策略。