端侧大模型如同骁龙8将带来一场颠覆性的变革就像火山爆发一样震撼人心

端侧大模型的崛起，如同骁龙8+带来的革新，它们将在智能设备中引发一场颠覆性的变革，犹如火山爆发般震撼人心。然而，在这场革命前行，我们必须先解决落地的问题。

爱芯元智创始人、董事长仇肖莘在2024年世界人工智能大会上提到：“目前端侧大模型的应用仍处于探索阶段，还不好判断是否会带来颠覆。”他强调，端侧大模型需要通过大小模型协同和模型小型化，实现最优算力配置，以加快行业落地。

专家殷俊认为，不应该让用户放弃原有技术投资，而是要通过大小模型协同和模型小型化实现最优算力配置，这样可以加速大模型行业落地。他还指出，大模式视觉领域的落地面临可靠性、稳定性、理解不够全面等挑战，将客观世界真实准确描述成为视觉大模式落地方面的关键。

爱芯通元AI处理器支持Transformer架构，有10倍性能优势，与英伟达GPGPU相比在端侧推理场景更具优势。爱芯元智正在探索手机和汽车两大端侧大模式落地场景，并与多个手机厂商合作，将其IP集成到他们SoC中。此外，他们也致力于提供混合精度解决方案以降低计算和存储需求，并且已经完成了对Llama 3 8B和Phi-3-mini模型适配工作。

汽车作为一个重要市场，对计算实时性需求高，同时对智能化也有很高要求。爱芯元智的AI芯片已经通过车规测试，并已为主机厂提供了demo。在这个不断发展的人工智能时代，爱芯元智正走向正确道路，为普惠AI而努力，无论是技术还是战略，都展现出前瞻性的眼光。