当前位置: 首页 - 新品 - 端侧大模型如同一座高楼每层芯片都像是一块基石叠加在一起它们将带来颠覆性的变化就像翻山越岭一般

端侧大模型如同一座高楼每层芯片都像是一块基石叠加在一起它们将带来颠覆性的变化就像翻山越岭一般

2025-01-25 新品 0

端侧大模型的崛起,如同一座巍峨的高楼,每层芯片都是其基石,叠加而成,它们将带来颠覆性的变革,就像翻山越岭一般。然而,在这场革命前,我们首先需要探讨的是如何将这些大模型落地。

在世界人工智能大会上,爱芯元智创始人、董事长仇肖莘表达了对端侧大模型应用尚处于探索阶段的看法,并强调了算力、内存和带宽限制是落地的大障碍。业界正在努力解决这一问题,比如通过DDR Wafer to Wafer技术提高带宽,以及开发HBM等解决数据墙问题的手段。

汽车和手机被认为是率先落地端侧大模型的场景,这两个领域无疑需要原生支持Transformer架构的处理器。爱芯元智已经发布了爱芯通元AI处理器,该处理器不仅支持混合精度,还能够在Transformer架构推理场景中提供10倍性能优势。

手机厂商正在探讨集成NPU到SoC以支持生成式AI,而汽车行业则关注端到端方案,以降低系统复杂性。这一切都指向一个结论:未来,智能化需求会驱动汽车成为一个重要市场,而爱芯元智正瞄准10万以下级别汽车的L2、L2+智能驾驶场景,以性价比为核心竞争力。

从传统CV算法到Transformer,从智慧城市到智能汽车,再至未来的具身智能,爱芯元智展现出前瞻性的战略规划与技术路线,为普惠AI奋斗着,无论是技术还是战略,他们显然走在正确的道路上。

标签: 兰蔻新品新品上市广告词笔记本新品苹果 新品发布会新品