2025-01-25 资讯 0
在端侧大模型的探索与应用中，爱芯元智创始人、董事长仇肖莘曾在2024年世界人工智能大会上提出了一个问题：端侧大模型是否会带来颠覆性的变化？此前，CNN已经让端侧拥有了AI能力，而现在生成式AI预训练大模型的能力越来越强大，这自然引发了人们对端侧大模型潜力的大量讨论。
然而，在实际落地过程中，仍然面临着许多挑战。首先，大型模型在视觉领域的应用还不够成熟，其真实准确描述客观世界是落地的关键。此外，算力、内存和带宽都成为实现端侧大型模型落地的一系列底层挑战。业界正在不断探索解决这些问题的手段，比如通过DDR用Wafer to Wafer形式实现1024个通道，以解决带宽和延迟的问题，以及开发能够在端侧使用的HBM以解决数据墙问题。
技术进步并行于应用探索，加速前行。在汽车、手机和PC等场景，无疑需要原生支持Transformer架构的处理器。爱芯元智正是在这个方向上展开布局，他们已完成了高、中低三档算力的布局，并且能够支持以文搜图、通用检测等通用大型模型应用。这一事实证明了爱芯元智对于未来发展趋势有着清晰认识，并且他们早已为之做好了准备。
尤其值得注意的是，即使苹果手机上的当前最大参数只有3B，但市场预计将逐渐向更大的参数规模转变，这意味着未来更多设备可能会采用更大的参数大小，从而推动整个行业向更加智能化和复杂化发展。但这也要求芯片厂商与软件开发者紧密合作，以确保新技术能被快速适配，并提供最佳性能。
总之，对于是否能真正带来颠覆性的变化，我们需要继续关注这一领域不断更新的情况，因为它正在迅速演变，而且随着新技术出现，它们将如何影响我们的日常生活仍是一个未知数。
