2025-01-25 智能输送方案 0
在生成式AI大模型的蓬勃发展下，人们越来越关注这些强大的技术如何应用于端侧设备。爱芯元智创始人、董事长仇肖莘在2024年世界人工智能大会上表示，尽管端侧大模型目前仍处于探索阶段，但它或许能够带来颠覆性的变化。
然而，在此之前，CNN已经使端侧设备拥有了初步的AI能力，因此人们更感兴趣的是：端侧大模型将会怎样改变我们的未来？为了回答这个问题，我们需要深入了解这项技术背后的挑战和潜力。
首先，大型语言模型和视觉识别系统虽然在理论上表现出色，但其落地实现却面临着诸多挑战，如内存大小、数据传输带宽以及算力的限制等。爱芯元智联合创始人、副总裁刘建伟指出，他们设计了一个专门针对Transformer架构的处理器，这种架构可以提供10倍性能优势。
不过，即便如此，实际应用中还存在许多未解决的问题。例如，在智能手机和城市摄像头等场景中，大型语言模型是否能提供足够的实时性和准确性，还需进一步验证。此外，对于汽车行业而言，更高级别的大型语言模型可能能够帮助降低系统复杂度，从而提高整体性能。
爱芯元智正致力于解决这些问题，并通过平台化策略降低成本以推广普惠AI。这不仅包括他们为汽车市场开发的L2及以下级别智能驾驶方案，也涉及到他们正在探索的人机交互（HMI）领域。
总之，无论是通过原生支持Transformer架构还是通过混合精度优化计算过程，大型语言模型都有潜力成为改变我们日常生活的一环。但是，它们真正意义上的落地与应用仍需时间去证明，以及与传统CV算法相比，其是否真的能带来更高效率、高准确度以及更多样的应用场景，是值得继续探讨的话题。
