2025-01-25 智能输送方案 0
端侧大模型的崛起：探索与挑战
随着生成式AI预训练大模型能力的不断增强，越来越多的人开始关注这些大模型在端侧应用的潜力。然而，在此之前，CNN已经为端侧带来了AI能力，因此人们更感兴趣的是：端侧大模型是否能够带来颠覆性的变化？
在2024年世界人工智能大会上，爱芯元智创始人、董事长仇肖莘表达了对端侧大模型应用仍处于探索阶段的看法。他认为，“目前端侧大模型的应用还不够成熟，不好判断是否会带来颠覆。”
然而，对于如何加快大模型行业落地，这场讨论引发了广泛思考。在“芯领未来丨智能芯片及多模态大模型论坛”上，智慧物联和人工智能创新融合专家殷俊提出了一个值得深入探讨的话题：“我们不应该让用户放弃原有的技术投资，而是要通过大小模型协同和小型化实现最优算力配置，以加速行业落地。”这意味着尽管传统AI方案如CNN、RNN等已经在某些领域取得了一定的成功，但新的挑战和机遇正在呼唤着更高效、成本更低的大规模计算解决方案。
但问题也很明显，即使有如此雄心勃勃的大规模计算解决方案，它们需要面对更多挑战，比如算力、内存和带宽限制。仇肖莘指出，“数据墙”将成为下一代处理器设计中的关键瓶颈。而且，与传统ISP相比，大模式化能否真正降低成本并提高性能，这也是一个需要进一步研究的问题。
为了应对这些挑战，一些公司正致力于开发出能够支持Transformer架构的大规模处理器。例如，爱芯元智宣布其最新产品爱芯通元AI处理器，可以支持以文搜图、通用检测等各种复杂任务，并且可以原生运行Transformer架构。这对于推动边缘计算、大数据分析以及其他依赖于大量参数交互的任务来说是一个巨大的进步。
不过，还有许多未知因素待解答，比如哪些具体场景将率先采用这种新技术，以及它们最终会如何改变现有的设备或服务。此外，由于存在不同类型和尺寸的小型化设备，如手机、小型车载系统等，其独特需求也必须被考虑到。
总之，无论是在汽车还是手机领域，都有一系列复杂的问题需要解决才能确保这一革命性变革顺利进行。不过，如果成功实现，那么它可能会彻底改变我们生活中的一切，从而开启一个全新的时代。
