2025-01-25 智能输送方案 0
在生成式AI大模型的蓬勃发展下，人们越来越关注端侧大模型是否能带来革命性的变化。2024年世界人工智能大会上，爱芯元智创始人、董事长仇肖莘表示：“目前端侧大模型的应用还是探索阶段，还不好判断是否会带来颠覆。”然而，在智慧物联和人工智能创新融合专家殷俊看来，“我们不应该让用户放弃原有的技术投资，而是要通过大小模型协同和模型小型化，实现最优算力配置，以加快大模型行业落地。”
端侧大模型面临着多重挑战，其中包括算力、内存和带宽等硬件限制，以及对视觉领域的准确描述能力不足等问题。尽管如此，仇肖莘认为汽车、手机、PC将是率先落地端侧大模式的场景，这些场景需要原生支持Transformer架构的处理器。
爱芯元智在世界人工智能大会上发布了爱芯通元AI处理器，该处理器已经在智慧城市和辅助驾驶两个领域实现了规模化量产，并且可以支持以文搜图、通用检测、以图生文及AI Agent等通用大模型应用。刘建伟介绍说，爱芯通元AI处理器采用可编程数据流微架构提高能效和算力密度，同时具有灵活性，可以支撑各种AI应用。此外，该公司成熟的软件工具链使得开发者能够快速适配端侧大模式。
如果未来汽车行业能够成功集成这些技术，那么它们将为车主提供更加安全、高效以及自动化程度更高的驾驶体验。这也是爱芯元智瞄准的是售价10万以下汽车L2或L2+级别智能驾驶市场的一个重要因素，因为他们希望通过平台化降低成本并提高市场竞争力。
总之，无论是在手机或汽车领域，都存在着巨大的潜力去利用端侧的大型语言理解与计算能力，但这也要求相应的人工智能硬件与软件系统必须得到优化以满足这些需求。在未来的日子里，我们很期待看到更多关于如何有效结合这种技术革新与现有解决方案，从而推动人类社会向前迈进。
