2025-01-25 智能化学会动态 0
在生成式AI大模型的蓬勃发展下，人们越来越关注端侧大模型是否能带来革命性的变化。2024年世界人工智能大会上，爱芯元智创始人、董事长仇肖莘表示：“目前端侧大模型的应用还是探索阶段，还不好判断是否会带来颠覆。”然而，在智慧物联和人工智能创新融合专家殷俊看来，“不应该让用户放弃原有的技术投资，而是要通过大小模型协同和模型小型化，实现最优算力配置，以加快大模型行业落地。”
端侧大模型面临的挑战主要包括算力、内存和带宽限制。在解决这些问题的同时，也需要探讨在哪些场景先落地，以及它将如何改变现有情况。仇肖莘认为汽车、手机、PC都将是率先落地端侧大模型的场景，这些场景需要原生支持Transformer架构的处理器。
爱芯元智已经发布了爱芯通元AI处理器，该处理器能够支持以文搜图、通用检测、以图生文以及AI Agent等通用大模型应用。这款处理器采用可编程数据流微架构，可以提高能效和算力密度，同时也提供灵活性以支撑各种AI应用。此外，爱芯通元成熟的软件工具链可以让开发者快速适配对端侧大模型。
对于未来市场趋势，仇肖莘指出“我们的时机比较好，那时候国内缺性价比的智驾方案，加上国内车企比较愿意尝试新方案，我们很快就拿到了定点。” 爱芯元智瞄准的是售价10万以下汽车L2及L2+智能驾驶场景，其降低成本方法是平台化设计，以相同平台面向不同市场，从而通过大量出货降低芯片成本。
总之，无论是在技术层面还是战略层面，爱芯元智显然走在正确道路上，他们致力于做普惠AI，并且明确无论是传统CV算法到Transformer，或从智慧城市到智能汽车再到未来的具身智能，都保持着前瞻性的视野。
