2025-01-25 智能输送方案 0
在生成式AI大模型的蓬勃发展下，人们越来越关注端侧大模型是否能带来革命性的变化。2024年世界人工智能大会上，爱芯元智创始人、董事长仇肖莘表示：“目前端侧大模型的应用还是探索阶段，还不好判断是否会带来颠覆。”然而，在智慧物联和人工智能创新融合专家殷俊看来，“我们不应该让用户放弃原有的技术投资，而是要通过大小模型协同和模型小型化，实现最优算力配置，以加快大模型行业落地。”
端侧大模型面临着多重挑战，其中包括算力、内存和带宽的限制。爱芯元智联合创始人、副总裁刘建伟指出：“我们的NPU设计是AI处理器的设计思路，从一开始就考虑各种模型结构包括Transformer等模型的算子支持。”爱芯通元AI处理器采用可编程数据流微架构提高了能效和算力密度，同时也保证了算子的灵活性。
尽管端侧大模式尚处于探索阶段，但仇肖莘认为汽车、手机、PC都将是率先落地的大模式场景。他透露：“我们已经接触了很多手机厂商，以及手机芯片厂商，探讨将我们的IP集成到他们SoC里的可能性。”此外，他还提到：“未来一定是在手机SoC中集成NPU，但要集成多大的算力的NPU，能够支持手机各种应用的同时成本又不太高，这对于苹果和国内手机厂商来说都是重要的话题。”
在汽车行业方面，端侧大模式可以帮助降低系统复杂性，并提供更好的实时性能。此外，由于欧盟对主动安全功能强制标配，对10万及以下级别汽车市场需求增加，将为爱芯元智提供更多增长机会。
总之，无论是在技术演进还是市场战略上，爱芯元智都显得前瞻性十足，其目标是通过平台化设计减少成本，为广泛应用提供普惠性的解决方案。随着技术不断进步，我们有理由期待端侧大模式能够真正意义上引领新的革命性变革。
