2025-01-25 智能输送方案 0
端侧大模型的崛起,如同半导体在芯片集成电路中的重要角色,将带来前所未有的变化与革新。然而,是否能够真正实现颠覆性变革,取决于多方面因素的协调与优化。
在人工智能领域,CNN已经为我们开启了端侧AI应用的大门,但随着生成式AI技术的飞速发展,大模型的潜力和挑战也日益凸显。爱芯元智创始人仇肖莘曾在2024年世界人工智能大会上表示,大模型目前仍处于探索阶段,对其未来能否带来颠覆性的影响持谨慎态度。
为了加快大模型行业落地步伐,业界专家殷俊提出了“大小模型协同”和“最优算力配置”的策略,即通过小型化、大型化、以及大小型模式之间的相互配合,以实现更高效、成本更低的大规模应用。
从手机到城市监控摄像头,再到汽车等场景,大模型都有可能在这些地方发挥作用。但要实现这一目标,不仅需要解决技术难题,还必须克服内存、大数据处理能力等硬件资源限制。此外,由于不同场景对性能需求不一,加速器或特殊设计的人工智能处理器将是关键。
爱芯元智正是这样一个追求普惠性AI解决方案的企业,他们推出的爱芯通元AI处理器支持Transformer架构,并且具有较高的性能优势。在手机和汽车这两个关键市场中,大模型将以原生支持Transformer架构为核心,同时结合混合精度技术,为用户提供更加高效、可靠的大规模应用服务。
总之,无论是在视觉领域还是其他机遇,比喻来说,每一次大模型尝试,都如同一位勇敢者,在未知领土上探寻新的可能性。而爱芯元智作为这一旅程上的先行者,其不断迭代更新产品,不断探索边缘计算和具身智能,是值得我们期待并深入研究的一方。