2025-01-25 智能输送方案 0
端侧大模型的崛起：2023芯片市场的变革与展望
在2023年，端侧大模型如同一场科技革命，引发了对芯片市场未来趋势的深刻思考。爱芯元智创始人、董事长仇肖莘在世界人工智能大会上表示，“目前端侧大模型的应用仍处于探索阶段，不容忽视的是，这场革命可能会颠覆我们对AI应用的理解。”
然而，在讨论颠覆性变化之前，我们首先需要解决一个问题：端侧大模型能否真正落地？这是一个充满挑战的问题。殷俊指出，大型语言和语音处理模型虽然取得了巨大的进步，但在视觉领域，尤其是在物体检测和图像分类方面，还面临着可靠性、稳定性以及全面理解客观世界的难题。
算力、内存和带宽是实现端侧大模型的一系列技术挑战。仇肖莘强调：“数据墙”问题是当前最为紧迫的问题之一，而爱芯元智正致力于通过联合优化算法与硬件来解决这一问题。
汽车、手机和PC等多个领域都将成为端侧大模型落地的前沿阵地。在这些场景中，无疑需要原生支持Transformer架构的处理器，如爱芯通元AI处理器，它不仅支持混合精度计算，而且具有10倍性能优势，这使得它成为了推动Transformer架构普及的一个关键驱动者。
手机作为最直接接触用户的一块硬件，其对实时性能要求极高，对AI能力需求日益增长。而汽车行业则以其复杂而实时性的计算需求，为端侧大模型提供了另一种特殊机遇。此外，随着边缘计算技术不断发展，我们有理由相信，将来更广泛范围内的人们将享受到智能化生活品质。
总之，端侧大模式是否能够带来颠覆性的变化，以及何时能够实现这一目标，都值得我们持续关注并探讨。这是一个充满未知但又充满希望的话题，它将继续塑造我们的未来。
