2025-01-25 新品 0
在2022年手机处理器性能排行榜的背后,端侧大模型正悄然蠢动,引领着颠覆性变革的新时代智能手机革命。爱芯元智创始人、董事长仇肖莘在世界人工智能大会上表达了对端侧大模型应用探索阶段的谨慎态度:“目前端侧大模型的应用还是探索阶段,还不好判断是否会带来颠覆。”然而,这并不意味着我们应该忽视这一趋势,而是应该深入思考它如何通过大小模型协同和模型小型化,实现最优算力配置,以加快大模型行业落地。
端侧大模型面临的一些挑战包括算力、内存和带宽限制。在视觉领域,大模型还需要解决可靠性、稳定性和理解不够全面等问题。为了真正准确描述客观世界,这些挑战无疑是关键所在。业界正在积极探索解决这些问题,比如开发能够在端侧使用的HBM,以及推进DDR用Wafer to Wafer形式以实现1024个通道,解决带宽和延迟的问题。
汽车、手机以及PC都将是率先落地端侧大模式的大市场。这些建议需要原生支持Transformer架构的处理器。而爱芯元智正是在这方面做出突破,他们已经发布了爱芯通元AI处理器,该处理器能支持以文搜图、通用检测、以图生文及AI Agent等通用大模式应用,并且已经完成了智慧城市及辅助驾驶两个领域规模化量产。
对于未来,我们可以期待更多关于边缘计算与具身智能的大范围讨论。从传统CV算法到Transformer,从智慧城市到智能汽车再到未来的具身智能,爱芯元智看到了前瞻性的机遇,并明确要做普惠AI,以保持技术路线上的竞争优势。此时此刻,无论你处于何种场景,都无法避免被这个话题吸引,因为它们预示着一个全新的时代即将开始,那是一个由更强大的生成式AI驱动的人类社会。不过,在追求这种变革之前,我们首先必须解决的是落地的问题。这是一个值得进一步探讨的话题,是不是?
下一篇:姜可林慕甜蜜的校园生活