Latest Post

Meta 和 MOFAD 让您在增强现实中参观 Ebony 测试厨房 虚拟现实技术知识点总结

核心观点:端侧AI是AI发展下一阶段,其具备独立性、低时延等性能,能够完成各种AI推理任务,大模型小型化、端侧AI框架开源等为终端硬件承载AI算法提供了可能;端侧AI芯片性能提升,存储、模组等升级打通了终端硬件运行AI算法的道路。AI PC、AI Phone作为端侧AI的核心持续向前发展,近期英特尔、高通、联想等国内外厂商持续发布相关产品、战略规划,打造智能终端的同时也完善相关产业生态,我们看好端侧AI产业进展。

端侧AI是AI发展下一阶段,大模型轻量化等技术推进端侧AI发展。端侧AI具备安全性、独立性、低时延、高可靠性等特点,能很好地完成各种AI推理任务。目前,多个大模型均已推出“小型化”和“场景化”版本,其轻量化提供了端侧运行基础。此外,对于数据精度例如INT4、INT8的支持优化、ExecuTorch等AI框架的开源,为端侧AI进展铺平道路。

端侧AI核心在于手机和PC,AI Phone和AI PC将开启新时代。从今年2月份举行的世界移动通信大会,高通展示了其手机端离线月份微软开发者大会高通展示其PC运行AI大模型,再到近期英特尔、联想等发布AI PC加速计划、发布首款AI PC等,可以看出,国内外厂商持续发力AI Phone和AI PC,端侧AI将走入新的时代。

AI PC核心升级在于芯片。AI PC不同于传统PC的主要之处在于其SoC芯片中要有AI模块,通过AI芯片中的NPU等模块为硬件终端提供算力支撑,从而运行端侧AI大模型。过去PC芯片主要是以Intel为代表的x86架构芯片,AIPC的提出要求了SOC芯片有AI算力,在端侧AI推理能力方面,过去手机上就搭载了NPU,高通经验积累深厚,Intel的笔记本芯片则是CPU+GPU。生态上,Windows也开始全力支持ARM体系,自去年开始了多轮支持Arm架构芯片的操作系统更新,高通大概率会在PC市场上拿到部分份额。除芯片外,DRAM、计算模组等有望迎来新的升级与市场机遇。

我们看好端侧AI产业进展,尤其是AI Phone和AI PC领域,其已有相关产品落地,将传统PC、Phone结合上AI能力有望带动整个PC、Phone产业链复苏;通过将大模型赋能终端硬件,AI应用浪潮将有望开启。