边缘AI芯片有新消息北大取得重要进展达到世界先进水平！算力瓶颈下边缘AI崛起

商洛在线
2023-04-17 18:55:42
来源：证券时报

北京大学在边缘AI芯片研究方面取得进展。

(相关资料图)

据北京大学官网，该校人工智能研究院在面向边缘AI的可转置存内计算芯片方向研究取得重要进展，该研究团队提出了一种可同时实现高能效模型推断前馈计算与训练反向传播计算的可转置存内计算电路设计，该方案能够直接在边缘端完成神经网络的重训练。

报道表示，研究团队在基于28nm标准的芯片原型验证该技术，前馈计算时的能效和反向传播计算能效均达到世界先进水平，该技术为边缘端智能提供了低功耗、高鲁棒性的AI加速器解决方案。

边缘AI是传统云端算力的补充

随着以ChatGPT为代表的AIGC（人工智能技术生成内容）应用大量兴起，算力需求大增，同时需要更多的网络带宽成本。此前由于算力资源缺口问题，ChatGPT官网一度停止Plus付费项目的购买，还频频下调提问限制次数。

传统的云计算模型通常将大量的数据传输到数据中心进行处理，然后再将结果返回到用户设备。这种传统的云计算模型可能存在延迟高、网络带宽消耗大、对隐私和安全性的担忧等问题。

边缘AI运行在边缘设备上，不需要将数据上传云端来计算。相较于云端AI，边缘AI具有低延迟、高安全性、高可靠性、保护用户隐私等优势。国盛证券表示，由于算力爆发下产生的海量数据传输需求，完全依靠IDC（互联网数据中心）提供中心化算力支撑乃是效率较低的选择，在此背景下，边缘计算便成为了传统云端算力的很好补充。

由于边缘AI的优势，科技巨头已将目光盯上。华为、高通均推出边缘AI产品。今年3月，高通中国在安卓手机上首次演示了模型参数超过10亿的Stable Diffusion；华为将发布智慧搜图功能，该功能通过对模型进行小型化处理。

中信证券表示，华为与高通一定程度上验证了高性能边缘AI的可行性，并且表明通过模型压缩+联网智能的方式有望在边缘端实现AI大模型的体验。

除了巨头角逐，边缘AI应用场景持续丰富。4月初，天猫精灵接入GPT大模型；4月11日，美国智能眼镜开发商推出可以为智能眼镜用户提供ChatGPT的语音服务。

国盛证券表示，大模型将大幅提升智能硬件的使用体验，同时智能硬件本身也将成为愈发重要的AI入口。当前随着物联网模组迈入“智能化”时代，集成了边缘算力的“智能模组”，正在逐渐成为支撑硬件智能化与边缘算力的核心形式。

边缘计算市场广阔

市场空间方面，根据中国信息通信研究院显示，2021年我国边缘计算市场规模为436亿元，预计2024年规模将达1804亿元，2022年-2024年复合增速达61%。研究机构ABI Research预测，到2025年边缘AI芯片组市场的收入将达到122亿美元，边缘AI芯片组市场将超过云AI芯片组市场。

具体公司方面，国盛证券指出，智能模组作为承载边缘算力的最佳模式，是智能硬件放量下最具有确定性和弹性的投资方向。模组龙头关注移远通信、美格智能、广和通；通信设备及芯片关注中兴通讯、翱捷科技、初灵信息。

证券时报·数据宝梳理，移远通信是全球通信模组龙头，其智能模组产品管线最为齐全，截至目前已有超过10款智能模组正在商用或处于工程样片、商业样片阶段。

美格智能深耕智能模组产品研发，智能模组出货量居于行业前列，并于行业内首家推出5G 智能模组。

中科创达在接受结构调研时表示，公司在边缘计算和行业领域已经初具规模，以公司边缘计算技术为核心的智能行业相关业务，2022年度实现营业收入2.2亿元。

初灵信息在互动平台表示，公司的边缘计算、边缘端的数据处理是支持“万物互联”的关键终端要素之一。

广和通是首家A股上市的模组厂商，公司已有AI智能模组布局。