算力时代,随着终端设备智能化程度加深和AI大模型的升级迭代,CPU、GPU和DPU等处理器的性能大幅提升,终端算力得到了显著增强,端侧算力网络融合AI成为提升智能终端体验的关键一步。
端侧算力融合“轻量级AI”重塑算力终端新业态
近年来,终端设备以前所未有的种类和数量融入群众的生活之中,全国存量手机算力是数据中心算力的12倍,但算力利用率不足15%;全国宽带用户规模达5.9亿,却有80%带宽资源处于闲置状态。终端设备呈现海量、轻量、资源利用率低的特点。
作为中国移动算力网络的重要组成部分,端侧算力网络应运而生。端侧算力是指整合海量的用户侧终端设备(包括个人终端、家庭终端等)以及端侧集中部署的设备(包括小区入口设备、边缘节点等)的算力,通过网络连接实现终端算力资源的统一管理和动态调度,并通过与边缘计算、云计算的充分协同,为用户按需提供高质量的计算服务。比如用户在使用某一应用的过程中,使用场景发生变化,端侧算力网络能根据业务类型的不同,为用户匹配并选择能力合适的执行终端,实现应用在不同设备之间的无缝切换。
同时,ChatGPT的应用引爆了新一轮人工智能热潮,生成式AI给终端带来了全新的交互模式,AI大模型逐渐轻量化,可在电脑、手机等智能终端上直接运行。
“AI大模型的下沉和私有化部署,还将实现终端用户每人都拥有个性化专属AI助手,面向CH端,端侧算力网络将能够实现由单体服务变为多终端协同服务;面向B端,端侧算力网络能够实现海量终端结网提供分布式低成本算力。”中国移动终端公司副总经理汪恒江强调,端侧算力网络通过汇聚家庭、个人、行业设备的泛在算力,将打造出具有空间计算场和并网计算场景两大服务场景及商业模式,实现终端服务全新升级。
端侧算力+AI=机遇和挑战
目前全国智能终端仍处于大幅增长阶段,据IDC数据,2025年智能终端规模将增长至800亿台,端侧算力蕴藏着巨大潜力。
算力是数字经济与人工智能时代下的生产力,随着智能终端硬件技术的快速发展和应用领域的扩大,智能终端承载了不同类型的业务和服务需求,数据处理时延和精度的要求不尽相同。
而端侧算力网络具备的自治组网、时空高动态性、多层次多级端算力和强安全隐私等天然属性,决定了不同类型终端操作系统繁多、算力水平差异大且适配困难,各芯片平台算法生态及协议不互通,终端间通信情况复杂且存在不稳定性,给端侧算力感知、整合、协同调度等环节带来诸多技术挑战。
AI大模型趋向小型化+个性化为终端智能化发展带来新机遇。手机、电脑等终端生成并存储了海量数据,终端侧私有数据和推理计算将是终端应用能力的重要方向,可直接运行在手机和电脑等智能终端上的私有化AI模型成为“大模型时代”的新需求。
基于用户使用习惯,通过终端设备在保障用户数据隐私的基础上,提供AI差异化智能服务,需要设计出更高准确率、更高效、更智能,并且可以在算力终端设备上部署的个性化AI推理模型,来满足非智能终端的智能化升级,直接为终端设备提供泛在的AI算力服务,端侧算力融合AI助力云算终端普及。
激活端侧算力新动能 打造算力时代“新物种”
“进入数字化生活以来,我们随时随地都在生成照片、视频等数字资料,海量数据的存储与分类,对手机等智能终端性能提出了更高的要求。借助家庭算力主机,一键设置手机、电脑文件实时备份,依托AI算法自动识别数据场景,对文件进行安全、高效地存储、管理与生成;下班时,我们可以提前同步分享行程信息给家人,并且启动智能家居多端协同服务,让智能化生活触手可及……”在上海世界移动通信大会中国移动“数智赋能共享未来”展区,展台工作人员正在向参展观众介绍算力终端家庭算力主机。
除了胖终端家庭算力主机,中国移动还推出瘦终端云手机、云电脑、移动云高清新型云算终端产品,算力赋能为终端行业带来新的生产力。
为推动端侧算力网络在感知、整合、组网等环节的协同调度,中国移动于三年前启动端侧算力关键技术研究,2022年发布《端侧算力网络白皮书》,完成端侧算力网络技术工程;目前累计攻关7大关键技术,试点验证连接型算力主机15万台,存储型算力主机200台,纳管终端设备15万台。
在融合AI与端侧算力网络生态合作方面,面向物联网应用领域,中国移动携手旷视打造基于硬件的人工智能大模型综合解决方案,让AI向实而生。围绕“软硬一体”的合作模式,旷视建立以芯片和算法结合为核心的终端能力,研发基于不同场景的AI算法,致力于把边端和云的算力打通,让所有的算法能够动态进行调配和升级。
“一个技术赋能所有产品。”PC端搭载高通骁龙AI引擎的硬件、软件和工具,端侧AI是距离用户最近的多模态入口。高通产品技术高级总监徐恒介绍,“端侧我们现在做的10亿参数,很快几个月以后就能看到百亿参数,我们在这里面的覆盖率会变得非常高。无论是端侧AI还是混合AI,这就是一个基础。”
发挥链长引领作用 推动终端产业高质量发展
一个产业的高质量发展离不开行业上下游伙伴的共同推动。在终端产业进入算网融合新阶段,中国移动积极发挥“链长”作用,面向华为、OPPO、中兴、旷视、高通、联想、科大讯飞、浪潮等芯片、终端硬件产品、操作系统、智能Al、软硬件一体化解决方案合作伙伴,推出“一个联盟,两大计划”的重磅合作举措。
依托“算力终端产业联盟”,中国移动正式启动“繁星计划”和“霄云行动”,丰富算力终端新产品,创新端侧算力新服务。其中,“繁星计划”面向算力终端携手合作伙伴,推动终端品类丰富和算力应用发展。汪恒江表示,希望在2023年达到算力终端百款、云电脑百万、用户百万、算力应用百款、生态合作伙伴百家的发展目标。
繁星璀璨,智算未来。中国移动愿携手产业链生态合作伙伴全面推动算力网络融合AI,共创云算终端新生态,实现网络无所不达、算力无所不在,智能无所不及的愿景,让智能更广泛地惠及群众生活。