1、边缘智能技术
边缘智能技术也称边缘智能计算(Edge
Intelligent,EI),是将边缘计算和人工智能相互融合,为智能城市、车联网、虚拟现实、智能医疗等智能服务应用提供技术支持。以深度学习为代表的 AI
技术,能够让每个网络边缘节点拥有良好的计算和决策能力,具有高计算量、高带宽、高隐私性和低延迟的功能,满足实时业务、敏捷连接、智能应用、数据安全与隐私保护等服务需求。移动边缘计算通过机器学习的融合,进行边缘缓存技术、计算任务卸载以及边缘计算资源管理与调度的优化,从而达到边缘计算系统整体性能的优化效果。
根据边缘智能中产生数据的卸载数量和卸载路径长度,可分为六个等级:
根据深度学习训练设备可分为三层,依次是云数据中心、边缘端和终端设备。
首先训练设备为云中心时,根据数据卸载路径长度,由高到低可分为三个等级,第一等级为云中心训练模型,模型推理设备为云边协同,数据部分卸载到云中心;
第二等级为云中心训练模型,推理设备为边缘网络,数据部分或全部卸载到边缘节点或附近设备上;
第三等级为云中心训练模型,模型在本地设备进行推理,数据无需从本地设备上卸载。
当训练设备为边缘端时,主要有以云边协同方式训练和推理模型,以及边缘网络上训练和推理这两个等级,分别为等级四和等级五。
第六等级即所有模型的训练和推理均在终端设备上,本地终端设备完全无需卸载训练数据和推理数据。由于数据卸载有一定的传输延迟,通过提高 EI
等级,从而减少数据卸载数量和数据卸载路径长度,降低了网络通信带宽成本,提高了数据隐私安全性。
2、边缘智能技术面临的挑战
(1) 原始数据的可用性与有效性
尽管大量的用户会在网络边缘处产生大量的数据,但是如何合理合法地获数据是目前EI面临的最大挑战。因为没有数据就无法进行后续的智能模型训练与策略生成,可用的数据是一切EI研究的开始。因此,需要有合理合法的激励机制来推动用户提供数据。在获取了足够的数据后,如何有效地使用数据仍然是EI研究的难点之一。来自不同边缘设备的原始数据可能存在明显的偏倚,这将极大地影响学习性能。因此,需要对收集到的原始数据进行必要的预处理,以保证训练的有效性。
(2)AI模型的设计与训练
应用AI技术解决资源受限的优化问题时,需要设计正确的AI模型以保证良好的训练效率与学习效果。首先,设计的AI模型需要是有限的,从而避免在过大的状态行为空间中搜索而导致的维度灾难问题。AI技术并不是万能的,在解决一些优化问题时往往需要做出妥协。例如,将约束条件作为惩罚整合至奖励函数中。这一现状往往会导致AI模型难以逼近优化目标的最优解。因此,如何巧妙地设计AI模型来解决实际问题对EI研究人员来说是一个巨大的挑战。
(3)优化性能与训练效率之间的平衡
网络边缘处的计算能力、存储能力往往是有限的,EI研宄人员需要在训练结果的优化性能与训练效率之间做出权衡。因此,如何根据动态变化的用户需要、网络资源供给与架构特点来实现AI模块优化性能与训练效率之间的平衡是一个严峻的挑战。
(4)业务、系统架构、编程框架的兼容性
目前的EI应用往往只涉及到单一系统中单一业务的处理。不同业务的数据特征具有很大的差异性,不同系统架构中的服务器与设备的处理能力、通信能力以及其它可用资源也是不同的,这可能会导致同一种方法对于不同的移动设备集群有不同的学习结果。因此,很难找到一种普适的方案去兼容多元化的系统结构与多样化的业务。此外,目前存在大量不同的AI算法编程框架,如何保证分布式边缘节点上不同编程框架训练出的AI模型的可移植性也是阻碍EI发展的难点之一。
推荐阅读:《从云到边:边缘智能开启 AI 新时代 加速行业落地.pdf 》