《ABI Research&恩智浦:边缘机器学习大众化时代白皮书(15页).pdf》由会员分享,可在线阅读,更多相关《ABI Research&恩智浦:边缘机器学习大众化时代白皮书(15页).pdf(15页珍藏版)》请在三个皮匠报告上搜索。
1、 边缘机器学习大众化时代执行摘要智能边缘设备的大量涌现已从根本上改变了人与机器间的交互。智能设备可丰富用户体验,自动化日常工作,增强流程和工作流程,提高企业生产力,促进商业生产力和业务增长,并提高人类社会的整体幸福感。促成这些变化的一项基本技术是边缘机器学习(ML)。通过将推理工作负载置于边缘,可针对处理和电源资源有限的环境简化并优化机器学习实现。边缘机器学习使智能更贴近终端设备,从而实现更快速更可靠的决策制定,同时维护数据安全与隐私。ABI Research预测,2021年至2026年,具有边缘机器学习功能的设备出货量将以24.5%的平均复合增长率(CAGR)增长。开发人员深知该市场潜力,都
2、希望能够利用该技术,但在开发模型和产品时却面临着各种挑战。值得庆幸的是,他们可以从不同边缘机器学习解决方案提供商那里选择适合自己的组件。本白皮书概述了开发人员在为其边缘机器学习项目选择最佳处理解决方案时需要考虑的关键因素,即定制的处理性能、更高的能源效率、易于使用的开发环境、增强安全和广泛的生态系统。关注这五个因素将有助于开发人员进行边缘机器学习设计、开发和部署,并使其能够抓住边缘机器学习市场的增长机会。Lian Jye Su首席分析师目录执行摘要.1边缘机器学习和智能边缘的兴起.2边缘机器学习成功的关键因素.4定制的处理能力.7更高的能源效率.8易于使用的开发环境.9增强安全.10大型生态系
3、统.11边缘机器学习的普及.53035404550020002020212边缘机器学习大众化时代边缘机器学习和智能边缘的兴起基于云的人工智能(AI)的普及已经彻底改变了许多企业的决策制定过程。通过利用物联网(IoT)的进步,企业实现了资产、工具和设备与云端数据采集平台互连。利用这些平台,企业可收集实时数据进行分析,以更好地了解其运营,同时发现实现进一步优化、安全和自动化的机会。因此,基于云的人工智能已成为实现工作流程自动化和提高运营效率的关键工具。多年来,互联设备的使用呈爆炸式增长,全球物联网连接总量从20
4、14年的10亿增长至2021年的86亿,CAGR达到35.4%。图表1:全球物联网连接以及数据和分析服务收入:2014至2021(资料来源:ABI Research)边缘互联时代使人们对从这些设备提取数据并实时理解这些数据产生了强烈需求。企业开始采用基于云的人工智能服务和物联网管理平台,如实时数据流、采集和存储、基于人工智能的数据分析以及描述性和预测性维护。一般而言,人工智能主要有两种类型,即基于规则的人工智能和基于机器学习的人工智能。基于规则的人工智能模型为自动化决策制定系统,基于人类专家知识构建而成。虽然这些人工智能系统可提供确定性输出,但它们受限于人类知识水平。随着企业开始采集更多数据,
5、它们希望能够了解所收集数据的含义,确定其环境并得出见解。然而,基于规则的人工智能模型并不是交付数据驱动型见解的理想选择。另一方面,基于机器学习的人工智能模型可实现这一功能。机器学习模型可基于其分析的数据得出见解。同时,此类模型还可以在数据分析过程中自动学习并提高自己的准确性。近几年,一种基于深度神经网络(DNN)的机器学习技术越来越受欢迎,即深度学习(DL)。深度学习模型的目标是通过特征工程对大量数据进行多层处理,以识别其模式,优化决策制定并获得更准确的预测。物联网连接(十亿)收入(十亿美元)物联网连接数据和分析服务收入 连接重点,边缘无机器学习。边缘的机器学习推理。专注于单一任务。一个由相互
6、通信和交互的智能设备组成的结构。更复杂的机器学习推理,潜在的机器学习训练。3边缘机器学习大众化时代在机器学习开发的早期阶段,机器学习开发人员将所有模型(包括训练和推理工作负载)托管在云中,以便利用云计算的可扩展性、灵活性和成本效益。当时的机器学习模型规模庞大,不适合部署在边缘设备上。尽管基于云的人工智能可提供数据驱动型见解,但该技术也面临几个根本的局限性:连接:云人工智能需要持续的连接。云连接的丢失成为基于云的人工智能的单一故障点。企业需要在电信基础设施方面投入更多资源,以保持边缘设备的云连接。用户体验:云端处理需要一系列操作,首先将数据发送到云,对数据进行修剪和处理,然后生成响应。这一系列操
7、作会引起延迟,因为完成整个流程需要时间,从而导致糟糕的用户体验。数据安全和隐私:基于云的人工智能要求在云中发送和处理所有数据。因此,基于云的人工智能成为许多用户的关键和敏感信息存储库,从而成为黑客的攻击目标。此外,与单个边缘设备攻击相比,恶意分子只要投入足够的时间和精力,就可以访问并操控云中的更多数据。在了解基于云的人工智能面临的挑战后,机器学习开发人员社区开始采用新方法。他们通过智能边缘让智能更贴近终端设备。智能边缘可将数据处理和机器学习推理工作负载转移到整套传感器和边缘设备中。利用设备端推理功能,设备可以收集实时数据点,处理数据,并生成数据驱动型输出,同时尽可能减少延迟。其目标是利用关键任
8、务数据进行实时预测,包括机器视觉、语音识别、生物识别和异常检测。图1:.边缘设备的演变(资料来源:ABI Research)此外,在边缘对原始数据进行预处理意味着设备无需依赖持续的云连接。如今,以移动为中心的设备(如自动移动机器人、无人机、机器人出租车和自动消费车)具备设备端机器学习功能,且无需以太网连接或无处不在的无线连接。此外,由于边缘设备可处理原始数据,这些潜在的隐私关键型敏感数据不会再被发送到云端。这样一来,企业就可以将网络安全风险降至最低,并遵守消费者数据隐私要求。互联边缘智能边缘环境感知 边缘 4边缘机器学习大众化时代尽管机器学习具有一定优势,但智能边缘的机器学习仍取决于设备和用例
9、。为提供更全面的无缝用户体验,边缘设备需要具备环境感知功能。环境感知边缘设备允许同一环境下的设备进行通信和交互,并根据这些交互做出决策和预测。通过在这些设备中使用复杂的机器学习模型,未来的用例(如本地环境个性化、熄灯工厂以及远程患者诊断和护理)将开始逐一实现。尽管如此,在环境感知边缘成为主流之前,行业仍需克服几大障碍。首先,环境感知边缘设备需要设备间无缝通信网络和实时信息交换。其次,这些设备需要运行高级模型,即多模态学习模型。这些模型通常需要密集型计算能力,以处理和协调来自多个传感器的输入,包括图像、音频、温度、压力和振动数据。最后,许多开发人员尚未在其产品中实现边缘机器学习。因此,业界迫切需
10、要稳定且易于使用的工具,以帮助机器学习开发人员更加熟悉环境感知边缘,并推动创建高度创新型开发人员社区。尽管边缘机器学习行业距离环境感知边缘仍有很长的一段路要走,但随着边缘机器学习的快速普及,实现环境感知边缘将指日可待。边缘机器学习成功的关键因素边缘机器学习时代已真正到来。ABI Research预测,2021年至2026年,具有边缘机器学习功能的设备出货量将以24.5%的CAGR增长。越来越多的技术供应商和公司开始投入大量资源来开发边缘机器学习解决方案和用例。与具有标准化服务器和处理器的云环境不同,边缘机器学习是一个多样化市场,涵盖了广泛的垂直领域、设备外形、处理能力和用例。图表2:全球主要市
11、场领域中具备边缘机器学习能力的设备总出货量:2021至2026(资料来源:ABI Research)3.KEY SUCCESS FACTOR FOR EDGE MLThe age of edge ML has truly arrived.ABI Research estimates that the total shipments of devices withedge ML capability will grow at a CAGR of 24.5%from 2021 to 2026.More and more technologyproviders and companies are c
12、ommitting extensive resources to develop edge ML solutions and usecases.Unlike the cloud environment,which has standardized servers and processors,edge ML is adiverse market covering a broad range of verticals,device form-factors,processing power capabilities,and use cases.Chart 2:Total Device Shipm
13、ents with Edge ML Capability by Key CategoriesWorld Markets:2021 to 2026(Source:ABI Research)Chart 2 shows that consumer devices(smartphones,gaming consoles,wearables,and smart homedevices)are the largest market for edge ML,commanding 85%of the overall market.However,whileconsumer applications remai
14、n highly influential to the development and innovation of edge ML,morevendors are looking at opportunities outside this vertical.They have developed and offered vertical-specific solutions for automotive,agriculture,healthcare,industrial and manufacturing,retail,robotics,0.00.51.01.52.02.53.03.54.02
15、022420252026出货量(十亿)公共基础设施工业健康保健消费电子商用汽车缘机器学习大众化时代 5 图2表明,消费电子设备(智能手机、游戏机、可穿戴设备和智能家居设备)是最大的边缘机器学习市场,占整个市场份额的85%。然而,虽然消费电子应用仍对边缘机器学习的开发和创新具有高度影响,但越来越多的供应商开始寻求该垂直领域之外的发展机会。越来越多的供应商开始针对汽车、农业、健康保健、工业和制造业、零售、机器人、智能楼宇、智慧城市、交通、物流和公用事业等特定垂直领域提供相应解决方案。从2022年起,这些垂直领域对边缘机器学习的需求预计将呈指数级增长。图表3:全球主要市场领域中
16、具备边缘机器学习能力的设备总出货量:2021至2026(资料来源:ABI Research)通过具体了解几个主要垂直领域,我们发现边缘机器学习的重要性十分明显:汽车:汽车应用一直都是边缘机器学习开发的主要驱动因素。技术供应商竞相推出针对高级驾驶辅助系统(ADAS)和自动驾驶的硬件、软件和服务。关键用例包括自适应巡航控制、同步定位与建图(SLAM)、驾驶员监测、横向和纵向辅助、夜视、个性化原始设备制造商(OEM)嵌入式信息娱乐系统以及无人出租车。虽然目前市面上的大部分车辆都处于ADAS L0和L1水平,但预计汽车市场将经历快速变化。目前,奥迪、福特、通用和特斯拉等新车普遍采用L2自动驾驶技术。开
17、发人员正在努力实现L3和L4,早期的L5车辆将在2025年测试和发布。ABI Research预测,2021年至2026年,具有边缘机器学习功能的汽车出货量将增加4.5倍。商用:边缘机器学习普及的最明显迹象就是边缘机器学习设备在商业领域的涌现。ABI Research预测,未来五年,零售、智能楼宇以及交通物流领域的边缘机器学习设备出货量将分别增长2倍、4倍和1.7倍。零售商开始逐渐部署面向智能付款台、库存监控和仓库执行的自动解决方案。如今,商业楼宇配备了各种楼宇自动化系统,这些系统利用智能传感器和摄像头进行占位检测、温度调节以及确保安全。交通Chart 3:Total Device Shipm
18、ents with Edge ML Capability by Key CategoriesWorld Markets:2021 to 2026(Source:ABI Research)Looking specifically at several major verticals,the importance of edge ML becomes apparent:Automotive:Automotive applications have been the main driver for the development of edge ML.Technology vendors compe
19、te to introduce hardware,software,and services that target AdvancedDriver Assistance Systems(ADAS)and autonomous driving.Key use cases include adaptivecruise control,Simultaneous Location and Mapping(SLAM),driver monitoring,lateral andlongitudinal assistance,night vision,personalized Original Equipm
20、ent Manufacturer(OEM)embedded infotainment,and driverless taxis.While most vehicles on the road are at ADAS Level0 and 1,the automotive market is expected to undergo rapid change.Level 2 of autonomy iscurrently widely adopted in new vehicles such as Audi,Ford,GM,and Tesla.Developers areworking towar
21、ds Level 3 and Level 4,with early Level 5 vehicles to be trialed and launched by2025.ABI Research expects the shipment of automobiles with edge ML capability to increase by4.5x from 2021 to 2026.Commercial:The most promising sign for edge ML democratization is the proliferation of edgeML devices in
22、commercial settings.ABI Research expects the shipment of edge ML devices inretail,smart building,and transport and logistics to grow at 2x,4x,and 1.7x,respectively,in thenext five years.Retailers are increasingly deploying autonomous solutions for smart checkouts,stock monitoring,and warehouse fulfi
23、llment.Commercial buildings are now equipped with variousbuilding automation systems that utilize intelligent sensors and cameras for occupancy detection,temperature regulations,and security.Transport and logistics companies are deploying intelligent sensing systems across heavy machinery and infras
24、tructure.For example,truck and rail service0.00.10.20.30.40.50.62022420252026出货量(十亿)公共基础设施工业健康保健商用汽车6边缘机器学习大众化时代物流公司开始在重型机械和基础设施中部署智能传感系统。例如:卡车和铁路运输服务提供商可执行设备管理和预测性维护,而仓储服务提供商则可以在其存储设施中实施简单的货盘计数和环境控制。健康保健:与其他垂直行业相比,健康保健机构在采用人工智能方面的进展比较缓慢。进展缓慢的主要原因包括严格的法规、属于风险规避领域以及优先确保高准确性和高精度的要求。因此,在可预测的
25、未来,健康保健并不是边缘机器学习市场的重要组成部分。尽管如此,由于其基数较低,具有边缘机器学习能力的健康保健设备出货量预计在未来五年将实现6倍增长。COVID-19疫情进一步表明,健康保健是最迫切需要采用边缘机器学习解决方案的领域之一。随着智能医院的出现,具有边缘机器学习能力的医疗设备可以安全可靠地实现一些关键工作负载,包括患者监护和筛查、临床诊断、个性化治疗、用药处方、远程医疗等。医院现在可以通过智能设备的操作洞察力来增强医务人员的知识,从而有效地管理其资源、人员和能力。工业:农业、石油和天然气以及制造业的工业企业都使用边缘机器学习来实现整体效率的提升、缺陷检查、预测性维护、工作场所安全管理
26、和自动物料处理。近期的工厂资产数字化也侧重于流程自动化、远程工厂车间操作以及灵活的基础设施维护和升级。自动移动机器人和叉车中也部署了基于机器学习的机器视觉,以实现定位和导航、物品分拣、分类和分割。鉴于这些数据对生产和工作流程的敏感性和关键性,工业和制造业公司对公布的数据非常谨慎。因此促进了他们在工作场所广泛采用边缘机器学习设备和服务器。由于起始基数小,具有边缘机器学习能力的工业设备出货量预计在未来五年将实现20倍增长。公共基础设施:公共基础设施是指部署在智慧城市中的边缘机器学习设备。数十年来,城市一直面临着拥堵、污染和安全等挑战。因此,许多城市都在积极探索边缘机器学习能力。例如:智能交通管理、
27、自动驾驶车辆、行人流量监测和管理、物理和周边安全以及预防性威胁检测等应用都部署了具有深度学习模型的智能摄像头,以实现决策制定的自动化和增强。与此同时,智能传感器已被嵌入各种公共资产和基础设施中,以收集信息,并提供公共场所的洞见,从而创建可持续的弹性城市。因此,预计2021年至2026年的出货量将翻倍。为有效地应对上述边缘设备和用例的多样性,机器学习开发人员需要拥有数据操作、机器学习工程、嵌入式系统设计以及边缘机器学习硬件和软件方面的大量专业知识。然而,并非所有开发人员都具备成功实施边缘机器学习项目所需的知识。同时,边缘机器学习应用必须得到最优机器学习硬件的支持,以实现成本、性能和能效之间的适当
28、平衡。最后,如果没有来自边缘机器学习处理器供应商的重要贡献,边缘机器学习的市场渗透将是有限的。芯片供应商应组合必要的工具,以帮助整个开发人员生态系统克服这些限制,特别是针对机器学习开发人员。近年来,边缘机器学习处理器供应商针对推动边缘机器普及的五个关键因素推出了一些创新解决方案:处理性能、能效、开发环境、增强安全以及供应商生态系统。7边缘机器学习大众化时代定制的处理能力通用处理器并没有为处理机器学习工作负载而优化。因此,它们通常会消耗大量处理资源和电量。此外,这些处理器的计算能力通常超过受能耗、设备尺寸和成本限制的边缘设备。边缘设备和超低功率传感器日益增加的复杂性加剧了这一问题,因为这些设备在
29、部署复杂性、设备成本、延迟和处理能力方面存在显著差异。机器学习开发人员必须确定最优处理架构和性能,以便在其独特用例的边缘运行机器学习工作负载。与此同时,随着各种新型机器学习用例的出现,开发人员将必须要不断调整他们的基础设施。这就增加了对异构计算架构的需求,此类架构采用多个处理内核和计算引擎,每个内核和引擎都专用于处理指定机器学习工作负载。例如,由于内存和计算资源更为有限,微控制器(MCU)更适合用于处理较低复杂性的机器学习模型,如支持矢量机器(SVM)、决策树或具有数层或类似机器学习算法的紧凑卷积神经网络(CNN)。相比之下,拥有更强大的中央处理单元(CPU)的微处理器(MPU)能够更好地处理
30、复杂的深度神经网络(DNN),但并未针对此应用进行优化。除了MCU和MPU,机器学习开发人员还可以在更专业的加速器架构上运行其机器学习工作负载,如数字信号处理器(DSP)、图形处理单元(GPU)或神经处理单元(NPU),具体取决于用例。表1:关键边缘机器学习用例及其特性(资料来源:ABI Research)关键用例机器学习复杂性数据来源理想的计算引擎异常检测低时间序列数据MCU、CPU唤醒词检测低音频MCU、DSP、CPU图像分类低图像MCU、NPU、CPU计算摄影中图像CPU、GPU、NPU路径规划和路线优化高图像+时间序列数据CPU、GPU、NPU实时视频内容分析高图像+音频+时间序列数据
31、CPU、GPU、NPU总而言之,异构计算架构可提高边缘设备的机器学习性能。领先的边缘处理芯片供应商主动利用异构架构来提高灵活性和可用性,且不会降低能效,增加成本。恩智浦就是一个很好的例子。该公司在其可扩展的EdgeVerse产品组合中提供了广泛的计算选项,有Arm Cortex-M内核、高性能Cortex-A内核以及其他计算引擎(如GPU、DSP和NPU)。2020年,该公司推出了i.MX 8M Plus应用处理器,该处理器带有专门用于高级机器学习推理的NPU。随后,恩智浦于2021年推出了i.MX 9系列高性能应用处理器。该系列Cortex-MCortex-MCortex-ACortex-M
32、IP2IP1IP3Cortex-AIP2IP1IP3DSPGPUDDR方法1仅面向实时应用的MCU实时计算领域应用计算领域应用计算领域实时计算领域弹性计算领域实时计算领域存储器图形(GPU)存储器连接音频(DSP)连接定时器存储器(DDR)音频视频定时器方法2面向实时应用的MCU面向非实时工作负载的CPU方法3面向实时应用的MCU面向更大工作负载的CPU针对特定产品加速的弹性领域8边缘机器学习大众化时代采用EdgeLock安全区域和Energy Flex架构,以提高边缘安全和能源效率。利用恩智浦多样化的产品组合,机器学习开发人员可以在所有类型的边缘设备上扩展其机器学习应用。更高的能源效率边缘设
33、备的能效对于边缘机器学习至关重要,原因如下:边缘设备的涌现导致了能耗增加。许多公司都意识到并密切关注其不断增加的能耗。许多公司开始积极寻求既环保又能减少能源消耗和浪费的解决方案。在边缘设备上运行机器学习模型会消耗大量能源。边缘设备通常采用电池供电,而且公司也希望能够延长并最大化其使用寿命。频繁更换设备电池可能会中断整个工作流程,从而大幅增加整体维护和运行成本。解决能效挑战的最佳方法就是在设计边缘机器学习系统时要考虑到能效因素。因此,边缘机器学习处理器供应商需要具备广泛的产品组合和强大的能源管理工具套件来支持该系统。图2:实现高能效的能源管理方法(资料来源:ABI Research)原始数据捕获
34、整理和标记模型生成和训练模型测试、验证和优化固件代码生成监测和再训练9边缘机器学习大众化时代最直接的方法就是使用仅MCU架构,如方法1中所述。这种方法非常适用于机器学习复杂性较低的实时应用。然而,如果机器学习应用需要更多计算资源,机器学习开发人员就应该考虑使用能够在待机期间尽量减少能耗的双层系统,如方法2中所示。在这种情况下,实时计算领域被指定为始终打开状态,以便处理和过滤传入的数据。一旦达到某个阈值,就会激活应用计算领域。通过使低功耗MCU处于始终打开模式,功耗较高的CPU则可以保持空闲,从而降低边缘设备的整体能耗,延长电池使用寿命。例如,语音控制前端设备采用低功耗MCU内核和侦听唤醒词的唤
35、醒电路。当检测到唤醒词时,实时计算内核将时钟转到主CPU,以便处理数据。对于机器学习复杂性更高的用例,开发人员可以利用弹性计算领域,这种架构实现可以为特定应用优化提供加速功能,如NPU、DSP或高速输入/输出(I/O)。弹性计算领域甚至可以与实时领域相结合,以扩展处理能力,而无需启用功率密集型应用计算领域。与应用计算领域一样,弹性计算领域可以上电和断电,在需要的性能点工作,从而尽可能减少能耗。例如,恩智浦的Energy Flex架构包括一个可编程能源管理子系统,可为电池供电式和插入式设备提供多种电源模式配置。因此,开发人员可以为其机器学习应用创建出色的能效配置。此外,子系统的可编程性意味着开发
36、人员能够以软件定义的方式优化配置,而无需更换任何硬件。易于使用的开发环境通过投资一个具备数据科学、固件和软件技术、应用界面设计和全栈开发等技能的机器学习开发团队,公司可以自行开发自己的机器学习解决方案。然而,这种方法需要大量投资和较长的开发周期。例如,即使机器学习开发人员已经收集并标记了所有必要的训练数据,并开始使用现有机器学习模型,边缘机器学习部署也可能还需要12到16周时间。更复杂的是,公司还会面临边缘设备数据管理和模型优化方面的挑战,以及数据科学家和机器学习人才的短缺问题。不出所料,定制边缘机器学习开发远远超出了许多小型公司的能力范围。因此,他们急需创新解决方案,使其能够快速便捷地开发和
37、部署支持机器学习的应用。通过将常用的边缘机器学习处理器与全面且易于使用的边缘机器学习开发环境结合起来,处理器供应商可以显著降低进入门槛,缩短上市时间。图3显示了对整个边缘机器学习开发至关重要的主要特性。图3:边缘机器学习运算的关键组件(资料来源:ABI Research)10边缘机器学习大众化时代所有边缘机器学习开发都是从数据操作开始的。如果没有适当的数据管理工具来收集、跟踪和标记数据,那么构建边缘机器学习模型的任何努力都将是徒劳的。机器学习开发环境可以帮助开发人员建立稳定的采集后数据管理平台,从而以适当的格式和数据库传输、分类和存储传入的数据。收集数据后,需要对数据进行清理和整理。因此,开发
38、人员需要维护适当的数据管治实践,以确保数据的可用性、实用性、完整性和安全性。一旦数据准备就绪,机器学习开发人员就需要识别、训练、调整和测试适用于所需边缘设备的机器学习模型。因此,稳定的机器学习开发环境必须提供广泛的机器学习模型库、推理引擎和神经网络(NN)编译器,同时为目标边缘设备提供正确的模型压缩和优化方法。此外,专注于微型机器学习(TinyML)的机器学习开发人员需要具备更先进的模型压缩技术和嵌入式系统设计专业知识。当机器学习模型投入生产时,机器学习开发环境还必须让开发人员能够同样方便地了解模型性能。如果模型性能下降,开发人员可以使用开发平台来重新训练模型,并无缝更新边缘设备。在单一平台上
39、支持所有这些功能可消除摩擦,并大大促进机器学习开发。用户体验至关重要,特别是对于具有有限的数据科学和机器学习工程背景的开发人员来说。例如,恩智浦针对各种经验水平的开发人员创建了eIQ机器学习软件开发环境。eIQ软件具有推理引擎、NN编译器、库以及硬件抽象层,支持Google TensorFlow Lite、适用于微控制器的TensorFlowLite、Arm NN、Glow NN编译器以及适用于基于视觉、音频和时间序列传感器数据的机器学习应用的专有DeepViewRT推理引擎。此外,利用恩智浦在嵌入式系统设计方面的专业知识,开发人员能够轻松地在嵌入式系统中设计和部署机器学习应用。更重要的是,机
40、器学习开发人员可以采用模块化方法进行eIQ机器学习软件开发。机器学习开发人员可以使用自己的数据和模型,自由挑选想要使用的功能,完全不必担心会被锁定在整个生产环境中。通过使用恩智浦的eIQ工具套件,其客户可以开发并在各种用例中部署机器学习模型,如安全门禁的人脸识别、电梯的语音识别等。增强安全随着边缘设备互联程度越来越高,它们越来越容易受到网络威胁。边缘设备的网络安全资源通常比较有限,带宽低且有损耗,同时缺乏软件更新和隐私保护。设备数量的增加也意味着测试和调试流程可能会变慢,或者在某些情况下,为了加快部署而被降低优先级。老旧设备也会因为达到了使用寿命而面临着终止支持(EOS)的风险,从而成为黑客的
41、非法入口。因此,许多设备制造商通过分立式安全处理器采用基于硬件的安全性。与基于软件的安全解决方案相比,基于硬件的安全要稳定得多。恶意分子会发现难以改变计算系统的物理层。专注于安全的半导体公司(如恩智浦)可提供广泛的安全解决方案,包括分立式安全芯片、认证集成电路、安全嵌入式处理器(如MCU和MPU)以及可信平台模块。11边缘机器学习大众化时代然而,随着互连设备的数量呈指数级增长,网络攻击变得更加无情和复杂,管理分布在片上系统(SoC)中的安全解决方案已成为一项复杂的任务。因此,需要采用一种全新的可扩展方法来为数以千计的设备提供系统范围的安全更新。随着在SoC中引入片上安全子系统,开发人员可以选择
42、使用专用安全内核、内部只读存储器(ROM)和安全随机访问存储器(RAM)来实现独立的安全解决方案。安全子系统与其他处理器内核隔离,旨在支持SoC内明确定义的安全边界,存储和保护密钥资产,包括信任根和加密密钥,以保护系统免受物理和网络攻击。这些安全子系统还可与预先配置的安全策略捆绑在一起,以降低安全实现的复杂性,最大限度地缩短上市时间。2021年,恩智浦发布了EdgeLock安全区域,即一个预先配置的安全子系统,包含自主管理关键的安全功能,其中包括通过广泛加密服务增强的芯片信任根、运行时验证、信任配置、SoC安全启动执行和细粒度密钥管理,以实现高级攻击防御。此外,恩智浦还与Microsoft合作
43、,为其i.MX 8ULP-CS和带有Azure Sphere的特定i.MX 9设备提供智能安全性,其中包括响应式芯片到云安全服务和持续安全改进。包括托管安全服务、最新安全认证、持续的操作系统更新以及安全改进在内的优势有助于OEM应对新出现的威胁,并可提供持续更新,以帮助确保设备的安全,即使设备部署在现场也是如此。大型生态系统成功的另一个关键因素是丰富的生态系统。边缘机器学习用例的多样性和计算架构的异构性使软件开发、互操作性和技术支持、工业专业知识、应用设计和部署以及监控和未来升级等变得更加复杂。通过建立广泛的行业伙伴关系,边缘机器学习生态系统供应商可帮助减少挑战。从处理器供应商到软件即服务(S
44、aaS)供应商、硬件原始设备制造商(OEM)、系统集成商(SI)和云服务提供商,每个成员在实现边缘机器学习部署方面都有自己独特的作用和价值主张:处理器供应商可为边缘机器学习应用提供安全的高能效异构计算芯片。此外,通过清晰的产品路线图,它们还可以提供及时的更新,以满足未来边缘机器学习应用不断增长的需求。SaaS和完整服务供应商可提供支持边缘机器学习开发、部署和监控的平台、库和工具。此外,他们还支持由主要机器学习处理器供应商提供的所有机器学习应用和常用的开源机器学习框架。硬件OEM针对边缘环境推出了标准化硬件,并在容器和微服务中集成了最新的开源技术,以支持轻量级环境下的部署。在这种情况下,具有领域
45、专业知识的系统集成商(SI)至关重要,因为他们可提供有价值的客户接触点和反馈。具有边缘到云产品组合的云服务提供商鼓励其开发人员社区使用熟悉的基于云的流程、工具和平台进行边缘机器学习开发。12边缘机器学习大众化时代毫不奇怪,主要边缘机器学习处理器供应商已经与其他生态系统参与者建立了密切的合作关系。例如,恩智浦已与软件和服务提供商(如Au-Zone、Arcturus和SensiML)合作,为边缘机器学习开发人员提供开发工具和工程设计服务。2021年,恩智浦和Arcturus与一家银行合作开展机器学习项目,为自动存取款机(ATM)监控系统提供基于机器学习的机器视觉解决方案。最终,通过将恩智浦i.MX
46、 8 Plus、eIQ ML开发平台与Arcturus的完整服务组合在一起,使该系统的性能提高了40倍。此外,恩智浦还与Amazo、Google、Microsoft、百度、阿里巴巴等云服务提供商建立了密切的合作关系。例如,如前所述,恩智浦最近与Microsoft的合作使开发人员能够利用Microsoft的Azure Sphere安全服务和Azure实时操作系统(RTOS)开发边缘设备。边缘机器学习的普及目前,云是人工智能的核心。大多数机器学习训练和推理工作负载都是在公共和私有云中进行的。长久以来,将这些工作负载集中到云端带来了灵活性、可扩展性和计算资源可用性等益处。然而,行业已见证了机器学习范
47、式的转变。在隐私性、网络安全性、低延迟性和增强体验需求的驱动下,机器学习开发人员越来越多地执行机器学习推理工作负载,以及进行网关、设备和传感器领域的训练。关键领域的最新进展(包括与云计算的连接、新型机器学习算法和高性能处理器)在这一转变中发挥了关键作用。图表4:全球人工智能处理器市场的年度总收入:2019至2026(资料来源:ABI Research)Chart 4:Total Annual Revenue of AI ChipsetsWorld Markets:2019 to 2026(Source:ABI Resear-interactive edge devices.End users
48、also appreciate the enhanced user experience brought b0500222023202420252026 基于云的人工智能处理器边缘机器学习处理器年收入(十亿美元)13边缘机器学习大众化时代COVID-19疫情导致边缘产品需求的回升,尤其是基于机器学习的无接触交互式边缘设备需求。对于边缘机器学习提供的数据安全性所带来的低延迟和无忧用户体验,最终用户也感到非常开心。同时,公司也在寻求让其重要数据资产变得有意义的方法。通过集成设计用于执行高速推理和量化联合学习或协作性学习模型的机器学习处理器,边缘机器学习可
49、使各个领域的设备和传感器具有任务自动化和增强功能。基于这些市场趋势,ABI Research预测,边缘机器学习处理器市场将开始增长,并在2025年超过基于云的人工智能处理器市场。尽管边缘机器学习应用正在增加,但行业仍处于初级阶段。ABI Research认为,开发人员在选择技术供应商时需要考虑以下关键因素:多样化硬件选项:机器学习开发人员不应担心受限于万能的解决方案,或者为低计算需求的工作负载改造高端处理器。灵活且可扩展的广泛产品组合使开发人员能够为其所需的机器学习工作负载挑选正确的计算架构类型。强大的能效解决方案:在功耗预算较小的设备上部署边缘机器学习应用时,能效就变得非常重要。高能效解决方
50、案允许开发人员创建自定义的功耗配置文件。此外,开发人员还可以构建适合自己机器学习工作负载的计算架构。易于使用的机器学习开发平台:公司在建立和训练面向机器学习实现的内部数据科学团队方面临着激烈的竞争。希望扩展自己机器学习背景的嵌入式开发人员往往倾向于为非机器学习工程师提供用户友好型机器学习开发平台的技术供应商。经市场检验的安全专业知识:边缘机器学习设备既是业务关键型设备,也是任务关键型设备。因此,公司一直都在寻求出色的安全解决方案,以保护通信、数据以及设备本身的安全。具有经过验证的安全专业知识的技术供应商将确保部署在边缘设备中的机器学习模型不会因恶意目的而遭破坏或被操控。各种生态系统合作伙伴:边
51、缘机器学习领域的行业联盟和合作伙伴关系至关重要。生态系统供应商提供必要的专业知识,以促进和增强机器学习开发和部署,包括物联网操作系统、高级机器学习开发工具、工程设计服务、安全管理服务以及机器学习模型管理和监控。最重要的是,ABI Research认为,帮助普及边缘机器学习的技术供应商将制定清晰的产品路线图,支持主要的机器学习框架以及各种硬件和软件解决方案之间的互操作性,并展示领域专业知识。例如,恩智浦的高性能MCU和应用处理器产品组合与计算引擎集成时,可在边缘高效地进行机器学习推理。同时,在恩智浦的eIQ机器学习软件开发环境中,机器学习开发人员可使用数据采集和管理工具以及模型转换来实现各种NN
52、框架和推理引擎,以便开发出有效的机器学习应用。此外,eIQ机器学习软件开发环境中的原生支持功能可加速边缘机器学习应用(如异常检测、预测性维护以及监控和安全)的开发。除了强大的硬件和软件能力,恩智浦广泛的安全解决方案和牢固的行业伙伴关系为机器学习开发人员提供了一套全面的解决方案,满足边缘机器学习开发、部署和安全的所有关键需求。14边缘机器学习大众化时代边缘机器学习时代已经开始,但鼎盛时期仍在未来。边缘机器学习的涌现和扩展使设备超越了一维自动化任务,进入了智能环境感知能力领域,在这个领域中,机器不断地交换见解,创建个性化的体验和空间,并自主地管理周围的其他机器。利用恩智浦等处理器供应商提供的解决方
53、案,这些智能的环境感知设备网络将成为可能,并将从根本上改变社会运作、交互和生活的方式。2021年10月发布157 Columbus Avenue 4th FloorNew York,NY 10023+1.516.624.2500关于ABI ResearchABI Research为全球技术领导者、创新者和决策者提供切实可行的见解和战略指导。我们的研究重点是能够大幅改变当今行业、经济和劳动力格局的变革性技术。ABI Research的全球分析师团队发布的突破性研究报告通常比其他技术咨询公司领先数年,使我们的客户能够走在市场前列,领先于竞争对手。2021 ABI Research。经许可使用。ABI Research独立制作市场分析和见解。此ABI Research产品 是ABI Research员工通过收集数据并进行客观研究的结果。ABI Research或其分析师有关任何主题的观点都会根据最新数据不断修订。本文包含的信息是从我们认为可靠的来源获取。ABI Research对本研究不提供任何明示或暗示担保,包括对适销性或特定用途适用性的任何担保。