用Tinyml和自动化机器学习构建有效的物联网应用

IOT可以使用微小传感器持续监控环境和机器。传感器技术,微控制器和通信协议的进步使IOT平台的大规模生产,具有许多连接选项,可能以实惠的价格。由于IOT硬件的成本低,传感器正在公共场所,住宅和机器上大规模部署。

这些传感器监视与其部署环境相关的物理属性,24/7,并生成大量数据。例如,展开在旋转机器上的加速度计和陀螺仪不断地记录附接到轴的转子的振动图案和角速度。空气质量传感器连续监测空气中的气态污染物,室内或户外。婴儿监视器中的麦克风始终倾听。智能手表内的传感器不断测量重要的健康参数。同样,各种其他传感器,如磁力计,压力,温度,湿度,环境光等,在任何部署的地方测量物理条件。

机器学习(ML)算法使得能够在此数据中发现有趣的模式,这超出了对手动分析和检查的理解。物联网设备和ML算法的融合使得各种智能应用和增强的用户体验能够通过低功耗,低延迟和轻量级机学习推断,即Tinyml来实现。许多行业垂直在图1中铰接的收敛性彻底改变,包括但不限于可穿戴技术,智能家居,智能工厂(行业4.0),汽车,机器视觉等智能消费电子设备。

Tinyml与自动化机器学习

由于多种优点,在IOT设备上部署的ML算法在IOT设备中的微控制器(MCU)尤其如此:

  • 数据隐私和安全性:ML推理发生在本地嵌入的微控制器上,而不是必须将数据流传输到云以进行处理。数据仍然是设备和现场,在那里它是私有和安全的。
  • 节能:Tinyml算法由于数据传输没有/小而导致的功率远低得多。
  • 低延迟和高可用性:由于在本地执行推理,延迟是按毫秒顺序,而不受网络延迟和可用性的约束。

点击查看完整大小的图片

图1:TinyML为传统的IOT设备添加了高级功能(来源:Qeexo)

自动化机器学习使用传感器数据涉及图2中阐明的步骤2.在这些步骤之前完成传感器的配置和目标ML应用的质量数据的集合。 Qeexo Automl等自动化机器学习平台管理用于构建用于ARM Cortex-M0-To-M4类MCU和其他受限环境的轻量级和高性能机器学习模型的整个工作流程。

点击查看完整大小的图片

图2:Qeexo Automl工作流程(来源:QEEXO)

Tinyml采用ARM®Cortex™M0 +架构

传感器的IOT技术和大规模部署要求的扩散正在进一步推动微控制器架构和机器学习计算的边界。例如,在48 MHz上运行的ARM Cortex M0 + MCU广泛用于由于其低功耗配置文件而设计用于IOT应用的传感器板。它仅与Cortex M4版本相比仅绘制7 mA,以64 MHz运行并绘制15mA。

Cortex-M0 + MCU额定值的低功耗率为降低内存和计算配置文件。 M0 + MCU只能执行32位固定点数学运算,没有饱和算术支持,缺少DSP功能。基于此MCU,Arduino Nano 33 IoT是流行的物联网平台之一,只有256 kB的闪光灯和32 KB的SRAM。相比之下,具有Cortex M4架构的流行传感器模块,Arduino Nano 33 BLE Sense可以做32位浮点操作,具有DSP和饱和算术支撑,以及SRAM的闪存的四倍和八倍。

与M0的机器学习算法部署到M0 +上的数量级比在M4上部署相比,由于这三个主要挑战:

  • 固定点计算: 具有传感器数据的典型机器学习涉及数字信号处理,特征提取和运行推断。传感器信号的统计和频率基(例如,FFT分析)特征的提取对于高性能机器学习模型的开发至关重要。表示真实世界的物理现象的传感器数据流是非静止的。一般而言,从非静止传感器信号提取的信息越好,机会越好,用于开发具有高性能的ML型号。在保持商业级精度和性能的同时执行定点表示中的数学操作是具有挑战性的。完全定点机器学习管道以传感器数据表示开始,并运行一直到模型推断,以产生分类/回归输出。
  • 低内存容量: 256 KB的闪光灯和32 kB的SRAM对机器学习模型的大小和运行时内存的持续限制这些型号可以在执行期间使用。实际机器学习问题通常具有由具有大量参数的机器学习模型表示的复杂决定/分类边界。对于基于树的集合模型,解决此类复杂问题可能导致深树木和大量助推器,影响模型大小和运行时存储器。模型规模的减少通常以牺牲模型性能的成本 - 通常不是最理想的折衷标准。
  • 低CPU速度: 在为商业部署的模型选择模型时,低延迟一直是一个密钥指标。在48 MHz M0 +架构上牺牲了16 MHz时钟速度与64 MHz M0架构相比,在毫秒级延迟测量方面会产生很大的不同。

Automl M0 +框架

Qeexo. Automl提供了解决这些挑战,提供了一个定点机器学习管道,高度优化了ARM Cortex M0 +架构。该管道包括处理固定点,定点特征计算和基于树的集合算法的传感器数据,例如梯度升压机(GBM),随机林(RF)和极端梯度升压( XGBoost)算法。 Qeexo Automl在非常高效的数据结构中对集合模型参数进行编码,并将它们与解释逻辑相结合,导致M0 +目标的极快推断。图3阐明了Qeexo开发的固定点机器学习管道,用于ARM Cortex M0 +嵌入式目标。

点击查看完整大小的图片

图3:qeexo automl m0 +推理管道(来源:qeexo)

Qeexo. Automl执行专利申请专利模型压缩和量化,以进一步降低开发集合模型的内存占用空间,而不会影响分类性能。图4描述了Cortex M0 +嵌入目标的Qeexo自动培训过程。

点击查看完整大小的图片

图4:qeexo automl m0 +训练管道(来源:qeexo)

智能修剪

智能修剪允许在没有性能损失的情况下压缩模型。 Qeexo Automl以简单的术语提出,首先由超参数优化器建议建立一个全尺寸的集合模型,然后智能选择最强大的助推器。

这种成长较大模型的方法然后智能地修剪目标部署的方法比在第一位置建立较小的模型更有效。初始更大的模型给出了选择高性能助推器(或树木)的机会,最终会导致更好的模型性能。

如图5所示,压缩的集合模型约为1/10 TH. 完整模型的大小,同时具有更高的交叉验证性能。 (X轴表示集合模型中的树木(或助推器)的数量,Y轴代表交叉验证性能。)注意我们的Qeexo Automl智能修剪方法仅选择20个强大的助推器,导致90%的压缩在模型尺寸。

点击查看完整大小的图片

图5:Qeexo Automl Intelligent Model修剪(来源:Qeexo)

集合模型量化

Qeexo. Automl执行合奏算法的训练后量化。训练后量化是基于神经网络的模型的商品化特征,并在框架中支持出箱中的框中,如Tensorflow Lite。然而,集合模型的量化是Qeexo的专利待处理技术,可以进一步降低模型大小,同时提高MCU级延迟,几乎没有于模型性能下降。 Qeexo Automl M0 +管道生成以32位精度表示的固定点集合模型。 16位和8位量化的其他选项可以进一步将模型分别逐渐减小2倍至3倍的加速。

示例用例Tinyml

什么有点inyml应用程序或用例?有无限的可能性,我们突出了一些:

  1. 我们希望制作一个智能的AI启用墙,用户可以轻触控制照明(打开/关闭并改变光的强度)。我们可以定义与开/关和强度控制相关联的手势,然后使用连接到墙壁后部的加速度计和陀螺模块收集和标记手势数据。通过此标记数据,Qeexo Automl可以使用AI算法来构建模型以检测墙上的“敲击”和“擦拭”手势以控制照明。在里面 视频  下面,您可以在几分钟内看到由Qeexo Automl开发的原型智能墙。
  2. 使用机器学习和IOT,我们希望根据运输指南确保在极端照料处理货物。在里面 视频  下面,您可以看到如何启用AI的运送盒,可以检测如何从源到目的地处理货物。
  3. 使用物联网的AI融合也可以制作智能厨房台面。这 video 下面显示Qeexo Automl建造模型,以检测各种厨房用具。
  4. 机器监控是Tinyml最有前途的使用情况之一。在中检测到多个机器故障模式 视频  below.
  5. 异常检测是另一个从机器学习中受益的一种情况。通常,难以在工业环境中收集各种故障的数据,而监控机器的健康运行状态相对容易。只需观察健康的运行状态,Qeexo Automl算法可以为异常检测开发AI系统,如图所示 part 1 (以下), part 2, part 3part 4.

  6. 使用嵌入式穿戴物的传感器的活动识别是另一个用例,这些用例受益于我们的日常生活。这 视频 下面演示了在几分钟内使用Qeexo Automl建立活动识别解决方案。

rajen Bhatt博士 是工程总监 Qeexo. ,领导一支机器学习工程师团队开发革命性的ML平台和产品。他广泛的专业领域包括机器学习,计算智能,计算机视觉和产品工程。 BHATT博士撰写了超过35个同行评审的论文,一本关于模式分类算法的书籍,是印度,美国和韩国20个授予专利的发明者/共同发明人。 BHATT博士是IEEE,IEEE认证的产品工程领导者的高级议员印度理工学院德里校友,并在加入Qeexo之前为三星和博世研究中心工作了三星和博世研究中心。
蒂娜尚源 是产品营销总监 Qeexo. ,她帮助企业应用Qeexo Automl使用传感器数据构建创新解决方案。她对建筑和发射尖端机学习技术的热情,并推出了许多成功的ML产品。 Tina是在边缘运行机器学习的倡导者,积极贡献Tinyml社区。她拥有来自哥伦比亚大学的MBA,来自UC Berkeley的eecs的BS学位。

相关内容:

更嵌入, 订阅嵌入式’S每周电子邮件时事通讯.

发表评论

本网站使用AkisMet减少垃圾邮件。 了解如何处理评论数据.

发布时间: 2021-05-13 14:27:30

最近发表