中国电子技术网

设为首页 网站地图 加入收藏

 
 

TinyML使微控制器具有AI机器学习功能

关键词:TinyML 微控制器

时间:2021-03-23 13:27:55      来源:网络

TinyML证明了小芯片也可以发觉更多可能。这种新方法不是在大型,耗电的云端计算机上运行复杂的机器学习(ML)模型,而是在终端设备上运行优化的识别模型,而这些微控制器仅消耗不超过几毫瓦的功率。

TinyML证明了小芯片也可以发觉更多可能。这种新方法不是在大型,耗电的云端计算机上运行复杂的机器学习(ML)模型,而是在终端设备上运行优化的识别模型,而这些微控制器仅消耗不超过几毫瓦的功率。

在Arm和行业领导者Google,Qualcomm等人的支持下,这一新兴的细分市场tinyML有潜力改变我们物联网(IoT)处理数据的方式,其中数十亿个微型设备已用于提供更大的洞察力以及增强消费,医疗,汽车和工业等领域的效率。

为什么要在微控制器上使用TinyML?

诸如Arm Cortex-M系列之类的微控制器是ML的理想平台,因为它们已被广泛使用。它们可以快速,高效地执行实时计算,因此可靠性高,响应速度快,并且由于它们仅消耗很少的电量,因此可以部署在更换电池困难或不便的地方。也许更重要的是,它们足够便宜,几乎可以在任何地方使用。市场分析机构IDC报告称,2018年售出了281亿个微控制器,并预测到2023年年出货量将增长到382亿个。

微控制器上的ML成为我们用于分析和理解IoT生成数据的新技术。特别是,深度学习方法可用于处理信息并理解来自传感器的数据,传感器执行诸如检测声音,捕获图像和跟踪运动之类的事情。

以紧凑格式进行高级模式识别

通过研究机器学习中涉及的数学,数据科学家发现他们可以通过进行某些更改来降低复杂性,例如用简单的8位运算代替浮点计算。这些变化创建了机器学习模型,该模型可以更有效地工作,并且需要更少的处理和内存资源。

TinyML技术的飞速发展得益于新技术和开发人员的参与。仅在几年前,我们还庆祝我们能够运行语音识别模型的能力,该模型能够在受限的Arm Cortex-M3微控制器上仅使用15 KB(KB)的代码和22KB的数据就可以检测到某些单词,以便唤醒系统。

从那时起,Arm推出了新的机器学习(ML)处理器,称为Ethos-U55和Ethos-U65,这是一种microNPU,专门设计用于加速嵌入式和IoT设备中的ML推理。

与我们今天看到的令人印象深刻的示例相比,Ethos-U55与具有AI功能的Cortex-M55处理器相结合,将大大提高机器学习性能并提高能源效率。我们预计在未来12个月内会推出响应芯片。

TinyML使边缘设备更上一层楼

TinyML的潜在用例几乎是无限的。开发人员已经在与TinyML合作,探索各种新想法:响应信号灯改变信号以减少拥堵,工业机器可以预测何时需要维护,传感器可以监视农作物中是否存在有害昆虫,可以在库存不足时请求补货的货架,医疗监护仪可以在保持隐私的同时跟踪生命周期等等。

TinyML可以使端点设备更一致,更可靠,因为不再需要依赖繁忙的拥挤的昂贵的互联网连接云端,也不必进行复杂的数据传输。减少甚至消除与云的交互具有以下好处:减少能源消耗,显着减少处理数据的延迟,以及提高安全性。

当然,这些在微控制器上执行推理的TinyML模型无意取代当前在云端进行的复杂推理,这毫无价值。他们要做的是将特定功能从云降低到端点设备上。这样,开发人员可以在需要时保持云交互。

TinyML还为开发人员提供了一套功能强大的新工具来解决问题。ML使检测基于规则的系统难以识别的复杂事件成为可能,因此端点AI设备可以开始进行新任务。而且,由于ML使得可以用文字或手势来控制设备,而不是按钮或智能手机,因此可以在更具挑战性的操作环境中更坚固耐用地部署设备。

TinyML不断扩展的生态系统

行业参与者已经迅速认识到TinyML的价值,并迅速采取行动以创建一个广泛的生态系统。从热情的爱好者到经验丰富的专业人员,各个级别的开发人员,现在可都以访问易于入门的工具。所需要的只是一台笔记本电脑,一个开源软件库和一条USB线,用于将笔记本电脑连接到价格低至几美元的廉价开发板上。实际上,在2021年初,Raspberry Pi发布了他们的第一块微控制器板,这是市场上最便宜的开发板之一,仅售4美元。名为Raspberry PiPico的芯片是由RP2040 SoC供电,RP2040 SoC是一款功能强大的双Arm Cortex-M0 +处理器。 RP2040 MCU能够运行TensorFlow Lite Micro,我们预计在接下来的几个月中,该板将有各种各样的ML用例。

Arm是TinyML的强烈支持者,因为我们的微控制器架构对于IoT至关重要,并且因为我们看到了设备上推理的潜力。Arm与Google的合作使开发人员更容易在注重功耗的环境中部署端点机器学习。 Arm CMSIS-NN库与Google的TensorFlow Lite Micro(TFLu)框架相结合,使数据科学家和软件开发人员可以利用Arm的硬件优化功能,而无需成为嵌入式编程专家。最重要的是,Arm在Cortex-M硬件Keil MDK以及我们的物联网操作系统Mbed OS的优化工具上进行了大量投资,以帮助开发人员在部署ML应用程序时快速地从原型开发到生产。

没有许多早期贡献者,TinyML将是不可能的。Pete Warden,是tinyML的“奠基人”和Google TensorFlow Lite Micro的技术负责人。来自Arm生态系统的创新者Kwabena Agyeman,他开发了OpenMV,该项目致力于低成本,可扩展,基于Python的机器视觉模块的支持机器学习算法。另外一位Arm生态系统创新者,Daniel Situnayake,Edge Impulse的创始人,tinyML工程师和开发人员,该公司提供涵盖数据收集,模型训练和模型优化的完整TinyML管道。此外,Arm的合作伙伴(例如提供了NanoEdge AI的公司Cartesiam.ai,NanoEdge AI是一种工具,可根据在真实条件下观察到的传感器行为在端点上创建软件模型)将TinyML推向另一个高度。

Arm还是TinyML基金会的合作伙伴,TinyML基金会是一个开放的社区,负责协调,以帮助人们联系,分享想法并参与其中。有许多本地化的TinyML聚会,包括英国,以色列和西雅图,以及全球范围的tinyML峰会。

  • 分享到:

 

猜你喜欢

  • 主 题:KEMET Brick订制电容介绍
  • 时 间:2021.04.20
  • 公 司:digikey & Kemet

  • 主 题:Littelfuse在快充和各类端口的保护方案
  • 时 间:2021.04.22
  • 公 司:mouser&Littelfuse

  • 主 题:新基建新能源-ADI绿色能量存储方案
  • 时 间:2021.04.27
  • 公 司:ADI&arrow