在本地进行人工智能计算的四个优点

作者：Doctor M

为什么人们需要更低功耗的人工智能？麻省理工学院（MIT）副教授Vivienne Sze此前在接受采访时表示，人工智能应用正在向智能手机、微型机器人、互联网连接设备和其他功率和处理能力有限的设备转移，意味着数据处理不再需要在云端、仓库服务器机架上进行，从云上卸载计算使我们能够扩大人工智能的影响范围，通过减少与远程服务器通信造成的延迟来加快响应时间。

现在，人工智能的本地化部署有了一个专属名称——边缘智能，也可叫做边缘人工智能。随着5G、人工智能和网络安全三大领域相互渗透，智慧工厂和自动驾驶两大典型的物联网应用引发数据爆发式增长，传统云端处理、边端执行的模式已经出现明显的瓶颈，终端硬件搭配AI模型和软件算法已经是大势所趋，成为人工智能发展的下一个关键阶段。

本文我们将重点讨论传统人工智能面临的挑战，以及边缘智能会带来哪些好处。同时，也会为大家推荐贸泽电子上在售的，适用于部署边缘智能的元器件，推动产业大升级。

边缘智能的四大典型优势

自上世纪50年代人工智能概念被提出以后，产业发展至今经历了数次的高潮和寒冬。虽然有低谷，但人类对人工智能技术的探索从没有停止过。2006年至今，我们经历了人工智能产业新一轮发展大潮，在此过程中，“算力+算法+数据”正式被定义为人工智能产业的三驾马车，云计算平台作为算力提供源，大幅提升了人工智能算法模型的体量。

根据前瞻产业研究院的统计数据，从2016年到2020年全球人工智能产业市场规模实现了数倍的增长，从2016年的593亿美元快速增长到了2020年的2,335亿美元。市场的高速增长不仅给企业带来巨大的投资回报，同时也赋予社会发展肉眼可见的便利性。

图1：全球人工智能市场规模（图源：前瞻产业研究院）

然而，在电信业务、政府、安防、金融四大传统人工智能应用领域取得突破之后，全球人工智能发展遇到了新的阻力，发生了巨大的变化。根据市场分析机构IDC的预测，未来人工智能发展不再仅仅是云端集中式，会更加注重落地和实践，趋向广泛化、纵向化，打通人工智能技术和广泛行业的最后一公里。

在这种大趋势下，传统人工智能应用框架出现了明显的技术瓶颈，包括数据瓶颈、泛化瓶颈、能耗瓶颈、语义鸿沟瓶颈、可解释性瓶颈和可靠性瓶颈等。在这么多瓶颈背后，一个相同的原因是此前的人工智能应用框架里，所有应用都是以云计算为依托，数据都必须返回到云端，给处理效率、信息安全、部署成本带来了极大的挑战。

图2：传统人工智能应用框架（图源：前瞻产业研究院）

随着人工智能落地到越来越多的细分场景里，完全依赖云计算的人工智能越来越不适应，业界提出的解决方案便是边缘智能。当然，边缘智能和传统的云端智能绝不是替代关系，而是更好的补充。通过下方边缘计算产业联盟（ECC）发布的边缘计算参考架构能够看出，边缘智能和云端智能并不割裂，只是应用程序和边缘端紧密结合。

图3：边缘计算参考架构（图源：边缘计算产业联盟（ECC））

从系统框架来看，边缘智能方案大致可以分为基础资源层、虚拟化层、边缘虚拟服务层，实际上就是云端智能的下沉，一般而言，具体的业务切分由规则引擎来负责。如下图4所示，当计算资源迁移到边缘端之后，边缘智能方案将独立拥有操作系统以及相关的硬件资源，这也就是为什么我们上面提到，边缘智能的核心要义是应用程序和边缘端深度融合。

图4：基于规则引擎的边缘智能方案（图源：论文《一种基于规则引擎的边缘计算技术研究及实施方案》）

计算和任务处理直接在边缘端进行，这让边缘智能方案具备四大突出的技术优势。

· 实时性好

首先是实时数据处理、提高响应速度。相较于传统海量数据无差别上云而言，边缘智能由于更靠近用户终端装置，可以加快数据的处理与传送速度，减少延迟。这种实时性对自动驾驶、工业机器人等应用有重要价值。

· 带宽需求小

其次是减少互联网带宽依赖。根据IDC的统计数据，2021年，全球创造了82.5ZB的数据，未来五年全球数据规模还将以21.2%的年复合增长率快速发展，到2026年达到216ZB。如果这些数据全部送到云数据中心去处理，那么将会对网络带宽造成巨大的传输压力。而边缘智能以卸载的方式将大部分边缘端产生的巨量数据及时处理，帮助减轻网络带宽的压力。

· 功耗低

第三是降低系统功耗。根据工信部数据，2021年中国数据中心耗电量2,166亿千瓦时，占社会用电量比例达2.6%，相当于1.3个上海市的总社会用电量。通过云边结合的方式，数据中心可以更加专注在AI大模型的训练和运转，边缘智能方案极为强调能耗比，将有助于降低整体功耗。

· 安全性好

最后，边缘智能能够更好地保护用户的数据隐私和数据安全。边缘智能方案在终端就可以对数据进行清洗、预处理、聚合、筛选等操作，数据不用完全返回云端再做处理，或者最终传输到云端的数据为脱敏数据，降低了隐私、机密数据泄露的风险，提升了数据的安全性。

凭借上述这些突出的技术优势，边缘智能在智能驾驶、智慧工厂、智慧能源和智能家居等领域应用广泛，提升了人工智能的应用深度和广度，丰富了“AI+”的实际应用。当然，想要打造高效稳定的边缘智能方案，离不开电子元器件的支持。作为全球知名先的电子元器件分销平台，贸泽电子销售的电子元器件遍及各种边缘智能解决方案，助力打造低碳智能的数字新世界。下面，我们就来为大家推荐几款具有代表性、可用于边缘智能的元器件产品。

Microchip机器学习整体解决方案

上述内容已经提到，边缘智能是云端智能的下沉，也就是说将人工智能的模型置于边缘端。目前，云端配合最理想的方式是：将机器学习的训练模型放置在云端，通过云端大算力的优势提升训练的效率；将机器学习的推理、决策和执行模型放置在边缘，需要的计算和存储资源相对较小，保障了部署的灵活性，并降低系统反应的时间。

因此，我们通过Microchip机器学习整体解决方案能够看到，在边缘一侧，元器件会涉及到更善于终端推理的FPGA，更利于系统集成和部署的MCU/MPU，以及其他帮助工程师打造边缘机器学习方案的模拟器件和安全器件。目前，Microchip这份完整的机器学习方案已经在贸泽电子全面上线，接下来我们就来系统地看一下这份方案，以及方案里面的具体器件。

图5：Microchip机器学习整体解决方案（图源：Microchip）

综合而言，Microchip机器学习整体解决方案是一个包括软件和硬件工具套件、参考设计以及硅平台的系统方案，非常适合用于需要具有高级性能的简单易用的应用。也就是说，无论你是AI和机器学习方面的新手，还是寻求高性能、经验丰富的工程师大牛，都能够在Microchip机器学习整体解决方案里找到适合自己的软硬件组合。

在硅器件方面，Microchip广泛的硅器件产品组合包括MCU、MPU和FPGA。为帮助工程师使用这些器件，Microchip准备了全面丰富的软件工具包，允许工程师朋友使用流行的ML框架，包括TensorFlow、Keras、Caffe和ONNX涵盖的许多其他框架，以及TinyML和TensorFlow Lite中的框架。这些丰富的开发套件组合起来，构成了Microchip硅器件背后的开发生态系统。

比如，在使用Microchip的MCU或MPU器件时，MPLAB开发生态系统将与Microchip的开发板以及机器学习设计合作伙伴提供的软件套件和解决方案无缝集成，提供MPLAB X集成开发环境（IDE）、MPLAB XC C编译器、MPLAB Data Visualizer等开发工具，显著提升开发者的开发效率。

在使用Microchip的FPGA器件时，该公司先进的VectorBlox加速器软件开发套件（SDK）可以让开发者轻松编程高能效神经网络。VectorBlox加速器SDK还附带了基于PolarFire视频套件构建智能AI相机平台的说明，让开发者可以更加方便地评估不同的卷积神经网络（CNN）。

此外，围绕丰富的硅器件，Microchip还提供了丰富的评估套件，包括带有TDK InvenSense 6轴MEMS运动传感器的SAM D21机器学习评估套件和带Bosch IMU的SAM D21机器学习评估套件。

通过全面的软硬件组合，以及Microchip经过验证的参考设计和经验丰富的合作伙伴网络，可以帮助广大机器学习开发者降低风险、缩短上市时间、降低功耗和应用成本。开发者可以借助这些资源设计各种应用程序，用于数据中心、自动驾驶汽车、安全和监控、电子围栏、增强和虚拟现实耳机头显、无人机、机器人、卫星图像和通讯中心等领域。

上面我们对Microchip机器学习解决方案进行了全面介绍，接下来我们通过一款具体的方案，看一下Microchip方案在机器学习方面的出色性能。在此，我们为大家展开介绍上面提到的带有TDK InvenSense 6轴MEMS运动传感器的SAM D21机器学习评估套件，贸泽电子上该评估套件的物料号为EV18H79A，大家可以通过搜索此物料号，在贸泽电子平台快速找到这款评估套件，并且通过该评估套件的详情页就可以看到我们上述提到的Microchip机器学习整体解决方案。

图6：EV18H79A（图源：贸泽电子）

EV18H79A SAMD21机器学习评估套件基于Arm® Cortex®-M0+的32位MCU打造，带有板载调试器（nEDBG）、ATECC608A CryptoAuthentication安全元件IC和完全认证的ATWINC1510 Wi-Fi网络控制器。作为一款面向机器学习应用的多功能传感器开发工具，EV18H79A上集成了Microchip MCP9808高精度温度传感器、光传感器以及带有TDK InvenSense ICM-42688-P、高精度6轴MEMS的附加板，帮助开发者收集数据以训练和创建机器学习模型。

此外，为了让开发者更快上手EV18H79A SAMD21机器学习评估套件，Microchip还提供了用户指南和项目示例，进一步帮助大家缩短开发周期。

可用于AIoT应用的ESP-EYE开发板

我们都知道，人工智能和物联网融合而成的AIoT是边缘智能典型的应用场景，当然也可以说，边缘智能是AIoT落地的重要推动技术。那么，接下来我们为大家推荐一款来自制造商Espressif Systems（乐鑫科技）、可用于AIoT场景的ESP-EYE开发板。

图7：ESP-EYE（图源：贸泽电子）

ESP-EYE是专注于AIoT智能物联网领域的图像识别与语音处理开发板，板载ESP32系列芯片，集成200万像素摄像头、数字麦克风，拥有8MB PSRAM和4MB闪存的丰富存储，支持Wi-Fi图像传输与MicroUSB调试与供电。基于以上丰富的配置和功能，开发者可以基于ESP-EYE实现语音唤醒、人脸检测、人脸识别等交互功能，可广泛应用于智能物联网领域的应用开发。

同时，为了帮助开发者提升开发效率，Espressif Systems为ESP-EYE准备了全面的用户指南，让大家可在Linux、MacOS、Windows操作系统中完成软件烧写，并实现上述AIoT相关功能，可协助用户开发高度集成的AI解决方案。

边缘智能未来发展趋势

作为传统云端智能的重要补充和延伸，边缘智能具有无穷的魅力，是未来人工智能领域发展的重要方向，相关厂商也将以芯片和软件技术为抓手，积极推动边缘智能的发展。

面向未来，边缘智能将呈现四大明显的发展趋势。首先是核心芯片集成度更高、算力更强，整体方案更加智能；其次是系统架构更加灵活，更容易开发和部署；第三是边缘智能方案的能效比将不断提升，使得更多的AI负载将卸载到边缘端；最后是边缘智能的生态将更加成熟，围绕核心硬件将会有更加丰富的配套工具和开发环境。

而在边缘智能技术不断提升的过程中，电子元器件始终都将是整个方案最核心的部分之一，贸泽电子将持续为行业带来前沿的元器件产品，助力实现更好的边缘智能方案。