Maxim希望用于边缘设备的低功耗神经网络加速器芯片引领一场“嵌入式革命”

人工智能和物联网似乎是天造地造的一对，但要将两者完美结合还需要克服许多障碍。一般来说，物联网是一种低功率、电池供电的技术。另一方面，人工智能，特别是卷积神经网络(对机器视觉至关重要)，在计算上非常昂贵。

边缘计算提供实时数据处理。图片由计算理论

为了克服这些挑战，一般的实践是将计算卸载到云上。然而，这也带来了一系列的延迟和安全问题。例如，自动驾驶汽车需要尽可能快地做出实时决策。它根本不能等待数据被发送到云上，在云上计算，然后返回。

但是嵌入式设备呢?马克西姆集成公司(Maxim Integrated)的微系统、安全和软件业务部门的执行董事克里斯·阿迪斯(Kris Ardis)认为，目前小型嵌入式设备“正在错过这场人工智能革命的其余部分”。

“他们看不见也听不见——除了简单的单词，”阿迪斯解释道。“所以这就是我们试图填补的空白:我们如何将更多的人工智能承诺带入嵌入式世界?”

一个新的解决方案：Maxim集成的NN加速器芯片

为了回答这个问题，Maxim Integrated公司转向了低功耗、高性能的人工智能芯片。今天早上，该公司宣布了它的最新产品:a神经网络加速器芯片，旨在实现电池供电物联网设备中的人工智能。

新的芯片MAX78000，包括两个超低功耗核心 - ARM Cortex-M4核心或RISC-V基于FPU的微控制器，以及卷积神经网络加速器。ARDIS评论，“RISC-V在那里，因为在进入加速器之前，它是一种很好的低功耗方式来按摩数据。”

从性能角度来看，Maxim声称有一些令人印象深刻的规格——特别是在功率和延迟方面。

MAX78000的简化框图。图片由马克西姆集成

在能源方面，该公司表示，MAX78000提供:

• 运行mnist时的能耗降低1,100倍
• 400x的MNIST延迟改进
• 与低功耗Cortex M4F相比，关键字定位时低600倍的能耗
• 与96 MHz Cortex M4F相比，200倍的关键字定位改进

让我们深入了解这些规格是如何实现的。

MAX78000的核心:神经网络加速器

该SOC中最独特的特征是神经网络加速器，它是专门的硬件，旨在使卷积神经网络（CNNS）的能量消耗和延迟最小化。

根据Ardis的说法，所采用的架构是完全专有和新颖的。它的设计目标是最小化数据移动，众所周知，数据移动是芯片能量的一个重大负担，特别是在CNN链中处理复杂的数学配置时。

此外，该加速器支持机器学习领域中的常用工具，如TensorFlow和Pytorch，其设计目的是增加数学并行度，优化能量消耗，并显著减少推理时间。

重要功能块概述。图片由Maxim Integrated提供

系统操作的另一个特征是微控制器的参与最小。一般来说，此架构中的MCU旨在配置网络，加载数据并启动它。在MCU完成其初始工作之后，它基本上是偏离的。这也证明对能源效率非常重要。

该设备还在执行之前加载数据，该数据会在推理期间否定访问存储器的需要，从而降低能量消耗，并提高延迟。“没有所需的外部内存，实际上是我们节省能源的方式之一。所有内存都是片上的，”Ardis说。

IOT的游戏更换器？

随着对低功耗、高性能AI芯片的需求不断增加，这一消息似乎在物联网领域具有极其重要的意义。

描述新的NN加速器。图片由马克西姆集成

根据Maxim Integrated的说法，这种设备有可能为系统提供在边缘执行实时决策的能力——比基于云计算的速度更快——并且没有相关的安全问题。

通过将AI带到边缘设备，该设备可以使新的应用程序，如毫秒或数据处理助听器内的面部ID。以这种方式，MAX78000可能是嵌入式设备的“切割电源线”的重要步骤。

Ardis表示，希望MAX78000可能开辟一条通往“嵌入式革命”的道路，类似于嵌入式微控制器带来的革命类型。“在微处理器出现之前，没有人想到微控制器将会是什么样子。而现在我至少穿了两件。”

“这就是我们认为边缘人工智能技术将变成的样子，希望我们能成为引领这一趋势的人之一。”