Arm 的 Matthias Hertel 和 Annie Tallund 的客座文章

微控制器为我们周围的世界提供动力。它们具有低内存资源和对能效的高要求。同时，预计它们将实时执行高级机器学习干扰。在嵌入式空间，无数工程师正在努力解决这一挑战。功能强大的基于 Arm Cortex-M 的微控制器是一个专用平台，针对运行节能 ML 进行了优化。Arm 和 TensorFlow Lite Micro (TFLM) 团队有着长期的合作关系，旨在实现 在各种 Arm 微控制器上优化 ML 模型的推理。

此外，凭借 CMSIS-Pack 等成熟技术，TFLM 库已准备好运行在 10000 多个不同的 Cortex-M 微控制器设备 上，几乎无需集成工作。将这两者结合起来提供了多种平台和配置。在本文中，我们将描述我们如何与 TFLM 团队合作，将 Arm 虚拟硬件 (AVH) 用作 TFLM 项目开源持续集成 (CI) 框架的一部分，以验证许多基于 Arm 的处理器与 TFLM。这使开发人员能够在 Arm 知识产权 (IP) 上测试他们的项目，而无需维护硬件的额外复杂性。

Arm 虚拟硬件 - 所有 Cortex-M 微控制器的模型

Arm 虚拟硬件 (AVH) 是一种新的方法，用于托管可远程访问的 Arm IP 模型。在 ML 上下文中，它提供了一个无需实际硬件即可测试模型的平台。以下 Arm M 型号处理器目前可通过 AVH 获得

• Cortex-M0、Cortex-M0+
• Cortex-M3、Cortex-M4、Cortex-M7
• Cortex-M23、Cortex-M33

Arm Corstone 是一种以硅 IP 子系统形式存在的另一种虚拟化技术，帮助开发人员验证和集成他们的设备。Corstone 框架为许多现代 Cortex-M 微控制器奠定了基础。AVH 支持多种平台，包括 Corstone-300、Corstone-310 和 Corstone-1000。支持平台的完整列表可以找到 这里。

通过 Arm 虚拟硬件，这些构建块以 Amazon 机器映像 (AMI) 的形式提供在 Amazon Web Services (AWS) 市场中，并在本地通过 Keil MDK-Professional 提供。

从开发人员到云端的 Arm 虚拟硬件端到端工作流程。

GitHub Actions 和 Arm 虚拟硬件

GitHub Actions 为包括 TensorFlow Lite Micro 在内的开源项目提供了一个流行的 CI 解决方案。AVH 技术可以 与 GitHub Actions 运行器集成，它可以用于在不同的 Arm 平台上运行测试，作为本机编译的代码，而无需硬件可用。 

让我们看看它是如何完成的！

通过 GitHub Actions 工作流程定义 AVH 用例

概述

在过去的一年中，我们已经使在 GitHub Actions 中设置 Arm IP 验证成为可能。我们将引导您完成将 TFLM 与其集成的步骤。对于使用 GitHub Actions 的其他开源项目，也可以重复相同的过程。

GitHub 工作流程 文件（例如 TFLM 存储库中的 Corstone-300 工作流程）可用于在安装了 Arm IP 的 AWS EC2 实例上运行代码。此工作流程使用 Corstone-300 作为目标构建 TFLM 项目，并使用 GCC 和 armclang 运行单元测试，通过分层过程直接在 GitHub UI 中显示结果，如下所示。

工作流程包含一个或多个作业，它们指向包含步骤的文件。步骤在单独的文件中定义（cortex_m_corstone_300_avh.yml）。在我们的示例中，这些步骤将指向测试脚本（test_cortex_m_corstone_300.sh），该脚本使用 Arm 提供的 API（AVH 客户端）发送到 AWS 实例，然后在该实例上相应地执行。该脚本将发送回输出，该输出由 AVH 客户端获取，并在 GitHub Actions UI 中显示。

根据用例的性质，这可能发生一次或多次，这完全取决于定义的作业和步骤的数量。在 Corstone-300 案例中，我们使用一个作业，其步骤只运行一个测试脚本。但这并不是限制，如上图流程图所示。

将 GitHub Actions 运行器连接到运行 AVH 的 AWS EC2 实例