Arm NN ML 软件。
Arm NN 现已成为一个遗留项目,Arm 不再对其进行积极维护。因此,不应再期望任何更新,包括安全补丁和功能改进,用户应注意该项目可能无法对不可信的输入或敌对环境进行保护。因此,强烈建议仅在可信的环境中使用 Arm NN。 Arm NN 是 Android 和 Linux 上性能最佳的 机器学习 (ML) 推理引擎,可加速在 **Arm Cortex-A CPU 和 Arm Mali GPU 上的 ML。此 ML 推理引擎是一个 开源 SDK,可弥补现有 神经网络 框架与节能 Arm IP 之间的差距。
Arm NN 由于利用 Arm Compute Library (ACL), 通过针对 Arm 架构的优化 (例如 SVE2) 而优于通用 ML 库。若要针对 Arm Ethos-N NPU, Arm NN 使用 Ethos-N NPU Driver。若要针对 Arm Cortex-M 加速,请参阅 CMSIS-NN。Arm NN 使用可移植的 C++17 编写,并使用 CMake 构建 - 可为各种目标平台和各种主机环境构建。 Python 开发人员可以通过使用我们的 Arm NN TF Lite Delegate 与 Arm NN 进行接口。
Arm NN TF Lite 代理提供 Arm NN 中最广泛的 ML 运算器支持,是加速您的 ML 模型的简单方法。要开始使用 TF Lite 代理,首先下载 Arm NN 最新版本的 预构建二进制文件。使用 Python 解释器,您可以将 TF Lite 模型加载到 Arm NN TF Lite 代理中,并运行加速推理。请
暂无开放 Issues,或尚未同步最近议题。