Arm NN 软件开发套件

Arm NN 填补了现有 NN 框架和底层 IP 之间的空白。它可以帮助 TensorFlow 和 Caffe 等现有神经网络框架实现高效转换,并在 Arm Cortex CPU 和 Arm Mali GPU 上高效运行,无需修改。

Arm NN 不收取任何费用。

下载

Arm NN SDK (GitHub)

关于 Arm NN SDK

Arm NN SDK 是一套开源 Linux 软件和工具,支持在高能效的设备上运行机器学习工作负载。它桥接了现有神经网络框架与高能效的  Arm Cortex CPUsArm Mali GPU  Arm 机器学习处理器

Arm NN SDK 运用 Compute Library,以 Cortex-A CPU 和 Mali GPU 等可编程内核为目标,尽可能提高效率。其中包括为 Arm 机器学习处理器提供支持,以及通过 CMSIS-NN 为 Cortex-M CPU 提供支持。

首次发布版本将支持 Caffe,后续很快还会依次发布支持 TensorFlow 以及其他神经网络框架的版本。Arm NN 先将这些框架中的网络转换为内部 Arm NN 格式,然后通过 Compute Library 将它们高效地部署在 Cortex-A CPU 和 Mali-G71 及 Mali-G72 等 Mali GPU 上(如果存在后者的话)。

适用于 Android 的 Arm NN

Arm NN 同样适用于谷歌接口 NNAPI,该接口可从 Android O 获取,能使神经网络在 Android 设备上加速运行。默认情况下,NNAPI 在设备的 CPU 内核上运行神经网络工作负载,同时也提供可面向其他处理器类型(例如,GPU)的硬件抽象层 (HAL)。适用于 Android NNAPI 的 Arm NN 为 Mali GPU 提供该 HAL。后续发布的版本将增加对 Arm 机器学习处理器的支持。 

Arm 对 Android NNAPI 的支持实现了 4 倍以上的性能提升。

下载适用于 Android 的 Arm NN 源。 

适用于 CMSIS-NN 的 Arm NN

CMSIS-NN 可为 Cortex-M CPU 提供经过优化的低级别 NN 函数:这是一系列高效神经网络内核的集合,其开发目的是最大程度地提升神经网络的性能,减少神经网络在 Cortex-M 处理器内核上的内存占用。

 

Arm NN 未来的路线图

后续 Arm NN 版本将支持以其他机器学习框架作为输入,以其他处理器内核作为目标。这包括 Arm 合作伙伴的处理器内核和加速器(假设有适当的扩展可用)。

Anonymous
  • CiiF现场速递丨好多人围观!Arm物联网设备到数据平台一系列解决方案太秀了

    本周三,第二十届中国国际工业博览会在上海国家会展中心拉开帷幕,并将持续到23日。恰逢周末假日,大伙组队去看一看? 此次Arm同样“盛装出席”,携最新物联网设备管理平台诸多解决方案参展。在此,小编为还没到现场的小伙伴们稍稍剧透一下,希望都能有空去现场感受满满的干货吧~ 谁才是物联网架构首选?有图有真相 Arm此次展位号E170,位于7.2馆的信息与通信技术应用展,今年重点聚焦“工业互联网”领域,吸引了国内外权威的工业互联网…
  • Arm NN 软件开发套件

    Arm NN 填补了现有 NN 框架和底层 IP 之间的空白。它可以帮助 TensorFlow 和 Caffe 等现有神经网络框架实现高效转换,并在 Arm Cortex CPU 和 Arm Mali GPU 上高效运行,无需修改。 Arm NN 不收取任何费用。 下载 Arm NN SDK (GitHub) 关于 Arm NN SDK Arm NN SDK 是一套开源 Linux 软件和工具,支持在高能效的设备上运行机器学习工作负载…
  • 使用Streamline分析RTOS系统性能

    本文翻译自Analyzing the performance of RTOS-based systems using Streamline ============================================================= Streamline是DS-5中的性能分析工具, Streamline可以用来分析裸机系统,RTOS,Linux,Android和Tizen系统的性能…