• OPEN AI LAB发布嵌入式前端深度学习框架Tengine

    1 Tengine概述

    Tengine 是OPEN AI LAB 针对前端智能设备开发的软件开发包,核心部分是一个轻量级,模块化,高性能的AI 推断引擎,并支持用DLA、GPU、xPU作为硬件加速计算资源异构加速。

    • Graph Inference C API:提供给应用开发的 C API 接口。在C API接口之上,还可以构造出python,Java,JavaScript等接口。同时,为了兼容客户已有基于Caffe/Tensorflow的应用, Tengine API 封装了Caffe(C+…
  • Mali GPU 支持tensorflow或者caffe等深度学习模型吗? 好像caffe2go和tensorflow lit可以部署到ARM,但不知道是否支持在GPU运行?

    我希望把训练好的Tensorflow或者Caffe模型部署到ARM平台Mali-G71/72 GPU上运行,而不重新OpenCL编写代码,但没有看见相关可行的资料。网上信息显示tensorflow lit和caffe2Go可以部署到ARM,但不支持GPU?