我希望把训练好的Tensorflow或者Caffe模型部署到ARM平台Mali-G71/72 GPU上运行,而不重新OpenCL编写代码,但没有看见相关可行的资料。网上信息显示tensorflow lit和caffe2Go可以部署到ARM,但不支持GPU?
收到,我请GPU的兄弟来看看
你好。ARM已经发布基于NEON的库来支持Tensorflow,基于Bifrost GPU(G71/72)的今年也陆续马上会发布,到时候Mali GPU也可以基于这些库来支持Tensorflow和Caffe。感谢对Mali GPU的持续关注。
谢谢Song 和 Gray的帮助。 我的理解就是目前还不能在Mali-G72/G71等GPU上运行TF或者Caffe模型,如果这样,大概什么时候可以发布?另外,性能方面,同样一个CNN模型,在G72上运行可以提升多少?你们可以推荐一下大陆哪些系统集成厂家可以帮助医疗AI在ARM上面的研发生产?谢谢了!
KwChang 你好,大概在这几个月左右就会发布,具体还是要看我们的开发进度,到时候有通知。G72相对于G71性能根据不同的内容都有会较大提升,最高可达35%提高。现在国内芯片厂商很多都很关注AI方面的应用,我们客户在采用Mali GPU设计的时候,选择的工艺和配置都有不同,我们建议可以直接咨询芯片厂商,他们的信息会更新更具体。
会在哪里通知呢,我公司现在也在做这个项目,比较着急。目前找到的资料ck-caffe 支持tensorflow,caffe,通过opencl。但是ck-caffe安装起来有些问题,没有解决。
发布的时候我们会第一时间通知我们的客户,开发者能从具体的芯片厂商那边得到针对具体平台最快的支持。
多谢Gary回复
请问mali864能支持opencl版本的caffe吗