有多少计算机视觉模型可以在Android设备上运行?

Question

我正在检查可以同时在android设备上运行的计算机视觉模型的数量的可行性，但无法找到任何资源。

我有两个计算机视觉模型，一个是对大约20个类的图像进行分类，另一个我想集成的是图像深度图模型。它们都是实时工作的。因此，我想知道他们是否能够运行在Android设备有限的内存1千兆字节。

Answer 1

我自己的经验是，这高度依赖于硬件以及神经网络架构本身和在其上执行的优化方法。所以你的问题没有确切的答案。

然而，我可以告诉你，10帧是很难实现的，特别是在一个旧设备上的1GB内存。我有一个TFLite Yolov5s模型，量化为INT8，我将320x320的图像传递给它，运行在一台2015年的旧三星平板电脑(3GB内存)上，平均推理时间为0.47秒。这只是一个模型。