我正在运行 camera iOS example由 tensorflow 分发,速度很慢:在 iPhone6 上每次推理需要 4-5 秒,运行 inception5h.zip型号。
据我了解,这是轻量级的 GoogleNet 模型,iOS 代码拉出它的第一个输出层,大约是完整模型的一半大小。我在我的 macbook 上使用 python 接口(interface)运行了相同的模型,每次推理需要 30 毫秒。
所以我想知道为什么在 iOS 上运行相同型号的速度比在 macbook 上慢 150 倍。似乎我做错了一些明显的事情。
Best Answer-推荐答案 strong>
这还没有很好的记录,但是您需要将优化标志传递给编译脚本以获得库的快速版本。这是一个例子:
tensorflow/contrib/makefile/compile_ios_tensorflow.sh "-Os"
这应该会大大提高您的速度,非正式地,我看到在 5S 上使用 GoogLeNet 需要一秒钟或更短时间。
关于ios - TensorFlow 在 iOS 上运行缓慢,我们在Stack Overflow上找到一个类似的问题:
https://stackoverflow.com/questions/37971426/
|