我正在尝试从移动设备中提供深度学习模型。我使用tensorflow的react原生应用程序只需要一分钟就可以加载。我的模型大约是175mb (大约3000万个参数)。这是我第一次尝试在移动设备上运行模型,我在react原生上找不到任何tensorflow js的良好性能数据。
我的模型是不是太大了,不能期望react原生的合理快速的加载和推理时间?这是因为硬件限制还是框架?我读到tfjs react原生使用web-gl,这会比直接访问手机的gpu慢,所以我可以使用core ml或类似的东西,并期待更好的时间吗?
作为一个额外的问题(我也会另外写一篇文章),我正在考虑的另一种方法是将推理转移到笔记本电脑/台式机的web浏览器上。我可以期望浏览器web-gl像直接使用计算机gpu一样执行吗?
发布于 2021-03-24 08:19:46
是的,你的ML工具包和核心ML比TF.js快得多。你也可以创建你的模型,将它转换成TF lite,然后将它部署到firebase上,并在原生的ios和安卓上使用你的模型(目前是@react-native-firebase/ml。不支持自定义模型)。
https://stackoverflow.com/questions/66759190
复制相似问题