问如何使用Tensorflow Lite在Mali GPU上运行Transformer和BERT模型？
EN

Stack Overflow用户

提问于 2021-06-24 23:40:08

回答 1查看 76关注 0票数 0

我正在尝试使用Tensorflow Lite在Mali上运行Transformer和BERT模型，但据我所知，tflite只支持GPU上的一些操作，而不是深度学习模型本身。你有什么想法和建议可以让我在Mali GPU上运行这些Transformer和BERT模型吗？我可以将Tensoflow GPU模型转换为tflite GPU模型吗？或者，是否有其他库支持嵌入式GPU上的转换器？

tensorflow

tensorflow-lite

bert-language-model

transformer

回答 1

Stack Overflow用户

发布于 2021-06-26 07:48:07

您是否尝试过在GPU委派上运行模型的tflite版本。TFLite代理将尽可能多的节点委托给代理(在您的情况下是GPU)，其余的将在CPU上运行。你可以得到Mobilebert

如果您有修改过的版本，可以尝试使用TFLiteConverter进行转换；如果您有问题，可以为TFLite team

创建github issue

票数 0

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/68118815

复制

相似问题

问如何使用Tensorflow Lite在Mali GPU上运行Transformer和BERT模型？
EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问如何使用Tensorflow Lite在Mali GPU上运行Transformer和BERT模型？EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问如何使用Tensorflow Lite在Mali GPU上运行Transformer和BERT模型？
EN