Deploy 本节重点介绍部署现实世界的模型。它包含以下文件: 分布式TensorFlow,它解释了如何创建一个TensorFlow服务器集群。
现在,我们实际上有很多模型被部署在商业应用程序中。培训的计算需求随着研究人员数量的增加而增加,但推断所需的周期与用户成比例地增加。这意味着纯粹的推理效率已经成为许多团队的热门话题。
服务如何工作 要在DockerEngine处于群集模式时部署应用程序映像,请创建一个服务。在某些更大的应用程序中,服务通常会成为微服务的图像。
使用DockerCLI创建群集,将应用程序服务部署到群集,并管理群体行为。 如果您之前使用的是Docker版本1.12.0,则可以使用独立群集,但我们建议您进行更新。
一个群是Docker引擎或集群节点,在这里部署服务。DockerEngineCLI和API包括管理群集节点(例如,添加或移除节点)以及在群集中部署和编排服务的命令。
如果您刚刚开始使用Docker并希望了解部署多服务应用程序的最佳方式,那么开始的一个好地方就是入门演练。这将向您展示如何在Compose文件中定义服务配置,部署应用程序并使用相关的工具和命令。
具有张量流的大规模线性模型 tf.estimatorAPI为TensorFlow中的线性模型提供了一套丰富的工具(除其他外)。本文档提供了这些工具的概述。它说明: 线性模型是什么。
[iuzixjacq8.png] 从磁盘读取图像并扭曲它们可以使用不重要的处理时间。为了防止这些操作放慢训练速度,我们在连续填充TensorFlow队列的16个独立线程中运行它们。
在本教程的这一部分中,您将部署基于Redis3.0.6容器映像的服务。然后,您使用滚动更新升级服务以使用Redis3.0.7容器映像。
例如,以下是AlexNet对一些图像进行分类的结果: [图片] 为了比较模型,我们检查了模型未能预测正确答案的频率,作为他们排名前5位的猜测之一-被称为“五大错误率”。
部署服务时,对接者解析服务映像的摘要,并将服务引脚到该摘要。摘要在默认情况下不显示,但如果--no-trunc被使用了。
模型 LSTM 该模型的核心由一个LSTM单元组成,每次处理一个单词并计算句子中下一个单词的可能值的概率。网络的内存状态用零向量初始化,并在读取每个单词后得到更新。
高性能模型 本文档和附带的脚本详细介绍了如何构建针对各种系统类型和网络拓扑的高度可扩展模型。本文档中的技术利用了一些低级的TensorFlowPython基元。

扫码关注腾讯云开发者
领取腾讯云代金券
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号:粤B2-20090059
粤公网安备44030502008569号
腾讯云计算(北京)有限责任公司 京ICP证150476号 | 京ICP备11018762号
