- 综合排序
- 最热优先
- 最新优先
- 来自专栏公众号:咻咻ing
8. 部署方案
JanusGraph提供了多种存储和索引后端选项，可以灵活地部署它们。本章介绍了一些可能的部署方案，以帮助解决这种灵活性带来的复杂性。 注意：本章中介绍的场景仅是JanusGraph如何部署的示例。 每个部署都需要考虑具体的用例和生产需求。 1. 基础部署 这种方案是大多数用户在刚开始使用JanusGraph时可能想要选择的方案。 后者描述了将部署向高级部署转换的方式。 任何可扩展存储后端都可以通过这种方案来使用。 但是，对于Scylla，当托管与此方案中的其他服务共存时，需要进行一些配置。 在这个方案中需要使用索引时，它也需要是可扩展的。 2. 高级部署 高级部署是在第8.1节“基础部署”上的演变。 与之前的部署方案相反，此方案对于使用不可扩展的后端是最有意义的。 内存存储可用于测试调研目的，或者Berkeley DB用于生产，Lucene作为可选的索引后端。 4.
89020发布于 2019-08-07 - 来自专栏奇点大数据
Pytorch神器（8）
其实只要你学习深度学习，“Encoder”和“Decoder”就一定会接触到，并非只是Pytorch所独有。 乍一看这种东西似乎不是很好理解，不过从字面理解来看，就是“编码器”和“解码器”。
64020发布于 2018-07-24 如何部署 PyTorch 模型
使用 PyTorch 训练好了模型，如何部署到生产环境提供服务呢？ TorchServe 是 PyTorch 官方开发的开源工具，源码地址 https://github.com/pytorch/serve 官方给出的描述是： A flexible and easy to use tool for serving PyTorch models 从描述中就可知道 TorchServe 是用来部署 PyTorch 模型的，而它的特点是「可扩展性」和「易用性」。 下面简单描述一下用 TorchServe 部署模型的几个步骤，你也可以参考笔者的 MNIST 完整 demo，地址为： https://github.com/louis-she/torch-serve-mnistgithub.com 就可以对外提供服务了，准备一张手写数字图片 test.png， >>> curl "http://127.0.0.1:8080/predictions/mnist" -T test.png { "8"
32910编辑于 2025-12-16- 来自专栏落跑架构师M
高可用的K8S集群部署方案
这不是k8s专属的是一个独立的分布式系统，具体的介绍大家可以参考官网，这边不多做介绍。 我们采用了 static pod的方式部署了etcd集群。 Master节点的高可用拓补官方给出了两种方案。 Stacked etcd topology（堆叠etcd） External etcd topology（外部etcd） 可以看出最主要的区别在于etcd的部署方式。 第一种方案是所有k8s Master节点都运行一个etcd在本机组成一个etcd集群。 第二种方案则是使用外部的etcd集群（额外搭建etcd集群）。 主要是考虑到了etcd的问题，如果只有两台物理机部署了5个etcd节点，那么部署了3个etcd的那台物理机故障了，则不满足etcd失败容忍度而导致etcd集群宕机，从而导致k8s集群宕机。
3.6K11发布于 2020-02-11 - 来自专栏落跑架构师M
高可用的K8S集群部署方案
这不是k8s专属的是一个独立的分布式系统，具体的介绍大家可以参考官网，这边不多做介绍。 我们采用了 static pod的方式部署了etcd集群。 Master节点的高可用拓补官方给出了两种方案。 Stacked etcd topology（堆叠etcd） External etcd topology（外部etcd） 可以看出最主要的区别在于etcd的部署方式。 第一种方案是所有k8s Master节点都运行一个etcd在本机组成一个etcd集群。 第二种方案则是使用外部的etcd集群（额外搭建etcd集群）。 主要是考虑到了etcd的问题，如果只有两台物理机部署了5个etcd节点，那么部署了3个etcd的那台物理机故障了，则不满足etcd失败容忍度而导致etcd集群宕机，从而导致k8s集群宕机。
3.6K30发布于 2019-12-30 - 来自专栏计算机视觉战队
模型部署：pytorch转onnx部署实践（下）
在深度学习模型部署时，从pytorch转换onnx的过程中，踩了一些坑。本文总结了这些踩坑记录，希望可以帮助其他人。 在上一次分享的时候，我们已经撰写了pth转onnx的过程及一些部署过程，今天我们继续分享整个部署过程遇到的坑及解决办法！ （点击上方图片就可以进入《模型部署：pytorch转onnx踩坑实录（上）》） onnxruntime支持3维池化和3维卷积 在上次讲到opencv不支持3维池化，那么onnxruntime是否支持呢？ 如果深度学习模型有3维池化或3维卷积层，那么在转换到onnx文件后，使用onnxruntime部署深度学习是一个不错的选择。 ，结果发现调用 pytorch框架的输出和调用opencv和onnxruntime的输出都不同，而opencv和onnxruntime的输出相同(平均差异在小数点后10位)，这又是一个pytorch转onnx
2.5K20编辑于 2022-01-28 - 来自专栏小胡学编程
PyTorch8：损失函数
损失函数总览 ---- PyTorch 的 Loss Function（损失函数）都在 torch.nn.functional 里，也提供了封装好的类在 torch.nn 里。 PyTorch 里一共有 18 个损失函数，常用的有 6 个，分别是： 回归损失函数： torch.nn.L1Loss torch.nn.MSELoss 分类损失函数： torch.nn.BCELoss -x_class + log_sigma_exp_x 结果为 >>> print("第一个样本 loss 为: ", loss_1) 第一个样本 loss 为: 0.6931473 现在我们再使用 PyTorch
2.3K40发布于 2020-08-14 - 来自专栏漫谈测试
容器技术Kubernetes（K8S）集群部署负载方案
如果基础环境设施已经有一个K8S集群，那么可以在K8S上快速启动一个完整的负载测试集群。 灾备和高可用性策略，比如多区域部署，使用etcd集群的备份，以及应用的跨区域复制。确保某个区域故障时，服务不会中断。最后，CI/CD的集成，自动化部署和回滚，减少人为错误，提高发布效率。 整体的部署结构如下图，可以看到有比较多的组件，但是利用K8S配置文件可以快速启动以及更新所有的组件。Jmeter集群通过分布式进行部署，并且每个节点在K8S集群中都是一个Pod。 Slave的Pod通过Deployment控制器进行部署，其可以进行统一的部署，更新和销毁，并且Deployment可以自如扩展Slave点。 如果只想个人查看，则可以通过K8S Proxy的方式在本地电脑上查看。
42510编辑于 2025-02-17 如何部署自己的模型：Pytorch模型部署实践
Pytorch是一个广泛使用的深度学习框架，但是在将模型部署到生产环境中时，需要注意一些细节和技巧。本文将讨论一些Pytorch模型部署的最佳实践。 选择合适的部署方式 在部署Pytorch模型之前，需要选择合适的部署方式。一种常见的方式是使用Flask或Django等Web框架将模型封装成API，以供其他应用程序调用。 另一种方式是使用TorchScript将Pytorch模型转换为可部署的格式。 这些工具可以帮助您快速识别模型中的问题，并找到解决方案。 除了使用这些工具，您还可以通过使用日志来跟踪模型的运行情况和异常情况，以便进行调试和优化。 结语 本文介绍了Pytorch模型部署的最佳实践。
43210编辑于 2025-12-16- 来自专栏DeepHub IMBA
使用Flask快速部署PyTorch模型
今天我将通过一个简单的案例：部署一个PyTorch图像分类模型，介绍这个最重要的步骤。 我们这里使用PyTorch和Flask。 现在我们可以运行python app.py，如果没有问题，你可以访问http://localhost:5000/，应该会看到一条简单的消息——“Welcome to the PyTorch Flask <html> <head> <title>PyTorch Image Classification</title> </head> <body>
PyTorch 以上都是基本的web应用的内容，下面就是要将这个web应用和我们的pytorch模型的推理结合。 加载模型 在home route上面，加载我们的模型。 就是这样只要5分钟，我们就可以成功地部署一个ML模型。 作者：Daniel Korsz
1.9K40编辑于 2023-02-01 - 来自专栏文鹃阁
PyTorch JIT 模型部署常见错误
preface 在用 PyTorch官方提供的的工具转化 pth 文件 到 pt 文件时，经常会遇到很多错误，包括但不限于算子不支持，无法推断参数类型，以及一些很奇怪的错误，这里全部记录一下，建议配合我之前写的 <unknown function> + 0x2672a8 (0x7f8372b0e2a8 in /raid/kevin/anaconda3/envs/open-mmlab/lib/python3.7 /lib/x86_64-linux-gnu/libc.so.6) 未将模型变成 eval 模式 下面这段错误是因为模型没有变成 eval 模式，导致 JIT 计算出来的结果和预期的结果相差太大，解决方案就是 check_tolerance, strict, _force_outplace, True, _module_class) reference model trace error · Issue #43196 · pytorch /pytorch (github.com)
2.8K10编辑于 2022-09-02 - 来自专栏运维入门时间
小公司快速k8s cicd部署方案心得
— 1 — kubenetes产生背景 kubernetes —— 工业级的容器编排平台，简称K8S（“k-s之间有8个字母），因为有了这个编排工具之后，不仅在给运维大大提升了运维的效率，也给应用稳定性提供了有力的保障 ），然后根据这些条件（过滤、筛选）将容器放置在集群中一个合适的节点上，完成自动部署！ 在有状态的情况下 挂载你需要的磁盘及方式，目前最好的方式 推荐无状态情况用k8s 有状态还是先私有化部署 尤其是数据库之类的 目前来看 问题还是相对比较多的。 设计的时候主要提供2个想法，方法一、尽量使用内网pull push镜像 这样会加速部署的时间和网络问题 方法二、在全球化部署的过程中，尽量支持镜像可以多region 分发的 3.2、jenkins 自己做选择 对你没有看错 除了一个K8S的集群 和 镜像仓库，其他该有的基础架构在没有上K8S的时候 ，还是有的。所以上K8S大家不要觉得有多难。
1.7K31编辑于 2022-05-29 - 来自专栏kwai
K8S 部署 RSS 全套自托管解决方案
地址c我自己部署的 RssHub, 公网 HTTPS 域名Tiny Tiny RSSTiny Tiny RSS 部署在 K8S 集群的 rss ns 里；基于 Awesome需要部署的组件有： tiny 组件都是单节点部署，不考虑高可用；Tiny Tiny RSS 通过 Ingress + SVC 对外发布域名；RssHubRssHub 部署在 K8S 集群的 rss ns 里；基于 RSSHUB 需要部署的组件有 已经搭建好 K8S 集群K8S 集群有 Ingress ControllerK8S 集群有 StorageClass 或可以提供 PV 存储。 部署使用 kubectl 部署：kubectl -n rss create -f ./k8s/4. 部署使用 kubectl 部署：kubectl -n rss create -f ./k8s/4.
1.6K51编辑于 2023-03-22 - 来自专栏大数据杂货铺
CSA部署方案
我们在Cloudera的流分析系列中介绍了《Cloudera中的流分析概览》和《SQL Stream Builder的概览》，今天我们来进行下一个章节：CSA的部署方案。 您可以根据要构建的应用程序在私有云基础版上部署Streaming Analytics。 仅使用Flink的DataStream应用程序。在这种情况下，您需要创建一个Flink应用程序集群。 您可以使用以下工作流程来了解部署过程： ?
98440发布于 2021-05-20 - 来自专栏一棹烟波
pytorch模型部署在MacOS或者IOS
pytorch训练出.pth模型如何在MacOS上或者IOS部署，这是个问题。 然而我们有了onnx，同样我们也有了coreML。 coreML框架可以方便的进行深度学习模型的部署，利用模型进行预测，让深度学习可以在apple的移动设备上发光发热。 pytorch -- ONNX -- coreML 没错，就是这个流程。 pytorch -- ONNX 请先查看pytorch官网的onnx模块：https://pytorch.org/docs/stable/onnx.html 。 "linear") lin_quant_model.save('Model_8bit.mlmodel') 时间仓促，写的粗糙，随后更新。
2.6K50发布于 2019-05-25 - 来自专栏信数据得永生
PyTorch 深度学习实用指南：6~8
尽管该实现方案跳过了中参数的日志，但最终节点仍然可以通过这种巧妙设计的方案从上下文中的所有节点获取信息。 解决方案 既然我们已经学习了如何使用 MDP 来指定问题，那么智能体需要制定解决方案。 此策略也可以称为策略。 策略和值函数 策略定义学习智能体在给定时间的行为方式。 保单用希腊字母Pi表示。 为生产准备的服务器 这是关于如何使用 Flask 将 PyTorch 模型部署到服务器的非常基本的演练。 但是 Flask 的内置服务器尚未投入生产，只能用于开发目的。 Redis Labs 和 Orobix 为我们带来了另一个名为 RedisAI 的解决方案。 实际上，这对于生产部署来说是最不重要的。 RedisAI 附带的最重要的功能是故障转移和分布式部署选项已经嵌入到 Redis 服务器中。
1.4K20编辑于 2023-04-27 - 来自专栏DeepHub IMBA
使用FP8加速PyTorch训练
在这篇文章中，我们将介绍如何修改PyTorch训练脚本，利用Nvidia H100 GPU的FP8数据类型的内置支持。 这里主要介绍由Transformer Engine库公开的fp8特定的PyTorch API，并展示如何将它们集成到一个简单的训练脚本中。 FP8与Transformer Engine的集成 PyTorch(版本2.1)不包括FP8数据类型。 但是我们也看到了，这是相对较小的性价比提升(远低于p5公告中提到的40%)，所以可能还有更多的优化方案，我们需要继续研究。 总结 在这篇文章中，我们演示了如何编写PyTorch训练脚本来使用8位浮点类型。展示了FP8的使用是如何从Nvidia H100中获得最佳性能的关键因素。
98340编辑于 2023-11-20 - 来自专栏一个执拗的后端搬砖工
springboot(8)-热部署
spring为开发者提供了一个名为spring-boot-devtools的模块来使Spring Boot应用支持热部署，提高开发者的开发效率，无需手动重启Spring Boot应用。 接下来我们就通过编码的方式实现springboot热部署。 groupId> <artifactId>spring-boot-devtools</artifactId> </dependency> 二）修改ide配置&浏览器缓存禁用 为了实现热部署 请求能够被正常的接收和处理，也就是说明我们配置的springboot热部署已经生效。 总结 springboot热部署在开发阶段特别实用，我们对应用修改之后不需要手动点构建和部署就能自动重启后看到效果，当然可能springboot实现热部署还有其他方式，这里暂不做过多探讨，有兴趣的可以自己研究一下
56010发布于 2020-11-19 - 来自专栏wfaceboss
MIS系统部署方案
?
1.3K30发布于 2019-04-08 - 来自专栏北京马哥教育
Kubernetes网络部署方案
，这篇文章目的第一是向两位前辈致敬，第二是共享下在Flanneld和Calico部署过程中遇到挫折和问题。 为啥只说明以下两种方案的部署模式，因为其他网络方案不争气。 Flanneld [Systemd部署模式] Flannel部署相对来说简单容易、坑少，直接上配置。 Calico [Systemd部署模式] 其实吧，Calico在Kubernetes网络方案用用的比Flanneld多，Calico懂得玩伸缩，技术也比较牛，在很多物理设备不开启BGP的情况下做了折中， Install] WantedBy=multi-user.target CNI配置文件（/etc/cni/net.d下随便写一个.conf结尾的文件） calico.conf { "name": "k8s-pod-network RR部署模式 其实就是在以上的基础上多部署一个RR容器。
1.9K80发布于 2018-05-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号