- 综合排序
- 最热优先
- 最新优先
- 来自专栏机器学习
【sklearn | 4】 深度教程：模型部署与优化
这篇教程将进一步探讨模型部署与优化的技术和方法。这些步骤在实际应用中非常重要，可以提高模型的可用性和性能。模型部署模型部署是将机器学习模型集成到生产环境中，使其能够处理实时数据和提供预测结果的过程。 sklearn 模型可以通过多种方式进行部署，如使用 Flask 构建 API 或者在云平台上部署。 使用 Flask 构建 APIFlask 是一个轻量级的 Web 应用框架，可以方便地用来部署机器学习模型。步骤1：训练并保存模型首先，训练并保存模型。 （如 AWS、GCP 或 Azure）来部署模型，提供更高的可扩展性和可靠性。 模型部署可以使用 Flask 构建 API，或在云平台上部署。模型优化包括超参数调优和特征选择。希望这些技术和方法能帮助你在实际项目中提高模型的可用性和性能。
83621编辑于 2024-07-24 - 来自专栏贾志刚-OpenCV学堂
OpenCV4 部署DeepLabv3+模型
引言 · 前面说了OpenCV DNN不光支持图像分类与对象检测模型。 此外还支持各种自定义的模型，deeplabv3模型是图像语义分割常用模型之一，本文我们演示OpenCV DNN如何调用Deeplabv3模型实现图像语义分割，支持的backbone网络分别为MobileNet 预训练模型下载地址如下： https://github.com/tensorflow/models/blob/master/research/deeplab/g3doc/model_zoo.md 预训练的模型下载之后可以看到 调用MobileNet的deeplabv3 下载MobileNet版本的deeplabv3模型，把mobilenetv2 ckpt转pb，脚本如下： python deeplab/export_model.py atrous_rates=6 \ #--atrous_rates=12 \ #--atrous_rates=18 \ #--output_stride=16 \ --decoder_output_stride=4
1.9K10发布于 2020-09-14 - 来自专栏算法一只狗
部署MiniGPT4模型
现在多模态大模型其实已经很多了，比如最著名的是OpenAI的GPT-4o模型，最主要的优势在于它是一个多模态模型。在输入图片的时候可以让GPT4理解图片的信息内容。 但是差不多一个月过去了，OpenAI在官网中还没有开放GPT4模型图片理解的能力。 但是最近，有个项目叫MiniGPT-4，号称图像理解能力和GPT4相似；而且已经开源起来，让用户可以真正拥有自己的GPT4模型。 https://github.com/Vision-CAIR/MiniGPT-4在MiniGPT-4模型中，你可以围绕一张图片和它进行对话：从模型实现上来看，主要分为两步进行训练：MiniGPT-4冻结一个视觉编码器和 另一种方法是利用Google Colab进行部署，这个也需要你是 Google Colab Pro用户（说白了也是要花钱的）才能部署成功，下面是部署在Colab的代码：https://colab.research.google.com
71420编辑于 2024-11-24 - 来自专栏贾志刚-OpenCV学堂
OpenCV4 C# YOLO11姿态评估模型部署
https://github.com/shimat/opencvsharp 用 opencvsharp 就可以跟Python、C++一样轻松在C#语言中使用OpenCV SDK完成各种图像处理与深度学习模型推理部署 YOLO11姿态评估模型 YOLO11是YOLOv5跟YOLOv8作者推出最新升级版本模型，支持分类、检测、分割、姿态评估、OBB。 这里以YOLO11姿态评估模型为例，演示OpenCV C#如何运行，YOLO11-pose模型的输入与输出。 (3, 0), kypt.At<float>(3, 1)), Scalar.RandomColor(), 2); // nose->right_eye->right_ear.(0, 2), (2, 4) 0), kypt.At<float>(4, 1)), Scalar.RandomColor(), 2); // nose->left_shoulder->left_elbow->left_wrist
18910编辑于 2026-04-02 - 来自专栏Datawhale专栏
Datawhale出品：《GLM-4 大模型部署微调教程》发布！
Datawhale开源 开源贡献：Datawhale self-llm团队 前言 就在昨天，智谱 AI 发布了最新开源模型 GLM4,通过 10T 高质量多语言数据与更先进的训练技术,达到了更加出色的生成效果 Datawhale成员万字测评（二） 教程介绍 秉承开源贡献的宗旨，Datawhale团队成员在模型发布 12 小时 之内，为 编写了GLM-4整套教学流程，包括： 模型 api 部署； Langchain 接入； WebDemo 部署； vLLM 部署； LoRA 高效指令微调。 项目介绍 《开源大模型食用指南》是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署 除 GLM4 外，项目已支持 LLama3, InternLM, Qwen1.5 等 20 项开源模型全流程教程，并且，本项目代码全部开源！！
1.9K20编辑于 2024-06-08 如何部署自己的模型：Pytorch模型部署实践
Pytorch是一个广泛使用的深度学习框架，但是在将模型部署到生产环境中时，需要注意一些细节和技巧。本文将讨论一些Pytorch模型部署的最佳实践。 选择合适的部署方式 在部署Pytorch模型之前，需要选择合适的部署方式。一种常见的方式是使用Flask或Django等Web框架将模型封装成API，以供其他应用程序调用。 另一种方式是使用TorchScript将Pytorch模型转换为可部署的格式。 return jsonify({'prediction': prediction.item()}) # 运行应用程序 if __name__ == '__main__': app.run() 4. 首先，需要选择合适的部署方式，包括使用Flask或Django等Web框架将模型封装成API，或使用TorchScript将Pytorch模型转换为可部署的格式。
50610编辑于 2025-12-16- 来自专栏悠扬前奏的博客
Tomcat-4.部署
在Tomcat服务器上，部署Web应用有多种方法： 静态部署，在启动Tomcat之前安装Web 应用 动态部署，使用Tomcat的Manager应用直接操纵已经部署好的Web应用（依赖于auto-deplyment 4. 在启动Tomcat时部署 将Web应用静态的部署到Tomcat中，再启动Tomcat，这种情况下应用部署的位置有appBase目录决定，每台主机都指定了一个这样的位置。 Tomcat启动时部署，步骤如下： 部署上下文描述文件 部署没有被任何上下文描述文件引用过的展开的Web应用。 7.使用客户端部署器进行部署 客户端部署器（TCD）的行为包括： 验证并编译web应用 将资源压缩成war文件 将web应用部署到用于生产或开发环境的Tomcat服务器上 TCD需要用到Ant，包含了一个 默认为myapp path：应用已部署的上下文路径，默认为/myapp url：tomcat中管理器应用的绝对地址，用于部署和结束部署应用。
89630发布于 2019-05-28 - 来自专栏charlieroro
istio部署模型
Istio的部署模型介绍 目录 Istio的部署模型介绍 部署模型 集群模式 单集群 多集群 网络模型 单网络 多网络 控制面模型 身份和信任模型 网格中的信任 网格之间的信任 网格模型 单网格 多网格 实际使用中，需要根据隔离性，性能，以及HA要求来选择合适的部署模型。本章将描述部署Istio时的各种选择和考量。 集群模式 该模式下，应用的负载会运行在多个集群中。 包含一个网络的单集群模型会包含一个控制面，这就是istio最简单的部署模型： ? 单集群的部署比较简单，但同时也缺少一些特性，如故障隔离和转移。如果需要高可用，则应该使用多集群模式。 网络模型 很多生产系统需要多个网络或子网来实现隔离和高可用。Istio支持将一个服务网格部署到多种类型的网络拓扑中。通过这种方式选择符合现有网络拓扑的网络模型。 网格模型 Istio支持在一个网格或联邦网格(也被称为多网格)中部署所有的应用。 单网格 单网格是部署Istio的最简单的方式。在一个网格中，服务名是唯一的。
1.3K20发布于 2020-09-08 - 来自专栏PaddlePaddle
如何将PaddleDetection模型在树莓派4B上部署？
项目用到的开源工具包括百度的深度学习平台飞桨以及模型开发套件PaddleDetection、端侧部署工具Paddle Lite、百度一站式AI开发平台AI Studio和树莓派4B。 部署到树莓派4B上需要使用Paddle Lite，而飞桨的原生模型需要经过opt工具转化为Paddle Lite可以支持的naive_buffer格式。 到目前为止，在AI Studio上的所有内容已经完成，生成了这个model.nb文件，就可将其部署在树莓派4B上使用。 模型部署 接下来就是最后一步了，将模型放进文件中，稍作修改就大功告成了！ 1. 进入 code 文件夹。 2. 将在PaddlePaddle学习之使用PaddleDetection在树莓派4B进行模型部署（二）----- 深度学习模型训练得到的 model.nb 放进 models 文件夹。 4.
1.5K31发布于 2020-06-01 - 来自专栏C++开发学习交流
【AI模型】AI模型部署概述
AI模型部署方法 在AI深度学习模型的训练中，一般会用Python语言实现，原因是其灵活、可读性强。但在AI模型实际部署中，主要会用到C++，原因在于其语言自身的高效性。 AI模型部署框架 模型部署常见的推理框架有：ONNX、NCNN、OpenVINO、 TensorRT、Mediapipe。 AI模型部署平台 AI 模型部署是将训练好的 AI 模型应用到实际场景中的过程。 以下是一些常见的 AI 模型部署平台： 云端部署 云端部署是最流行的 AI 模型部署方式之一，通常使用云计算平台来托管模型和处理请求。 容器化部署 容器化部署是将 AI 模型封装到一个轻量级的容器中，然后在不同的环境中进行部署和运行。容器化部署可以提高可移植性和灵活性，并简化部署过程。
2K10编辑于 2024-07-24 - 来自专栏菩提树下的杨过
webrtc笔记(4): kurento 部署
: DISTRO="xenial" # KMS for Ubuntu 16.04 (Xenial) DISTRO="bionic" # KMS for Ubuntu 18.04 (Bionic) 4、 执行时，terminal终端中，按顺序把上面4行，都复制进去就行（注：1个字符都不要少） 6、安装kurento media server apt-get update \ && apt-get install 另外，如果不想麻烦，只是想快速搭建一个kurento环境，也可以直接用docker部署。
2.5K30发布于 2019-07-15 - 来自专栏数据库干货铺
Redis4 Cluster部署
Redis5版本前（redis3.x及redis4.x）cluster部署较麻烦，因部署过程中涉及的依赖软件版本要求较苛刻，因此记录一下redis4.0.14版本redis cluster的部署过程。 1 Redis各节点部署 使用源码安装各节点，不过与非cluster方式不同的是，配置文件中需启动cluster相关的配置。 编译过程可参考分分钟搞定Redis编译安装 因本次为伪分布式部署，生产环境部署时建议至少3台机器部署（其中每台机器1主1从） ip port 192.168.56.101 7000 192.168.56.101 S: 905dc9de7e074c282aab44b4ed5680a2020bcf4c 192.168.56.101:7005 replicates 43fa53cec1ae164f784e5d439aaf80ee2f7e35af 192.168.56.101:7001 slots:5461-10922 (5462 slots) master 1 additional replica(s) S: 905dc9de7e074c282aab44b4ed5680a2020bcf4c
1.2K40编辑于 2022-03-07 - 来自专栏AI资讯
如何获取 OpenAI API 密钥：申请指南附GPT-4 模型部署代码
OpenAI 的 API 提供了强大的自然语言处理功能，使用这些 API 可以在多种应用中集成 GPT-4 模型。 在本文中，我们将详细介绍如何获取 OpenAI API 密钥，并提供部署 GPT-4 模型的代码示例。 你可以在终端中运行以下命令（以 Linux/Mac 为例）：export OPENAI_API_KEY='your-api-key-here'第四步：部署 GPT-4 模型以下是一个简单的 Python 运行代码：在终端中运行以下命令：python generate_text.py如果一切配置正确，你将看到 GPT-4 模型根据提供的提示生成的文本输出。 通过本文的分步指南，你已经学会了如何获取 OpenAI API 密钥，并成功部署了 GPT-4 模型。使用 OpenAI 的 API，你可以在各种应用中集成强大的自然语言处理功能，提升用户体验。
12.3K10编辑于 2024-08-05 - 来自专栏计算机视觉
深度学习500问——Chapter17：模型压缩及移动端部署（4）
1.1 设计思想 在网络结构设计方面主要采取以下三种方式： 用 1*1 卷积核替换 3*3 卷积 理论上一个 1*1卷积核的参数是一个3*3卷积核的1/9，可以将模型尺寸压缩 Squeeze层是由s1个1*1卷积组成，主要是通过1*1的卷积降低expand层的输入维度；expand层利用e1个1*1和e3个3*3卷积构成多分支结构的提取输入特征，以此提高网络的精度（其中e1=e3=4* Networks for Mobile Vision Applications》中针对手机等嵌入式设备提出的一种轻量级的深层神经网络，该网络结构在VGG的基础上使用DW+PW的组合，在保证不损失太大精度的同时，降低模型参数量 同时，因为pooling之前需要一个stride=1的conv，而与stride=2 conv的计算量相比要高近4倍（个人理解）。
43710编辑于 2024-10-12 使用sdcb.paddleocr部署v4版本ocr识别模型
在训练过程中，PaddleOCR采用了许多优化技巧，如模型剪枝、量化等，以提高模型的效率和精度。 其次，PaddleOCR具有高度的可定制性。 用户可以根据自己的需求，调整模型的参数、结构或者更换预训练模型，以适应不同的应用场景。此外，PaddleOCR还提供了丰富的接口和工具，方便用户进行二次开发和集成。 此外，由于深度学习模型的大小较大，PaddleOCR的部署和运行需要一定的计算资源和存储空间。 为了解决这些问题，PaddleOCR团队不断进行技术研究和优化。 他们不仅对模型结构、训练策略等方面进行了改进，还推出了轻量级的OCR模型和移动端版本，以满足不同场景下的性能和精度需求。 region.Rect.Size}, Angle: {region.Rect.Angle}"); } } } 【视频演示】 https://www.bilibili.com/video/BV19g4y1D75w
1.7K10编辑于 2025-07-17- 来自专栏算法之名
模型部署篇(二)
接模型部署篇 硬件搭建 硬件搭建其实挺简单的，把风扇固定好，把键盘、鼠标、USB卡都插在USB接口上，把显示器的HDMI线接在HDMI接口上，把摄像头的线接在摄像头插口上，接好网线就可以了，最后接上电源开机启动 gstreamer1.0-plugins-bad \ gstreamer1.0-plugins-ugly \ gstreamer1.0-libav \ libgstrtspserver-1.0-0 \ libjansson4=
87940编辑于 2023-03-01 如何部署 PyTorch 模型
使用 PyTorch 训练好了模型，如何部署到生产环境提供服务呢？ serve 官方给出的描述是： A flexible and easy to use tool for serving PyTorch models 从描述中就可知道 TorchServe 是用来部署 PyTorch 模型的，而它的特点是「可扩展性」和「易用性」。 由于 TorchServe 将系统工程和模型分开了，所以模型接入到 TorchServe 需要一套统一的标准，而 TorchServe 将这套「标准」制定得很简单。 pytorch/serve/blob/master/README.md#install-torchserve-and-torch-model-archiver 下面简单描述一下用 TorchServe 部署模型的几个步骤
62510编辑于 2025-12-16- 来自专栏数据分析与挖掘
pycaret之模型部署
1、预测模型 一旦使用deploy_model将模型成功部署到云中，或者使用save_model在本地成功部署了模型，就可以使用predict_model函数将其用于看不见的数据进行预测。 但是，一旦使用predict_model在保留集上生成了预测，并且选择了部署特定模型，就希望在包括保留在内的整个数据集上对模型进行最后一次训练。 使用finalize_model确定模型后，即可进行部署。 可以使用save_model功能在本地使用经过训练的模型，该功能将转换管道和经过训练的模型保存为最终用户应用程序可以作为二进制pickle文件使用。 或者，可以使用PyCaret将模型部署在云上。 在云上部署模型就像编写deploy_model一样简单。 对于AWS用户 在将模型部署到AWS S3（“ aws”）之前，必须使用命令行界面配置环境变量。
99620发布于 2020-10-27 - 来自专栏时悦的学习笔记
MySQL MHA部署 Part 4 MHA部署前准备
这节的内容为在正式部署MHA前需要做哪些准备 1. hosts文件 首先我们在四台服务器上添加其他服务器的hosts信息 11.12.14.29 shytest 11.12.14.30 shytest2 11.12.14.39 shytest3 11.12.14.40 shytest4 2. ssh-copy-id 11.12.14.39 ssh-copy-id 11.12.14.40 ssh-copy-id shytest2 ssh-copy-id shytest3 ssh-copy-id shytest4 ssh-copy-id 11.12.14.39 ssh-copy-id 11.12.14.40 ssh-copy-id shytest ssh-copy-id shytest3 ssh-copy-id shytest4 采用基于GTID的复制方式，否则建议关闭GTID功能 这里就不多做介绍了，具体见上一个专题 注意在做主从同步的时候建议清理下从库相关信息 reset master ; reset slave all; 4.
95921发布于 2020-08-18 - 来自专栏计算机视觉战队
模型部署：pytorch转onnx部署实践（下）
在深度学习模型部署时，从pytorch转换onnx的过程中，踩了一些坑。本文总结了这些踩坑记录，希望可以帮助其他人。 （点击上方图片就可以进入《模型部署：pytorch转onnx踩坑实录（上）》） onnxruntime支持3维池化和3维卷积 在上次讲到opencv不支持3维池化，那么onnxruntime是否支持呢？ 如果深度学习模型有3维池化或3维卷积层，那么在转换到onnx文件后，使用onnxruntime部署深度学习是一个不错的选择。 此外，DBNet的官方代码里提供了转换到onnx模型文件，于是我依然编写了一套使用opencv部署DBNet文字检测的程序，依然是包含C++和Python两个版本的代码。 官方代码的模型是在ICDAR场景文本检测数据集上训练的，考虑到车牌里也含有文字，我把文章开头展示的汽车图片作为输入，程序检测结果如下，可以看到依然能检测到车牌的4个角点，只是不够准确。
2.6K20编辑于 2022-01-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号