- 综合排序
- 最热优先
- 最新优先
- 来自专栏毛利学Python
yolov5模型转换NCNN模型部署
写作原因：最近看了下nihui大佬的ncnn，练习着将yolov5训练的模型转换成ncnn模型并部署，同时借鉴了网上优秀的博文，记录一下，如有不对的地方，请多多指教。 说明：pytorch模型转换成onnx模型，及onnx模型简化和转ncnn模型在引用的文章中都有详细的说明，可移步至引用文章中查看。 图1 其实yolov5 v1-v5版本在训练完后，使用onnx2ncnn.exe将简化后的onnx模型转换成ncnn模型时主要出现这个问题。 V6版本在输出上和前5个版本有一点不同，这里针对1-5版本。 下面说下修改的是什么，这样就可以知道自己的模型应该修改哪里了。
3.1K20编辑于 2022-09-22 基于winform部署PP-OCRv5的推理模型paddleocrv5模型部署
编译并运行（F5）。 若需在 Release 下运行，可将 Debug 文件夹内所有文件复制到 Release 文件夹。 操作步骤 启动程序后，点击"选择图片"按钮，选择待识别的图片文件。
45700编辑于 2025-07-22基于python部署paddleocrv5的onnx模型PPOCRv5模型部署源码+onnx模型+使用说明
项目简介 本项目是 PaddleOCRv5 的 ONNX 版本实现，具有以下特点： 支持简体中文、繁体中文、中文拼音、英文和日文识别 无需深度学习训练框架，可直接部署使用 支持 ARM 和 x86 架构 项目提供两种模型版本： Mobile 版本（默认） 已包含在项目中，位于 onnxocr/models/ppocrv5 目录下 无需额外下载 Server 版本（推荐，效果更好，但是推理时间会变长 可以调整批处理大小来减少内存使用 识别效果不理想 尝试使用 Server 版本模型 确保图片清晰度足够 检查图片是否包含支持的语言类型 6. 性能优化建议 使用 GPU 版本可以获得更好的性能 对于批量处理，建议使用批处理模式 可以根据实际需求调整模型参数 对于特定场景，可以考虑使用模型量化来提升性能 7. 源码特点 使用PP-OCRv5 模型 支持 5 种文字类型识别 识别精度比v4及其版本提升 13% 与 PaddleOCR 3.0 精度保持一致
2.2K10编辑于 2025-07-18winform部署yolov5-onnx模型
【官方框架地址】 https://github.com/ultralytics/yolov5 【算法介绍】 Yolov5，全称为You Only Look Once version 5，是计算机视觉领域目标检测算法的一个里程碑式模型 该模型由ultralytics团队开发，并因其简洁高效的特点而备受关注。Yolov5在保留了前代模型（Yolov3）优点的同时，进一步优化了网络结构，提高了检测速度和准确率。 相较于前代模型，Yolov5在训练过程中采用了许多优化策略，如数据增强、学习率衰减、知识蒸馏等，进一步提高了模型的性能。 此外，Yolov5还支持多任务学习（Multi-task Learning），可以在同一模型中同时进行目标检测、实例分割和关键点检测等任务，提高了模型的泛化能力。 此外，由于Yolov5的简洁高效特点，该模型在移动设备、嵌入式系统等领域也有着广泛的应用前景。 总的来说，Yolov5是计算机视觉领域目标检测算法的一个重要进展。
44810编辑于 2025-07-17YOLOV5之TensorRT模型部署
精度与速度的动态权衡YOLOv5通过模型剪枝、量化等优化手段，可在TensorRT加速下实现FPS（每秒帧率）与mAP（平均精度）的动态调节。 成本优化的创新路径模型蒸馏：用大模型（教师）指导小模型（学生），在保持85%精度的前提下推理速度提升3倍动态批处理：根据请求量自动调整批处理大小，使GPU利用率从30%提升至75%混合部署：将简单任务分配至边缘设备 ：YOLOv5n+TensorRT+边缘计算盒子关键：优化模型对货架商品的识别能力，支持离线运行与定期数据同步效果：单店部署成本<$500，数据更新周期缩短至15分钟四、三角平衡的决策框架1. ：通过用户调研与A/B测试，每季度更新场景评估模型权重五、未来趋势：从三角平衡到智能决策随着AutoML与边缘计算的发展，决策框架正进化为智能系统：自动参数调优：基于强化学习实时优化模型结构与部署配置成本预测引擎 YOLOv5-TensorRT的部署决策，正是这种系统能力的最佳试金石。
38510编辑于 2025-11-04windows上基于C++部署PP-OCRv5模型paddleocrv5模型部署GPU版本
PaddleOCRv5 C++ 推理项目使用教程 1. 项目简介 本项目基于PaddleOCR v5，使用Paddle Inference和OpenCV实现中英文文本检测与识别，支持方向分类，适合在Windows平台下进行二次开发和部署。 2. 模型准备 将以下模型文件夹放入model/目录下： PP-OCRv5_mobile_det：文本检测模型 PP-OCRv5_mobile_rec：文本识别模型 ch_ppocr_mobile_v2.0_ cls_infer：方向分类模型 ppocr_keys.txt：字典文件 5. 执行如下命令（请将路径替换为你实际的模型和图片路径）： ppocr.exe \ --det_model_dir=C:\路径\model\PP-OCRv5_mobile_det \ --rec_model_dir
1.2K10编辑于 2025-07-22基于C#winform使用openvino部署PP-OCRv5的onnx模型paddleocrv5模型部署
PP-OCRv5 OpenVINO部署教程 本教程将指导您如何使用OpenVINO在C# WinForm项目中部署PP-OCRv5模型。 下载PP-OCRv5模型文件： 检测模型：PP-OCRv5_mobile_det_onnx.onnx 分类模型：PP-OCRv5_mobile_cls_onnx.onnx 识别模型：PP-OCRv5 项目结构说明 项目根目录/ ├── weights/ │ ├── PP-OCRv5_mobile_det_onnx.onnx │ ├── PP-OCRv5_mobile_cls_onnx.onnx │ ├── PP-OCRv5_mobile_rec_onnx.onnx │ └── ppocrv5_dict.txt ├── Form1.cs ├── Form1.Designer.cs └─ \\PP-OCRv5_mobile_det_onnx.onnx"; private string cls_model = Application.StartupPath + "\\weights\\PP-OCRv5
1.3K10编辑于 2025-07-22- 来自专栏DeepHub IMBA
使用FastAPI部署Ultralytics YOLOv5模型
python3 -m venv my_project 然后使用命令激活来启动虚拟环境 my_project/bin/activate 训练定制YOLOv5模型 我们这里不介绍详细的训练流程，第一是因为官方有代码可以直接使用 ，第二是因为我们主要介绍部署的步骤。 ):这是yolov5可以使用定制模型的地方。 /yolov5 '， ' custom '， path= ' ./model/best.pt '， source= ' local '):它从本地目录加载自定义yolov5模型。' 这样我们的程序就完成了 总结 这里我们看到了yolov5模型的部署的完整过程，并且这个过程是可以应用到生产环境的。但是这里我们发现了一个新的命令 'uvicorn'.
1.4K31编辑于 2023-10-31 - 来自专栏3D视觉从入门到精通
基于Caffe格式部署YOLOV5模型
部署简介 如果说目标检测落地最广的是哪个算法，yolo系列肯定有一席之地，本文为大家介绍yolov5s 4.0模型如何转换为caffe模型并推理，据我所知，华为海思NNIE只支持caffe模型的转换， 所以yolov5模型要想在海思芯片上部署，转换为caffe模型是有必要的（在我的1070显卡上，yolov5s 4.0 的模型inference做到了11ms一帧！） 密码: br7h cuda和cudnn的安装 可以参考我的TensorRT量化部署yolov5模型的文章（https://zhuanlan.zhihu.com/p/348110519） Anaconda /tools/caffe_yolov5s 输出平均推理时间，以及保存预测图片到当前目录下，至此，部署完成！ 华为海思NNIE部署拙见 如果有小伙伴，想把caffe模型部署到海思芯片，建议把yolov5的focus层替换为conv层（stride为2），upsample层替换为deconv层，如下图所示修改：
1.8K10发布于 2021-03-19 - 来自专栏GiantPandaCV
基于Caffe格式部署YOLOV5模型
【GiantPandaCV导语】本文为大家介绍了一个caffe部署yolov5 模型的教程，并开源了全部代码。 部署简介 如果说目标检测落地最广的是哪个算法，yolo系列肯定有一席之地，本文为大家介绍yolov5s 4.0模型如何转换为caffe模型并推理，据我所知，华为海思NNIE只支持caffe模型的转换，所以 yolov5模型要想在海思芯片上部署，转换为caffe模型是有必要的（在我的1070显卡上，yolov5s 4.0 的模型inference做到了11ms一帧！） 密码: br7h cuda和cudnn的安装 可以参考我的TensorRT量化部署yolov5模型的文章（https://zhuanlan.zhihu.com/p/348110519） Anaconda 华为海思NNIE部署拙见 如果有小伙伴，想把caffe模型部署到海思芯片，建议把yolov5的focus层替换为conv层（stride为2），upsample层替换为deconv层，如下图所示修改：
2.6K10发布于 2021-03-10 使用易语言部署yolov5-onnx模型
【官方框架地址】 https://github.com/ultralytics/yolov5 【易语言介绍】 易语言是中国自主开发的一种编程语言，旨在降低编程的难度，让更多的人能够理解和掌握编程技术。 【效果展示】 【实现部分代码】 .版本 2 .支持库 spec YOLO5_加载模型 (“yolov5s.onnx”, “labels.txt”) 图片字节集 ＝ 读入文件 (“person.jpg ”) 图片大小 ＝ 取字节集长度 (图片字节集) 推理结果 ＝ YOLO5_推理 (图片字节集, 图片大小) 绘制结果 (图片字节集, 推理结果) 调试输出 (推理结果) YOLO5_释放资源 () vd_source=989ae2b903ea1b5acebbe2c4c4a635ee 【测试环境】 易语言5.7.1 opencv4.7.0
40710编辑于 2025-07-17winform部署yolov5实例分割模型onnx
【官方框架地址】 https://github.com/ultralytics/yolov5 【算法介绍】 YOLOv5实例分割是目标检测算法的一个变种，主要用于识别和分割图像中的多个物体。 它是在YOLOv5的基础上，通过添加一个实例分割模块来实现的。 在实例分割中，算法不仅要识别图像中的物体，还要对每个物体进行分割，以获得物体的精确边界。 与传统的分割方法相比，YOLOv5实例分割具有更高的速度和准确性。由于它采用了一种端到端的训练方式，因此可以有效地处理各种复杂的背景和光照条件。 然而，YOLOv5实例分割也存在一些局限性。例如，它对于小物体的检测效果较差，因为小物体的特征比较微弱。此外，对于遮挡或重叠的物体，它也可能无法准确地识别和分割。 总的来说，YOLOv5实例分割是一种非常有用的目标检测和分割算法，可以广泛应用于各种计算机视觉任务中。尽管它还有一些局限性，但随着技术的不断发展，相信这些问题也会得到解决。
36610编辑于 2025-07-17- 来自专栏星哥的AI自留地
OpenAI发布最新大模型GPT5、本地部署GPT开源模型
OpenAI发布最新大模型GPT5、本地部署GPT开源模型GPT-5概述北京时间 2025年8月8日 凌晨1点 OPENAI举行了1个小时的线上发布会，正式推出了其史上最聪明、最强大的大模型GPT-5 GPT-5是OpenAI发布的最新一代大型语言模型，它基于Transformer架构，经过大规模的文本数据训练，能够生成流畅、自然的语言输出。 GPT-5具备以下几个显著特点：更大的参数规模：GPT-5拥有比GPT-4更多的参数，使其能够处理更为复杂的语言任务。 使用微软的copilot可以免登录使用GPT5、但是需要一些魔法。 最后以上就是全部内容，GPT-5的简介和在本地搭建使用OpenAI的GPT-oss的开源模型。写文不易，如果你都看到了这里，请点个赞和在看，分享给更多的朋友；也别忘了关注星哥玩云！
1.2K10编辑于 2025-08-27 使用C#部署yolov5的openvino模型
要说C#当前做深度学习能力很弱，但是源于对C++非常友好的接口，使得C#做界面，C++做算法非常适合，因此你问我目前在C#方面最好的深度学习部署方式是什么？ 我只能说是调用C++接口，目前github或者其他开源网站都有各种C#版本的深度学习部署库，比如yolov5-net,yolov7-net但是这些库的速度都是非常感人的，他们大多数是通过onnx作为推理对象 C#部署yolov5-openvino模型流程 yolov5训练自己的模型pt====>导出openvino模型=====>安装openvino环境=======>编写C++接======>封装C++DLL =====>封装C#调用C++ DLL接口的函数====>调用模型推理 需要掌握技术： （1）C++面向对象的知识 （2）C++ DLL封装技巧 （3）掌握C++的数据类型怎么转成C#的数据类型或者反向数据类型转换 （4）掌握C#面向对象的知识 （5）掌握训练模型流程 （6）掌握模型转换的流程 更多信息可以参考视频教程： 使用C#部署openvino-yolov5s模型_哔哩哔哩_bilibili
21510编辑于 2025-07-19- 来自专栏贾志刚-OpenCV学堂
OpenCV4.8 Java SDK实现YOLOv5模型部署
Run"/> or // click the <icon src="AllIcons.Actions.Execute"/> icon in the gutter. public class YOLOv5DNNDetector HighGui.waitKey(0); HighGui.destroyAllWindows(); System.exit(0); } } 运行结果如下： YOLOv5模型部署 基于YOLOv5 7.0版本，完成了对象检测 public static void main(String[] args) { System.load("D:/opencv-4.8.0/opencv detector = new YOLOv5DNNDetector("D:/python/yolov5-7.0/yolov5s.onnx", 0.5f, 0.5f, 640, 640); ); detector.infer_image(inputImage, boxes); HighGui.imshow("OpenCV4.8 for Java YOLOv5对象检测演示
1.5K10编辑于 2024-05-17 基于python部署PP-OCRv5的pytorch模型脱离paddle框架源码+模型
因此目前有4种常用方法尽量摆脱paddle环境： 第一方法：转成onnx模型，脱离paddle环境直接使用onnxruntime进行推理 第二方法：调用paddle_inference库，直接封装进行推理 ，常用于C++或者C#开发 第三方法：转成pytorch模型，脱离paddle环境直接使用pytorch进行推理 第四方法：转成openvino模型，脱离paddle环境直接使用openvino进行推理 这个项目就是使用第三种方法： paddleocrv5推理模型=>pytorch模型 所用模型 检测模型：ptocr_v5_mobile_det.pth 识别模型：ptocr_v5_mobile_rec.pth 字典文件：ppocrv5_dict.txt 如果需要server模型，可从 PaddleOCR2Pytorch 仓库中获取。
1.3K10编辑于 2025-07-22如何部署自己的模型：Pytorch模型部署实践
Pytorch是一个广泛使用的深度学习框架，但是在将模型部署到生产环境中时，需要注意一些细节和技巧。本文将讨论一些Pytorch模型部署的最佳实践。 选择合适的部署方式 在部署Pytorch模型之前，需要选择合适的部署方式。一种常见的方式是使用Flask或Django等Web框架将模型封装成API，以供其他应用程序调用。 另一种方式是使用TorchScript将Pytorch模型转换为可部署的格式。 监控和调试模型 在Pytorch模型部署完成后，您可以通过使用工具来监控模型的运行情况，例如Tensorboard和Prometheus等，来确保模型的稳定性和性能。 首先，需要选择合适的部署方式，包括使用Flask或Django等Web框架将模型封装成API，或使用TorchScript将Pytorch模型转换为可部署的格式。
43210编辑于 2025-12-16使用易语言部署yolov5-7.0的图像分类模型
权重轻 YOLOv5在不牺牲太多精度的前提下，提供了不同大小的模型，从小型的YOLOv5s到大型的YOLOv5l和YOLOv5x，满足不同计算能力的平台需求。 易于训练和部署 YOLOv5易于训练且模型文件体积小，配合其有效的预训练权重和灵活的部署能力，可以在各种硬件平台上快速启动和运行。 将YOLOv5用于图像分类的一个常用方法是提取YOLOv5中的特征提取部分，即其CNN骨干网，并在此基础上添加一个用于分类的全连接层。 YOLOv5适用场景 YOLOv5适用于需要快速、实时检测物体并对图像中的物体分类的场合，比如监控系统、无人驾驶汽车以及在零售中识别商品等。 【效果展示】 【实现部分代码】 .版本 2 .支持库 spec Yolov5Cls_加载模型 (“yolov5n-cls.onnx”, “labels.txt”) 图片字节集 ＝ 读入文件 (“goldfish.jpg
45610编辑于 2025-07-17- 来自专栏charlieroro
istio部署模型
Istio的部署模型介绍 目录 Istio的部署模型介绍 部署模型 集群模式 单集群 多集群 网络模型 单网络 多网络 控制面模型 身份和信任模型 网格中的信任 网格之间的信任 网格模型 单网格 多网格 实际使用中，需要根据隔离性，性能，以及HA要求来选择合适的部署模型。本章将描述部署Istio时的各种选择和考量。 集群模式 该模式下，应用的负载会运行在多个集群中。 包含一个网络的单集群模型会包含一个控制面，这就是istio最简单的部署模型： ? 单集群的部署比较简单，但同时也缺少一些特性，如故障隔离和转移。如果需要高可用，则应该使用多集群模式。 网络模型 很多生产系统需要多个网络或子网来实现隔离和高可用。Istio支持将一个服务网格部署到多种类型的网络拓扑中。通过这种方式选择符合现有网络拓扑的网络模型。 网格模型 Istio支持在一个网格或联邦网格(也被称为多网格)中部署所有的应用。 单网格 单网格是部署Istio的最简单的方式。在一个网格中，服务名是唯一的。
1.2K20发布于 2020-09-08 - 来自专栏C++开发学习交流
【AI模型】AI模型部署概述
AI模型部署方法 在AI深度学习模型的训练中，一般会用Python语言实现，原因是其灵活、可读性强。但在AI模型实际部署中，主要会用到C++，原因在于其语言自身的高效性。 AI模型部署框架 模型部署常见的推理框架有：ONNX、NCNN、OpenVINO、 TensorRT、Mediapipe。 AI模型部署平台 AI 模型部署是将训练好的 AI 模型应用到实际场景中的过程。 以下是一些常见的 AI 模型部署平台： 云端部署 云端部署是最流行的 AI 模型部署方式之一，通常使用云计算平台来托管模型和处理请求。 容器化部署 容器化部署是将 AI 模型封装到一个轻量级的容器中，然后在不同的环境中进行部署和运行。容器化部署可以提高可移植性和灵活性，并简化部署过程。
1.8K10编辑于 2024-07-24
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号