- 综合排序
- 最热优先
- 最新优先
- 来自专栏贾志刚-OpenCV学堂
三种主流模型部署框架YOLOv8推理演示
前言 深度学习模型部署有OpenVINO、ONNXRUNTIME、TensorRT三个主流框架，均支持Python与C++的SDK使用。 对YOLOv5~YOLOv8的系列模型，均可以通过C++推理实现模型部署。 这里以YOLOv8为例，演示了YOLOv8对象检测模型在OpenVINO、ONNXRUNTIME、TensorRT三个主流框架上C++推理演示效果。 next frame results.clear(); } return 0; } 掌握OpenVINO、ONNXRUNTIEM、TensorRT C++如何部署图像分类，对象检测，实例分割，语义分割主流模型 ，自定义脚本一键INT8量化模型，使用OpenCV CUDA加速图像预处理等各种工程化部署推理技巧，实现推理部署的工程化封装支持
2.7K10编辑于 2023-08-22 - 来自专栏深度应用
·主流声学模型对比
主流声学模型对比 目录 概述 基础概念 语音帧 语音识别系统 主流声学建模技术 HMM DNN-HMM FFDNN CNN RNN及LSTM CTC 其他建模技术 语言建模技术 语音唤醒技术 关于未来 搜狗知音引擎是搜狗公司自主研发的一项专注于自然交互的智能语音技术，于2016年8月3日正式对外发布，该技术集合了语音识别、语义理解、语音交互、以及提供服务等多项功能，不仅能听会说，还能理解会思考, 本文将结合知音引擎中语音识别建模技术的使用来为大家讲解 主流声学建模技术 近年来，随着深度学习的兴起，使用了接近30年的语音识别声学模型HMM(隐马尔科夫模型)逐渐被DNN(泛指深度神经网络)所替代，模型精度也有了突飞猛进的变化，整体来看声学建模技术从建模单元 ），中文大词汇量连续语音识别中状态数一般设置在1万左右，如图8所示。 图8 DNN-HMM建模流程 FFDNN FFDNN的模型结构如下所示： ? 图9 FFDNN建模流程 CNN 编者注：实际上，最早CNN只应用于图像识别，直到2012年才被用于语音识别系统。 ?
3.9K22发布于 2019-06-27 - 来自专栏xiaosen
LLM主流开源代表模型
LLM主流开源大模型介绍 1 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用。 目前，市面上已经开源了各种类型的大语言模型，本章节我们主要介绍其中的三大类： ChatGLM-6B：衍生的大模型（wenda、ChatSQL等） LLaMA：衍生的大模型（Alpaca、Vicuna 显存（推理） 最低GPU显存（高效参数微调） FP16(无量化) 13GB 14GB INT8 10GB 9GB INT4 6GB 7GB 2.5 模型特点 优点： 较低的部署门槛： INT4 精度下 4 BLOOM模型 BLOOM系列模型是由 Hugging Face公司的BigScience 团队训练的大语言模型。 小结 主要介绍了LLM主流的开源大模型，对不同模型架构、训练目标、优缺点进行了分析和总结。
67610编辑于 2024-06-04 - 来自专栏华章科技
8种主流深度学习框架介绍
TensorFlow是目前深度学习的主流框架，其主要特性如下所述。 TensorFlow支持Python、JavaScript、C ++、Java、Go、C＃、Julia和R等多种编程语言。 Keras的特点是能够快速搭建模型，是高效地进行科学研究的关键。 强大高效：PyTorch提供了非常丰富的模型组件，可以快速实现想法。 灵活的编程模型：支持命令式和符号式编程模型。 多语言支持：支持C++、Python、R、Julia、JavaScript、Scala、Go、Perl等。事实上，它是唯一支持所有R函数的构架。 ONNX简化了在人工智能不同工作方式之间传递模型的过程，具有各种深度学习框架的优点。 ONNX的基本特性如下。 ONNX使模型能够在一个框架中进行训练并转移到另一个框架中进行预测。
8.5K12编辑于 2022-01-20 - 来自专栏机器学习入门
【AI大模型】LLM主流开源大模型介绍
学习目标 了解LLM主流开源大模型. 掌握ChatGLM、LLaMA、Bloom等基础大模型的原理 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用 显存（推理） 最低GPU显存（高效参数微调） FP16(无量化) 13GB 14GB INT8 10GB 9GB INT4 6GB 7GB 2.5 模型特点 优点： 较低的部署门槛： INT4 精度下 BLOOM模型 BLOOM系列模型是由 Hugging Face公司的BigScience 团队训练的大语言模型。 小结 本小节主要介绍了LLM主流的开源大模型，对不同模型架构、训练目标、优缺点进行了分析和总结。
1.3K10编辑于 2024-09-24 - 来自专栏北京马哥教育
8种主流NoSQL数据库对比
如果每个系统组建都必须用 Java编写(没有人因为选用 Apache的软件被解雇) 例如：银行业，金融业(虽然对于金融交易不是必须的，但这些产业对数据库的要求会比它们更大)写比读更快，所以一个自然的特性就是实时数据分析 8.
25.5K40发布于 2018-05-02 - 来自专栏北京马哥教育
8种主流NoSQL数据库对比
处理时带冲突检查 8. 因此，采用的是master-master复制(见编注2) 9. MVCC – 写操作不阻塞读操作 10. 可保存文件之前的版本 11. Master-slave复制(见编注3) 8. 虽然采用简单数据或以键值索引的哈希表，但也支持复杂操作，例如 ZREVRANGEBYSCORE。 9. 支持 javascript表达式查询 8. 可在服务器端执行任意的 javascript函数 9. update-in-place支持比CouchDB更好 10. 很好的自带web管理功能 8. 使用多种算法支持路径搜索 9. 使用键值和关系进行索引 10. 为读操作进行优化 11. 支持事务(用 Java api) 12. 类似大表格的功能：列，某个特性的列集合 8. 写操作比读操作更快 9. 基于 Apache分布式平台尽可能地 Map/reduce 10.
1.9K20发布于 2019-10-17 - 来自专栏量子位
主流的深度学习模型有哪些？
这个问题的机会，我也想介绍一下主流的神经网络模型。因为格式问题和传播原因，我把原回答内容在这篇文章中再次向大家介绍。 同理，另一个循环网络的变种 - 双向循环网络(Bi-directional RNN)也是现阶段自然语言处理和语音分析中的重要模型。 深度生成模型(Deep Generative Models) 说到生成模型，大家一般想到的无监督学习中的很多建模方法，比如拟合一个高斯混合模型或者使用贝叶斯模型。 深度学习中的生成模型主要还是集中于想使用无监督学习来帮助监督学习，毕竟监督学习所需的标签代价往往很高…所以请大家不要较真我把这些方法放在了无监督学习中。 2.1.1. 另一个常常被放在GAN一起讨论的模型叫做变分自编码器(Variational Auto-encoder)，有兴趣的读者可以自己搜索。
3.1K40发布于 2018-03-26 - 来自专栏阮一峰的网络日志
utf-8编码已经成为主流
第一眼看到这张图，我感到很振奋，utf-8编码终于成为了主流。 可是再看第二眼，顿时就泄气了。因为份额下降的是ASCII和ISO 8859-1这两类编码，而GB类的中文编码份额几乎保持不变。 那样的话，utf-8编码份额的上升，其实没有多大实际意义，因为ASCII和ISO 8859-1本身就是同utf-8兼容的，转不转化无所谓。 GB类的中文编码，才是真正需要被淘汰的。 可是，直到今天，我们国家主流的门户网站，全部都是GB2312编码，这让人无法理解。我怀疑是不是有什么法规，规定一定要这样做。如果真是这样，那么实在是太愚蠢了。 P.S.
77210发布于 2018-09-21 - 来自专栏IT从业者张某某
大语言模型-2.23-主流模型架构与新型架构
简介 本博客内容是《大语言模型》一书的读书笔记，该书是中国人民大学高瓴人工智能学院赵鑫教授团队出品，覆盖大语言模型训练与使用的全流程，从预训练到微调与对齐，从使用技术到评测应用，帮助学员全面掌握大语言模型的核心技术 transformer架构 2.2 主流模型架构 三种主流架构 在预训练语言模型时代，自然语言处理领域广泛采用了预训练 + 微调的范式，并诞生了如下三种主流架构。 随着 GPT 系列模型的成功发展，当前自然语言处理领域走向了生成式大语言模型的道路，解码器架构已经成为了目前大语言模型的主流架构。 在本节中，我们将首先对于参数化状态空间模型展开讨论，然后针对状态空间模型的各种变种模型进行介绍。为了帮助读者更好地理解这些模型之间的区别，我们在表 5.2 中对于它们进行了比较。 参数化状态空间模型 状态空间模型变种 尽管状态空间模型计算效率较高，但是在文本任务上的表现相比 Transformer模型仍有一定的差距。
87810编辑于 2025-03-24 - 来自专栏福大大架构师每日一题
⽬前 主流的开源模型体系 有哪些？
⽬前 主流的开源模型体系 有哪些？ 答案： ⽬前主流的开源LLM（语⾔模型）模型体系包括以下⼏个： 1. 四、模型部署与工程化 1. 推理优化工具 • DeepSpeed： • 支持模型量化（INT4/INT8）、动态显存优化，在8卡A100上部署千亿模型仅需30分钟，被阿里云等厂商采用。 • Mixtral 8x7B：混合专家（MoE）架构，选择性激活子模型，平衡性能与效率。 3. 以上分类与格局构成了当前主流的开源大模型体系。 腾讯元宝： 腾讯元宝 目前主流的开源模型体系主要分为以下几大类别： 国际主流开源模型体系 1. 百度ds： 百度ds 目前主流的开源大模型（LLM）体系主要包括以下几个代表性系列： 主流开源模型体系 1.
1.8K10编辑于 2025-12-19 - 来自专栏全栈程序员必看
主流量化交易的几种策略模型
二者所用模型一样，但后者少了期货的对冲。缺少对冲有坏处也有好处，坏处是这种策略的收益曲线是会有较大的回撤。 简单地做一些计算，比如说你的策略一共覆盖了10个主流的品种，而策略类型则大致分为相关性较低的三类，并且这三类策略中每一个你都可以在5分钟、半小时和日线三个周期上去运行。
3K20编辑于 2022-09-07 - 来自专栏腾讯技术工程官方号的专栏
主流大语言模型的技术原理细节
作者：spring 1.比较 LLaMA、ChatGLM、Falcon 等大语言模型的细节：tokenizer、位置编码、Layer Normalization、激活函数等。2. 大语言模型的分布式训练技术：数据并行、张量模型并行、流水线并行、3D 并行、零冗余优化器 ZeRO、CPU 卸载技术 ZeRo-offload、混合精度训练、激活重计算技术、Flash Attention 大语言模型的参数高效微调技术：prompt tuning、prefix tuning、adapter、LLaMA-adapter、 LoRA。 0. 大纲 1. 大语言模型的细节 1.0 transformer 与 LLM 1.1 模型结构 1.2 训练目标 1.3 tokenizer 1.4 位置编码 1.5 层归一化 1.6 激活函数 1.7 参考文献 分析 transformer 模型的参数量、计算量、中间激活、KV cache 【万字长文】LLaMA, ChatGLM, BLOOM 的高效参数微调实践 FlashAttention:加速计算
2.5K64编辑于 2023-09-13 - 来自专栏数说工作室
主流CTR预估模型的演化及对比
常用模型 1. LR LR模型是广义线性模型，从其函数形式来看，LR模型可以看做是一个没有隐层的神经网络模型（感知机模型）。 ? ? 8. DeepFM 深度神经网络对于学习复杂的特征关系非常有潜力。目前也有很多基于CNN与RNN的用于CTR预估的模型。 PNN和FNN与其他已有的深度学习模型类似，都很难有效地提取出低阶特征组合。WDL模型混合了宽度模型与深度模型，但是宽度模型的输入依旧依赖于特征工程。 总结 主流的CTR预估模型已经从传统的宽度模型向深度模型转变，与之相应的人工特征工程的工作量也逐渐减少。 [Yanru Qu et al, 2016] Product-based Neural Networks for User Response Prediction. 8.
1.4K40发布于 2019-07-17 - 来自专栏全栈程序员必看
五大主流数据库模型有哪些_五大主流品牌
访问数据库中的数据取决于数据库实现的数据模型。数据模型会影响客户端通过API对数据的操作。不同的数据模型可能会提供或多或少的功能。 迄今为止，主导的数据模型仍然是关系模型。在这里，我们主要想为大家介绍一下非关系模型，作为对比，本文也会简要介绍一下关系模型。 数据模型概述 1.关系模型 关系模型使用记录（由元组组成）进行存储，记录存储在表中，表由架构界定。表中的每个列都有名称和类型，表中的所有记录都要符合表的定义。 与关系模型不同的是，文档存储模型支持嵌套结构。例如，文档存储模型支持XML和JSON文档，字段的“值”又可以嵌套存储其它文档。文档存储模型也支持数组和列值键。 选择哪一种数据模型？ 数据模型有着各自的优缺点，它们适用于不同的领域。不管是选择关系模型，还是非关系模型，都要根据实际应用的场景做出选择。
2.3K10编辑于 2022-09-20 对比主流8款
从定义、原理到趋势，深度解析项目工时管理（Project Time Management/Time Tracking）；拆解 AI 自动化、All-in-One 集成与合规要点；对比 8 款主流工具（ 文章将从工时管理的定义、原理、最新趋势出发，结合对8款市场主流工具的详细对比分析和具体应用场景的拆解，为您的选型决策提供一个全面、深入且具备权威性的专业参考。一、什么是项目工时管理？ 四、8 款主流项目工时管理工具深度对比与分析4.1主流工具横向对比：功能、定位与推荐指数为了帮助选型者快速概览，我们首先通过一个表格来对比这些工时管理工具的核心特性，并加入基于市场反馈和功能匹配度的“推荐指数 本节总结：8款主流工时管理工具各有所长，研发团队应优先考虑PingCode或Jira，跨部门协作选Worktile或ClickUp，按时计费场景选Toggl或Harvest，而具备技术实力且追求自主可控的团队则可选 本文通过对原理的拆解和8款工具的对比，旨在向企业选型者明确一个核心观点。市场上不存在普适全能的“最好”工具，只存在“最合适”您当前业务场景的解决方案。
61110编辑于 2025-11-20- 来自专栏小鹏的专栏
PyTorch图像分类框架(支持多种主流分类模型)
| 模型方面 | (efficientnet/resnest/seresnext等) | 1 | | 数据增强 | (旋转/镜像/对比度等、mixup/cutmix) | 2 | | 损失函数 | (交叉熵 efficientnet_es’, ‘efficientnet_em’, ‘efficientnet_el’, ‘efficientnet_cc_b0_4e’, ‘efficientnet_cc_b0_8e ’, ‘tf_efficientnet_cc_b1_8e’, ‘tf_efficientnet_lite0’, ‘tf_efficientnet_lite1’, ‘tf_efficientnet_lite2 /data/train.csv" --random_state 2020 1、修改配置文件，选择需要的模型 以及 模型参数：vim conf/test.yaml cp conf/test.yaml conf /effb3_ns.yaml vim conf/effb3_ns.yaml 2、训练模型: （根据需求选取合适的模型） python train.py --config_path "conf/effb3
2.1K30发布于 2020-10-29 - 来自专栏小义思
无需魔法，国外主流AI大模型免费使用！
在这个AI技术飞速发展的时代，各种大型AI模型如同雨后春笋般涌现，人们自然会产生比较和讨论。因此也就产生了不少整合各个AI大模型的网站，借助这些网址平台，自然可以实现免费使用。 在得到两个大模型的回复后，可以选择继续聊天，或者为认为回答得更好的模型投票，系统后台自会统计测评结果。 除了Arena(side-by-side)，还有Arena(battle)匿名比较，Direct Chat单个模型聊天等方式，都可以免费使用各大AI模型。 OpenRouter OpenRouter是一个提供大型语言模型（LLMs）和其他AI模型统一接口的平台。 OpenRouter的目标是为用户提供最佳的模型选择和价格，简化了模型的测试和比价过程。
24.3K20编辑于 2024-04-10 - 来自专栏贾志刚-OpenCV学堂
十种主流模型C++部署演示
虽然小编本周一直是摸鱼工作状态，但是完成了最后一种模型推理支持，实现十种主流模型推理部署封装： YOLOv5 YOLOv5-Seg YOLOv6 YOLOv7 YOLOX Faster-RCNN Mask-RCNN 其中YOLO系列模型部署全部支持TensorRT！支持零代码一键集成部署到QT项目中，支持多线程推理，下面的截图只是集成小小的演示！
1.2K20编辑于 2023-01-04 - 来自专栏深度学习和计算机视觉
Github | NumPy手写全部主流机器学习模型
该 repo 的模型或代码结构如下所示： 1. 高斯混合模型 EM 训练 2. 隐狄利克雷分配模型（主题模型） 用变分 EM 进行 MLE 参数估计的标准模型 用 MCMC 进行 MAP 参数估计的平滑模型 4. 基于树的模型 决策树 (CART) [Bagging] 随机森林 [Boosting] 梯度提升决策树 6. 线性模型 岭回归 Logistic 回归 最小二乘法 贝叶斯线性回归 w/共轭先验 7.n 元序列模型 最大似然得分 Additive/Lidstone 平滑 简单 Good-Turing 平滑 8. 非参数模型 Nadaraya-Watson 核回归 k 最近邻分类与回归 10.
90110编辑于 2022-02-11
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号