- 综合排序
- 最热优先
- 最新优先
- 来自专栏深度应用
·主流声学模型对比
主流声学模型对比 目录 概述 基础概念 语音帧 语音识别系统 主流声学建模技术 HMM DNN-HMM FFDNN CNN RNN及LSTM CTC 其他建模技术 语言建模技术 语音唤醒技术 关于未来 主流声学建模技术 近年来，随着深度学习的兴起，使用了接近30年的语音识别声学模型HMM(隐马尔科夫模型)逐渐被DNN(泛指深度神经网络)所替代，模型精度也有了突飞猛进的变化，整体来看声学建模技术从建模单元 中使用GMM计算的输出概率，引领了DNN-HMM混合系统的风潮，很多研究者使用了FFDNN、CNN、RNN、LSTM等多种网络结构对输出概率进行建模，并取得了很好的效果，如图7所示。 图7 DNN-HMM混合建模框架 DNN-HMM建模框架中，输入特征使用了在当前帧左右拼帧的方式来实现模型对时序信号长时相关性的建模，模型输出则保持了GMM-HMM经常使用的trihone共享状态（senone 图13 CTC尖峰效果演示 可以预期，基于CTC或者引用CTC概念（如LFMMI）的端到端识别技术将逐渐成为主流，HMM框架将逐渐被替代。
3.9K22发布于 2019-06-27 - 来自专栏xiaosen
LLM主流开源代表模型
LLM主流开源大模型介绍 1 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用。 2023年发布的一个开放且高效的大型基础语言模型，共有 7B、13B、33B、65B（650 亿）四种版本。 3.3 模型配置（7B） 配置 数据 参数 6.7B 隐藏层维度 4096 层数 32 注意力头数 32 训练数据 1T 词表大小 32000 最大长度 2048 3.4 硬件要求 65B的模型，在2048 模型在384 张 NVIDIA A100 80GB GPU上，训练于 2022 年 3 月至 7 月期间，耗时约 3.5 个月完成 (约 100 万计算时)，算力成本超过300万欧元 4.5 模型特点 BELLE: 链家仅使用由 ChatGPT 生产的数据，对 BLOOMZ-7B1-mt 进行了指令微调。 小结 主要介绍了LLM主流的开源大模型，对不同模型架构、训练目标、优缺点进行了分析和总结。
67610编辑于 2024-06-04 - 来自专栏机器学习入门
【AI大模型】LLM主流开源大模型介绍
学习目标 了解LLM主流开源大模型. 掌握ChatGLM、LLaMA、Bloom等基础大模型的原理 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用 年发布的一个开放且高效的大型基础语言模型，共有 7B、13B、33B、65B（650 亿）四种版本。 模型在384 张 NVIDIA A100 80GB GPU上，训练于 2022 年 3 月至 7 月期间，耗时约 3.5 个月完成 (约 100 万计算时)，算力成本超过300万欧元 4.5 模型特点 小结 本小节主要介绍了LLM主流的开源大模型，对不同模型架构、训练目标、优缺点进行了分析和总结。
1.3K10编辑于 2024-09-24 - 来自专栏决策智能与机器学习
算法基础（7）| 主流智能算法概览
迁移学习：利用数据、任务或模型之间的相似性，将学习过的模型应用于新领域的一类算法。迁移学习可大大降低深度网络训练所需的数据量，缩短训练时间。 其中， Fine-Tune 是深度迁移学习最简单的一种实现方式，通过将一个问题上训练好的模型进行简单的调整使其适用于一个新的问题，具有节省时间成本、模型泛化能力好、实现简单、少量的训练数据就可以达到较好效果的优势 2017 年提出的 DenseNet 采用密集连接的卷积神经网络，降低了模型的大小，提高了计算效率，且具有非常好的抗过拟合性能。 目标检测指用框标出物体的位置并给出物体的类别。 Girshick 提出 RCNN 算法之后，基于卷积神经网络的目标检测成为主流。 2015 年开始，以全卷积神经网络（ FCN）为代表的一系列基于卷积神经网络的语义分割方法相继提出，不断提高图像语义分割精度，成为目前主流的图像语义分割方法。
82030发布于 2020-08-04 - 来自专栏量子位
主流的深度学习模型有哪些？
这个问题的机会，我也想介绍一下主流的神经网络模型。因为格式问题和传播原因，我把原回答内容在这篇文章中再次向大家介绍。 在机器学习领域的约定俗成是，名字中有深度(Deep)的网络仅代表其有超过5-7层的隐藏层。 神经网络的结构指的是“神经元”之间如何连接，它可以是任意深度。 同理，另一个循环网络的变种 - 双向循环网络(Bi-directional RNN)也是现阶段自然语言处理和语音分析中的重要模型。 深度生成模型(Deep Generative Models) 说到生成模型，大家一般想到的无监督学习中的很多建模方法，比如拟合一个高斯混合模型或者使用贝叶斯模型。 另一个常常被放在GAN一起讨论的模型叫做变分自编码器(Variational Auto-encoder)，有兴趣的读者可以自己搜索。
3.1K40发布于 2018-03-26 - 来自专栏房东的猫
ElasticSearch 7.x之后选主流程
简介 7.x之后的ES，采用-种新的选主算法Raft [rɑːft] n. 筏；救生艇。 Raft算法选主流程 其设计原则如下： 容易理解 减少状态的数量，尽可能消除不确定性 在Raft中，节点可能的状态有三种，其转换关系如下： image.png 正常情况下，集群中只有一个Leader，其他节点全是 如果收到了别人的投票请求，且别人的term比自己的大，那么候选者退化为Follower； 如果选举过程超时，再次发起一轮选举； ES实现Raft算法选主流程 ES实现中，候选人不先投自己，而是直接并行发起 在7.x之前的版本中，用户需要手工配置minimum_master_nodes, 来明确告诉集群过半节点数应该是多少，并在集群扩缩容时调整他。现在，集群可以自行维护。
5K23发布于 2021-05-19 - 来自专栏房东的猫
ElasticSearch 7.x之前选主流程
discovery.zen.minimum_master_nodes": 3 } } Master减容场景：缩容与扩容是完全相反的流程，需要先缩减Master节点，再把法定数降低； 注意：最新版本ES7已经移除 选主流程 触发选举条件： 集群启动 Master失效：非Master节点运行的MasterFaultDetection检测到Master失效，执行rejoin操作，重新选主。 if (electMaster.hasEnoughCandidates(masterCandidates)) { // 判断候选节点是否符合法定节点数 // 7. ahead: " + candidates; return candidates.size() >= minimumMasterNodes; } 1.在没有活跃的 master 时使用，上面第 7 失效检测是选主流程之后不可或缺的步骤，不执行失效检测可能会产生脑裂(双主或多主)。 我们需要启动两种失效探测器： 在Master节点，启动NodesFaultDetection， 简称NodesFD。
2.2K11发布于 2021-05-19 - 来自专栏IT从业者张某某
大语言模型-2.23-主流模型架构与新型架构
简介 本博客内容是《大语言模型》一书的读书笔记，该书是中国人民大学高瓴人工智能学院赵鑫教授团队出品，覆盖大语言模型训练与使用的全流程，从预训练到微调与对齐，从使用技术到评测应用，帮助学员全面掌握大语言模型的核心技术 transformer架构 2.2 主流模型架构 三种主流架构 在预训练语言模型时代，自然语言处理领域广泛采用了预训练 + 微调的范式，并诞生了如下三种主流架构。 随着 GPT 系列模型的成功发展，当前自然语言处理领域走向了生成式大语言模型的道路，解码器架构已经成为了目前大语言模型的主流架构。 在本节中，我们将首先对于参数化状态空间模型展开讨论，然后针对状态空间模型的各种变种模型进行介绍。为了帮助读者更好地理解这些模型之间的区别，我们在表 5.2 中对于它们进行了比较。 参数化状态空间模型 状态空间模型变种 尽管状态空间模型计算效率较高，但是在文本任务上的表现相比 Transformer模型仍有一定的差距。
87810编辑于 2025-03-24 - 来自专栏福大大架构师每日一题
⽬前 主流的开源模型体系 有哪些？
⽬前 主流的开源模型体系 有哪些？ 答案： ⽬前主流的开源LLM（语⾔模型）模型体系包括以下⼏个： 1. 7B / 20B 7. 以上分类与格局构成了当前主流的开源大模型体系。 腾讯元宝： 腾讯元宝 目前主流的开源模型体系主要分为以下几大类别： 国际主流开源模型体系 1. 国内主流开源模型体系 1. 百度ds： 百度ds 目前主流的开源大模型（LLM）体系主要包括以下几个代表性系列： 主流开源模型体系 1.
1.8K10编辑于 2025-12-19 - 来自专栏全栈程序员必看
主流量化交易的几种策略模型
二者所用模型一样，但后者少了期货的对冲。缺少对冲有坏处也有好处，坏处是这种策略的收益曲线是会有较大的回撤。 简单地做一些计算，比如说你的策略一共覆盖了10个主流的品种，而策略类型则大致分为相关性较低的三类，并且这三类策略中每一个你都可以在5分钟、半小时和日线三个周期上去运行。
3K20编辑于 2022-09-07 - 来自专栏腾讯技术工程官方号的专栏
主流大语言模型的技术原理细节
作者：spring 1.比较 LLaMA、ChatGLM、Falcon 等大语言模型的细节：tokenizer、位置编码、Layer Normalization、激活函数等。2. 大语言模型的分布式训练技术：数据并行、张量模型并行、流水线并行、3D 并行、零冗余优化器 ZeRO、CPU 卸载技术 ZeRo-offload、混合精度训练、激活重计算技术、Flash Attention 大语言模型的参数高效微调技术：prompt tuning、prefix tuning、adapter、LLaMA-adapter、 LoRA。 0. 大纲 1. 大语言模型的细节 1.0 transformer 与 LLM 1.1 模型结构 1.2 训练目标 1.3 tokenizer 1.4 位置编码 1.5 层归一化 1.6 激活函数 1.7 参考文献 分析 transformer 模型的参数量、计算量、中间激活、KV cache 【万字长文】LLaMA, ChatGLM, BLOOM 的高效参数微调实践 FlashAttention:加速计算
2.5K64编辑于 2023-09-13 - 来自专栏数说工作室
主流CTR预估模型的演化及对比
常用模型 1. LR LR模型是广义线性模型，从其函数形式来看，LR模型可以看做是一个没有隐层的神经网络模型（感知机模型）。 ? ? 例如，“Day=26/11/15”、 “Day=1/7/14”、 “Day=19/2/15”这三个特征都是代表日期的，可以放到同一个field中。同理，商品的末级品类编码也可以放到同一个field中。 FNN模型就是用FM模型学习到的embedding向量初始化MLP，再由MLP完成最终学习，其模型结构如下： ? 7. 总结 主流的CTR预估模型已经从传统的宽度模型向深度模型转变，与之相应的人工特征工程的工作量也逐渐减少。 2016] Deep learning over multi-field categorical data: A case study on user response prediction, ECIR. 7.
1.4K40发布于 2019-07-17 - 来自专栏全栈程序员必看
五大主流数据库模型有哪些_五大主流品牌
访问数据库中的数据取决于数据库实现的数据模型。数据模型会影响客户端通过API对数据的操作。不同的数据模型可能会提供或多或少的功能。 迄今为止，主导的数据模型仍然是关系模型。在这里，我们主要想为大家介绍一下非关系模型，作为对比，本文也会简要介绍一下关系模型。 数据模型概述 1.关系模型 关系模型使用记录（由元组组成）进行存储，记录存储在表中，表由架构界定。表中的每个列都有名称和类型，表中的所有记录都要符合表的定义。 与关系模型不同的是，文档存储模型支持嵌套结构。例如，文档存储模型支持XML和JSON文档，字段的“值”又可以嵌套存储其它文档。文档存储模型也支持数组和列值键。 选择哪一种数据模型？ 数据模型有着各自的优缺点，它们适用于不同的领域。不管是选择关系模型，还是非关系模型，都要根据实际应用的场景做出选择。
2.3K10编辑于 2022-09-20 - 来自专栏小鹏的专栏
PyTorch图像分类框架(支持多种主流分类模型)
efficientnet_b2’, ‘efficientnet_b3’, ‘efficientnet_b4’, ‘efficientnet_b5’, ‘efficientnet_b6’, ‘efficientnet_b7’ tf_efficientnet_b3’, ‘tf_efficientnet_b4’, ‘tf_efficientnet_b5’, ‘tf_efficientnet_b6’, ‘tf_efficientnet_b7’ /data/train.csv" --random_state 2020 1、修改配置文件，选择需要的模型 以及 模型参数：vim conf/test.yaml cp conf/test.yaml conf /effb3_ns.yaml vim conf/effb3_ns.yaml 2、训练模型: （根据需求选取合适的模型） python train.py --config_path "conf/effb3 github.com/bentoml/BentoML （5）mixup-cutmix:https://blog.csdn.net/u014365862/article/details/104216086 （7）
2.1K30发布于 2020-10-29 - 来自专栏小义思
无需魔法，国外主流AI大模型免费使用！
在这个AI技术飞速发展的时代，各种大型AI模型如同雨后春笋般涌现，人们自然会产生比较和讨论。因此也就产生了不少整合各个AI大模型的网站，借助这些网址平台，自然可以实现免费使用。 在得到两个大模型的回复后，可以选择继续聊天，或者为认为回答得更好的模型投票，系统后台自会统计测评结果。 除了Arena(side-by-side)，还有Arena(battle)匿名比较，Direct Chat单个模型聊天等方式，都可以免费使用各大AI模型。 OpenRouter OpenRouter是一个提供大型语言模型（LLMs）和其他AI模型统一接口的平台。 OpenRouter的目标是为用户提供最佳的模型选择和价格，简化了模型的测试和比价过程。
24.3K20编辑于 2024-04-10 - 来自专栏贾志刚-OpenCV学堂
十种主流模型C++部署演示
虽然小编本周一直是摸鱼工作状态，但是完成了最后一种模型推理支持，实现十种主流模型推理部署封装： YOLOv5 YOLOv5-Seg YOLOv6 YOLOv7 YOLOX Faster-RCNN Mask-RCNN 其中YOLO系列模型部署全部支持TensorRT！支持零代码一键集成部署到QT项目中，支持多线程推理，下面的截图只是集成小小的演示！
1.2K20编辑于 2023-01-04 - 来自专栏学习笔记持续记录中...
处理模型数据（7）
Spring MVC提供了以下几种途径输出模型数据： ModelAndView 控制器处理方法的返回值是ModelAndView，则其既包含视图信息，也包含模型数据信息 // success.jsp 返回的目标页面 ; return modelAndView; } } Map&Model Spring MVC 在内部使用了一个org.springframework.ui.Model接口存储模型数据 ，具体步骤： 1）SpringMVC在调用方法前会创建一个隐含的数据模型，作为模型数据的存储容器， 成为”隐含模型” 2）如果方法的入参类型为Map或Model，会将隐含模型的引用传递给这些入参。 3）在方法体内，可以通过这个入参对象访问到模型中的所有数据，也可以向模型中添加新的属性数据 Spring Web MVC 提供Model、Map或ModelMap让我们能去暴露渲染视图需要的模型数据。 @SessionAttributes 除了可以通过属性名指定需要放到会话中的属性处，还可以通过模型属性的对象类型指定哪些模型属性需要放到会话中 @SessionAttributes(types=User.class
52900发布于 2020-03-18 - 来自专栏深度学习和计算机视觉
Github | NumPy手写全部主流机器学习模型
该 repo 的模型或代码结构如下所示： 1. 高斯混合模型 EM 训练 2. 隐狄利克雷分配模型（主题模型） 用变分 EM 进行 MLE 参数估计的标准模型 用 MCMC 进行 MAP 参数估计的平滑模型 4. 基于树的模型 决策树 (CART) [Bagging] 随机森林 [Boosting] 梯度提升决策树 6. 线性模型 岭回归 Logistic 回归 最小二乘法 贝叶斯线性回归 w/共轭先验 7.n 元序列模型 最大似然得分 Additive/Lidstone 平滑 简单 Good-Turing 平滑 8. 非参数模型 Nadaraya-Watson 核回归 k 最近邻分类与回归 10.
90110编辑于 2022-02-11 - 来自专栏机器学习算法与Python学习
Torch7模型训练
Torch7搭建卷积神经网络详细教程已经详细的介绍啦Module模块，这里再次基础上再给出一些上Container、 Transfer Functions Layers和 Simple Layers模块的理解 并在后面给出一些简单的模型训练方法。下述程序在itorch qtconsole下运行。 上一篇博文讲到Module主要有四个函数(详细见Torch7搭建卷积神经网络详细教程)，但是注意以下几点：forward函数的input必须和backward的函数的input一致，否则梯度更新会有问题 上述函数的具体使用方法可以看Torch7的官方API以及帮助文档。接下来仅介绍一些模型训练所需要的关键函数。 将image包导入当前运行环境，随机生成一张1通道32x32的彩色图像，如下 ?
1K130发布于 2018-04-08 - 来自专栏PaddlePaddle
史上最全解读 | 飞桨模型库重大升级，主流算法模型全覆盖
飞桨模型库，包含智能视觉（PaddleCV），智能文本处理（PaddleNLP），智能语音（PaddleSpeech）和智能推荐（PaddleRec）四大领域，飞桨官方支持 100 多个经过产业实践长期打磨的主流模型 以上可以看到，本次的升级点中，飞桨提供了更多的官方支持模型和预训练模型，同时也开源多个国际冠军模型，截至目前，飞桨已官方支持超过 100 个模型和 200 多个预训练模型，极大的方便开发者的快速应用实践 官方支持的模型从 60 个扩充到了 100 多个，新增了对于语音算法的支持。截至目前，飞桨已经可以支持人工智能领域应用主流算法模型的。开发者在工业应用项目落地中，可以利用飞桨模型库中快速实现。 ? 下面，我们将从主流四大领域分别为开发者介绍飞桨模型库的一些核心内容，因为算法模型数量众多且受限于篇幅，仅对算法模型的分类及名称、简介和应用场景、以及在不同数据集上的评价指标进行了整理。 4.1.2.词向量（Word2vec） 提供单机多卡，多机等分布式训练中文词向量能力，支持主流词向量模型（skip-gram，cbow 等），可以快速使用自定义数据训练词向量模型。 4.1.3.
1K30发布于 2019-11-18
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号