- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型应用
大模型应用：大模型参数调优：结合本地模型对比多种组合探索差异.7
引言 在大模型的应用中，参数调优是连接模型潜力与实际效能的关键桥梁。与传统的软件参数不同，大模型的生成参数更像是一组精密的调控旋钮，它们不改变模型的基础知识，而是影响模型如何思考和表达。 理解这些参数的本质，不仅能够提升模型输出的质量，更是将大模型从玩具转变为工具的关键一步。 今天我们将从理论基础到实践应用，全面解析大模型的核心参数体系，详细的介绍大模型推理中常用的参数项，并通过本地模型示例展示参数调整对模型效能的影响。常见参数项：max_length：生成文本的最大长度。 二、核心参数说明1. 温度（Temperature）参数意义：创造力的调控器，温度参数源于统计力学中的玻尔兹曼分布，在语言模型中用于调整softmax函数的输出分布。 重复：直到生成结束标记或达到最大长度三、本地模型组合参数验证 接下来将结合本地的Qwen1.5-1.8B-Chat模型测试在不同生成参数（如温度、top-p、top-k、重复惩罚等）系统性地评估不同生成参数对模型输出质量的影响
70832编辑于 2026-02-04 - 来自专栏WalkingCloud
CentOS7 部署ElastiFlow网络流量分析平台
CentOS7 部署ElastiFlow网络流量分析平台 640.png (图片可点击放大查看) (图片可点击放大查看) (图片可点击放大查看) 本文参考如下链接完成 https://docs.elastiflow.com 条件准备 1、host-sflow agent https://github.com/sflow/host-sflow/releases/download/v2.0.25-3/hsflowd-centos7- _64.rpm kibana-7.17.2-x86_64.rpm logstash-7.17.2-x86_64.rpm image.png 640.png 具体安装部署步骤如下 一、调整相关的内核参数并关闭防火墙 (图片可点击放大查看) 修改如下kibana中的配置 (图片可点击放大查看) (图片可点击放大查看) 七、Linux服务器安装及配置hsflow rpm -ivh hsflowd-centos7-
1.9K10编辑于 2022-05-17 - 来自专栏燧机科技-视频AI智能分析
教师教学质量分析评价系统 A教育大模型
本文提出一种基于YOLOv12目标检测、RNN时序分析与情感计算的教师教学质量分析评价系统，通过“多模态感知-时序行为研判-情感-行为关联评价”机制，实现对课堂学生行为（玩手机、举手、睡觉等6类）、表情 （7类基础情绪）的毫秒级识别，以及教学质量核心指标（参与度、专注度、情绪反馈）的量化评估。 （含不同年级、学科、光照场景），标注“行为（6类）+表情（7类）”共13类目标，按8:1:1划分训练/验证/测试集，引入随机遮挡（模拟书本遮挡面部）、表情增强（模拟不同光照下表情差异）提升鲁棒性； 模型轻量化 # 加载YOLOv12预训练权重并修改配置 model = YOLO('yolov12n.pt') # 轻量化模型 model.model.nc = 13 # 13类目标（6行为+7表情） 教师教学质量分析评价系统基于YOLOv12+RNN的深度学习算法，教师教学质量分析评价系统精准地检测到学生是否在玩手机、举手、睡觉、交头接耳、趴桌子、行走运动等行为。
54910编辑于 2025-12-31 大模型、小模型、参数量
## 几个概念总参数量 = 词嵌入层参数 + 解码器层参数小模型 就是在参数量上显著小于LLM的模型所有参数 都放在 safttensors 模型文件 中预训练 就是为了 生成合理的 参数值后训练 也是为了 生成合理的 参数值蒸馏、微调、强化学习，都是后训练大模型变成小模型采用"蒸馏+量化+剪枝"的组合策略 一、大模型 GPT-3 参数量详解大模型的参数量是指神经网络中所有可训练权重和偏置的总数，这些参数决定了模型的学习能力和表达能力 模型总参数量（参考）若词嵌入层与输出层共享权重（主流方案）：总参数量 = 词嵌入层参数 + 32层解码器参数=65,660,928+2,684,354,560=2,750,015,488≈27.5 亿= 三、大模型、小模型参数差距的本质大模型的参数量，本质上是用 dmodel2d_{model}^2dmodel2 的代价，换取高维语义空间的表达能力。 维度对比大模型 (LLM)小模型 (SLM)对参数量的影响隐藏层维度 (dmodeld_{model}dmodel)12288 (GPT-3/4)2048 (Phi-3) / 1024 (TinyLLaMA
55021编辑于 2026-01-04- 来自专栏图灵人工智能
Meta无限长文本大模型来了：参数仅7B，已开源
长文本是大语言模型一直在努力的方向。 在与 LLAMA2 的直接比较中，MEGALODON 在 70 亿参数和 2 万亿训练 token 的规模上取得了比 Transformer 更好的效率。 具体而言，他们创造性地提出了复指数移动平均 CEMA（ complex exponential moving average ），将上式（1）改写为如下形式： 并将（2）中的 θ_j 参数化为： 时间步 然而，更新门 φ 引入了更多的模型参数，当模型规模扩大到 70 亿时，不稳定问题仍然存在。 指令微调 表 3 总结了 7B 模型在 MT-Bench 上的性能。
35910编辑于 2024-04-19 - 来自专栏啄木鸟软件测试
由人工智能参数讨论基于Bug的软件测试质量分析
上文和大家一起讨论了人工智能样本的评价参数：准确度、精准度、召回率和F1分数。这篇文章，我们结合这些参数来讨论基于Bug的软件测试质量分析。 软件测试质量分析是软件测试工作中非常重要的管理工作，其实在没有了解准确度、精准度、召回率这些概念之前，我们其实已经多多少少使用了这些概念。 人工测试发现的缺陷数据严重一般轻微严重一般轻微45（25）135（46）212（109）4（0）15（0）3（0） 这样人工测试发现的去除测试机器人发现的缺陷数据为表7： 人工测试发现的缺陷数据严重一般轻微严重一般轻微 201891034153 合并表5和表7，得到表8： 测试机器人发现的缺陷数据人工测试发现的缺陷数据有效无效有效无效严重一般轻微合计严重一般轻微合计严重一般轻微合计严重一般轻微合计3076186 103232
99710发布于 2020-06-17 - 来自专栏喔家ArchiSelf
7B？13B？175B？解读大模型的参数
例如，13B-int8模型通常优于同一体系结构的7B-BF16模型。 2. 大模型参数对内存的需求 对于工程师而言，面对的是大模型训练或推理时会使用多少的内存资源。 例如，对于一个7B的模型而言，大体上，使用浮点精度需要28GB内存，使用BF16精度需要14GB内存，使用int8精度需要7GB内存。这个粗略的估计方式可以相应地应用到其他版本的模型。 大模型参数对GPU 的需求 有了大模型参数对内存的要求， 可以进一步估算大模型在训练和推理中所需的GPU数量。但由于GPU数量估算依赖的参数稍多，有人（Dr. GPU Size in GB是可用的 GPU 内存总量 举个实际的例子，假设使用的是 NVIDIA RTX 4090 GPU，它有24GB 的 VRAM，计算一下训练‘ Llama3 7B’模型所需的 GPU 数量，大约为 : GPU 的总数≈(7 * 18 * 1.25)/24，大约等于7 对于推理而言， 可以简化为训练阶段的1/8～1/9 , 当然，这些只是一般意义的粗略估计。
32K27编辑于 2024-06-03 - 来自专栏深度学习自然语言处理
Meta无限长文本大模型来了：参数仅7B，已开源
长文本是大语言模型一直在努力的方向。 在与 LLAMA2 的直接比较中，MEGALODON 在 70 亿参数和 2 万亿训练 token 的规模上取得了比 Transformer 更好的效率。 具体而言，他们创造性地提出了复指数移动平均 CEMA（ complex exponential moving average ），将上式（1）改写为如下形式： 并将（2）中的 θ_j 参数化为： 时间步 然而，更新门 φ 引入了更多的模型参数，当模型规模扩大到 70 亿时，不稳定问题仍然存在。 指令微调 表 3 总结了 7B 模型在 MT-Bench 上的性能。
45610编辑于 2024-04-19 - 来自专栏全栈程序员必看
sklearn输出模型参数_rfm模型算法
总第105篇 最近会开始一个新的系列，sklearn库中各模型的参数解释，本篇主要讲述最基础的LR模型。 模型参数详解 逻辑回归： sklearn.linear_model.LogisticRegression(penalty='l2', dual=False, tol=0.0001, class_weight:class_weight是很重要的一个参数，是用来调节正负样本比例的，默认是值为None，也就是正负样本的权重是一样的，你可以以dict的形式给模型传入任意你认为合适的权重比， 比如，有一数据集的正负样本绝对数量比为4:6,如果你给参数class_weight赋予balanced值，那么最后模型结果中，正负样本的权重比就会变成6:4。 set_params(**params):为估计器设置参数 你还可以看： 逻辑斯蒂回归模型 版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。
1K10编辑于 2022-11-04 - 来自专栏DeepHub IMBA
7个有用的Prompt参数
本文将介绍七个关键的Prompt参数，通过这些参数可以引导模型，探索模型的能力和限制，生成不同风格或角度的内容。 1、上下文窗口 上下文窗口参数决定了模型在生成响应时要考虑的文本数量。 例如将上下文窗口设置为100个标记，那么模型将只考虑输入文本的最后100个标记。 2、最大令牌数 Max tokens参数定义生成的响应中令牌的最大数量。 例如，如果将最大令牌值设置为50，则模型将生成最多包含50个令牌的响应。 3、温度 温度是控制生成输出的随机性的参数。更高的温度值（比如1.0）会导致生成的文本更具随机性和多样性。 当希望避免生成文本中的某些内容或偏差时，这个参数非常有用。 7、频率惩罚 频率惩罚（Frequency Penalty）是另一个可用于控制生成的输出中单词或短语重复的参数。 总结 理解和利用Prompt参数对于从ChatGPT等生成式人工智能模型中获得所需的输出至关重要。通过调整这些参数，可以微调模型的行为并引导模型生成与需求一致的响应。
90120编辑于 2023-08-30 - 来自专栏张俊红
Sklearn参数详解—LR模型
总第105篇 最近会开始一个新的系列，sklearn库中各模型的参数解释，本篇主要讲述最基础的LR模型。 模型参数详解 逻辑回归： sklearn.linear_model.LogisticRegression(penalty='l2', dual=False, tol=0.0001, class_weight:class_weight是很重要的一个参数，是用来调节正负样本比例的，默认是值为None，也就是正负样本的权重是一样的，你可以以dict的形式给模型传入任意你认为合适的权重比， 比如，有一数据集的正负样本绝对数量比为4:6,如果你给参数class_weight赋予balanced值，那么最后模型结果中，正负样本的权重比就会变成6:4。 模型对象 coef_:返回各特征的系数,绝对值大小可以理解成特征重要性 intercept_:返回模型的截距 n_iter_:模型迭代次数 模型方法 decision_function(X):返回决策函数值
7.8K60发布于 2018-06-11 - 来自专栏深度学习自然语言处理
GLoRA—高效微调模型参数！
这些高度复杂的模型，通常具有数百万甚至数十亿个参数，在计算机视觉、自然语言理解和语音识别等领域表现出了卓越的能力。 本文提出了广义LoRA(GLoRA)，一种通用参数高效微调任务的先进方法。 RepAdapter：RepAdapter将轻量级网络插入到预先训练的模型中，并且在训练后，额外的参数将被重新参数化为附近的投影权重。 它们之间的区别仅在于搜索空间中的LoRA维度，该维度在最大模型中为8和4，在中间模型中为4和2，在最小模型中为2。本文方法中增加的参数灵活性允许在最终模型中进行用户定义的可训练参数计数。 将最先进的参数有效迁移学习提高了2.9%，即使是最小的模型也大大优于所有现有方法。 总结 本文提出了GLoRA，这是一种广义参数高效的微调方法，它成功地证明了增强大规模预训练模型的微调和迁移学习能力的有效性。
85710编辑于 2023-08-22 参数仅6.31亿反超7B模型，NVIDIA用「多教师蒸馏」融合三大模型绝学
在追求模型规模的竞赛中，一个反直觉的事实正在发生：NVIDIA 的 C-RADIOv4 仅用 6.31 亿个参数就达到了 DINOv3 的 70 亿参数模型的性能。 结果，参数量仅 6.31 亿的 C-RADIOv4-H，从某个分辨率开始，竟然能媲美参数量高达 70 亿的 DINOv3-7B。这或许可以称之为“效率的胜利”。 用十分之一的参数，达到相近的深度特征质量，C-RADIOv4展示了聚合蒸馏路径的惊人潜力。不仅能学，还能用：无缝替换SAM3主干如果说前面的测试是“期末考试”，那么接下来的应用就是“毕业实习”。 图7：响应文本查询“骑行的人”，模型准确地分离出了目标。更戏剧性的是，它甚至修复了 SAM3 的一个“小毛病”。在 SAM3 的官方 Demo 中，用“person”作为查询词有时会失效。 当 AI 模型越来越庞大，这种追求“更少参数，更多能力，更高效率”的尝试，或许正指向下一个值得期待的方向。
28410编辑于 2026-02-05- 来自专栏学习笔记持续记录中...
处理模型数据（7）
Spring MVC提供了以下几种途径输出模型数据： ModelAndView 控制器处理方法的返回值是ModelAndView，则其既包含视图信息，也包含模型数据信息 // success.jsp 返回的目标页面 ，具体步骤： 1）SpringMVC在调用方法前会创建一个隐含的数据模型，作为模型数据的存储容器， 成为”隐含模型” 2）如果方法的入参类型为Map或Model，会将隐含模型的引用传递给这些入参。 3）在方法体内，可以通过这个入参对象访问到模型中的所有数据，也可以向模型中添加新的属性数据 Spring Web MVC 提供Model、Map或ModelMap让我们能去暴露渲染视图需要的模型数据。 "/springmvc") public class TestController { /** * 目标方法可以添加Map类型（实际上也可以是Model类型或ModelMap类型）的参数 @SessionAttributes 除了可以通过属性名指定需要放到会话中的属性处，还可以通过模型属性的对象类型指定哪些模型属性需要放到会话中 @SessionAttributes(types=User.class
50500发布于 2020-03-18 - 来自专栏Python
7-1、python函数介绍、参数
语法def 函数名（参数1，参数2...）: 函数内部封装代码函数名(参数1对应的值，参数2对应的值，......)# 调用的时候和定义函数的时候，参数的数量一一对应# def my_sum(): 2.3、函数参数的使用在函数名的后面小括号内部填写参数；多个参数直接使用 ， 分隔。 ，能够适应更多的数据;1.在函数内部，把参数当做变量使用，进行需要的数据处理2.函数调用时，按照函数定义的参数顺序,把希望在函数内部处理的数据,通过参数传递2.5、形参和实参形参:定义函数时，小括号中的参数 ，把20赋值给my_sum的b参数my_sum(num1,num2) # b变量num1的值为2，所以形参a的值为2，形参的b的值为3my_sum(7+2,5*3) # 形参a的值为9，形参b的值为15 ,7+2 表达式●形参 。
37200编辑于 2023-11-11 - 来自专栏自然语言处理
大模型生成解码参数速查
控制输出长度的参数 控制所使用的生成策略的参数 用于操作模型输出 logits 的参数 定义“generate”输出变量的参数 可以在生成时使用的特殊字符
24610编辑于 2024-01-09 - 来自专栏技术分享
ChatGPT模型请求参数学习
请求响应参数详情： 如果刚开始进行开发， 只用对必须携带的参数进行测试， 等项目熟练了之后再将所有的参数都进行测 查看可用的请求正文 ： curl https://api.openai.com/v1 与GPT-4 Turbo和所有GPT-3.5 Turbo模型兼容。 type 是一个可选的字符串参数，默认值为 text。 如果省略parameters，则定义了一个参数列表为空的函数。 tool_choice (string or object，可选)：控制模型调用的函数（如果有）。 eyJzdWIiOiJ4ZmciLCJleHAiOjE3MDU3NTQzNTYsImlhdCI6MTcwNTc1NDA1NiwianRpIjoiMTFkOGRmNWEtZjI3Mi00NTE0LWIyYmItYmMyZGNkYmZkNTZkIiwidXNlcm5hbWUiOiJ4ZmcifQ.Bfsb7Mp9t7wp7pvKuh-U63y2sOhW1nbcppDYHk30fe8 通过创建问答模型的问答请求对象， 然后将上述的Message内容 和 需要的一些其他参数传递进去。
1K10编辑于 2024-05-31 - 来自专栏自然语言处理
模型融合与超参数优化
超参数优化 推荐两个工具：Optuna和BayesianOptimization 推荐1：Optuna import numpy as np import optuna import lightgbm trial.suggest_float("bagging_fraction", 0.4, 1.0), "bagging_freq": trial.suggest_int("bagging_freq", 1, 7) application_train) X = application_train.drop('TARGET', axis=1) y = application_train.TARGET # 第一步：设置需要优化的参数 stratified=True, verbose_eval =200, metrics=['auc']) return max(cv_result['auc-mean']) # 第二步：设置超参数搜索范围 random_state=0) # 第三步：设置优化目标 # lgbBO.maximize(init_points=init_round, n_iter=opt_round) # 第四步：获取最优参数
1.1K10发布于 2021-11-24 - 来自专栏数据科学（冷冻工厂）
Python 模型超参数调优
导读 本文将对超参数进行简要的解释，并推荐一本利用Python进行超参数调整的书籍，其中包含了许多超参数调整的方法，对于刚刚学习深度学习的小伙伴来说，是一个不错的选择。 2. 超参数 在机器学习的上下文中，超参数[1]是在开始学习过程之前设置的参数，而不是通过训练得到的参数数据。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。 超参数的一些示例： 树的数量或树的深度 矩阵分解中潜在因素的数量 学习率（多种模式） 深层神经网络隐藏层数 k均值聚类中的簇数 超参数的调整，对于提升模型的相关性能有一定的作用。 3. 书 封面 超参数是构建有用的机器学习模型的重要元素。本书为 Python 超参数调整方法[2]（机器学习最流行的编码语言之一）。 深入了解 Scikit、Hyperopt、Optuna、NNI 和 DEAP 等顶级框架 掌握可立即应用于机器学习模型的最佳实践 实战 目前该书籍的Github仓库已有70Star，正在持续增长。
62530编辑于 2023-02-27 - 来自专栏机器学习算法与Python学习
Torch7模型训练
Torch7搭建卷积神经网络详细教程已经详细的介绍啦Module模块，这里再次基础上再给出一些上Container、 Transfer Functions Layers和 Simple Layers模块的理解 并在后面给出一些简单的模型训练方法。下述程序在itorch qtconsole下运行。 上一篇博文讲到Module主要有四个函数(详细见Torch7搭建卷积神经网络详细教程)，但是注意以下几点：forward函数的input必须和backward的函数的input一致，否则梯度更新会有问题 上述函数的具体使用方法可以看Torch7的官方API以及帮助文档。接下来仅介绍一些模型训练所需要的关键函数。 将image包导入当前运行环境，随机生成一张1通道32x32的彩色图像，如下 ? 上一节我们构建的卷积神经网络如下(参数稍微有调整)。 ?
1K130发布于 2018-04-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号