首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏数据派THU

    详解:7大经典回归模型

    来源:csdn 深度学习爱好者本文约2900字,建议阅读5分钟本文给大家介绍机器学习建模中7大经典的回归分析模型。 什么是回归分析? 4.它需要大的样本量,因为在样本数量较少的情况下,极大似然估计的效果比普通的最小二乘法差。 5.自变量不应该相互关联的,即不具有多重共线性。 7.如果因变量是多类的话,则称它为多元逻辑回归。 3. Polynomial Regression多项式回归 对于一个回归方程,如果自变量的指数大于1,那么它就是多项式回归方程。 7. ElasticNet回归 ElasticNet是Lasso和Ridge回归技术的混合体。它使用L1来训练并且L2优先作为正则化矩阵。当有多个相关的特征时,ElasticNet是很有用的。 除了这7个最常用的回归技术,你也可以看看其他模型,如Bayesian、Ecological和Robust回归。 如何正确选择回归模型? 当你只知道一个或两个技术时,生活往往很简单。

    2K41编辑于 2023-04-18
  • 来自专栏大模型应用

    大模型应用:大模型参数调优:结合本地模型对比多种组合探索差异.7

    引言 在大模型的应用中,参数调优是连接模型潜力与实际效能的关键桥梁。与传统的软件参数不同,大模型的生成参数更像是一组精密的调控旋钮,它们不改变模型的基础知识,而是影响模型如何思考和表达。 理解这些参数的本质,不仅能够提升模型输出的质量,更是将大模型从玩具转变为工具的关键一步。 今天我们将从理论基础到实践应用,全面解析大模型的核心参数体系,详细的介绍大模型推理中常用的参数项,并通过本地模型示例展示参数调整对模型效能的影响。常见参数项:max_length:生成文本的最大长度。 Dict, Anyimport pandas as pdfrom modelscope import snapshot_downloadclass ModelParameterTester: """大模型参数测试器 分步调优流程图五、总结 大模型的参数调优本质上是在控制与释放之间寻找平衡的艺术。

    1.2K32编辑于 2026-02-04
  • 来自专栏GiantPandaCV

    星辰AI大模型TeleChat-7B评测

    前言 受中电信 AI 科技有限公司的邀请,为他们近期开源的TeleChat-7B大模型做一个评测。 最后,我们可以从TeleChat-7B开源项目在文创方面展示的例子看到它具有不错的文创能力和一定的代码能力,可以作为开发者来使用的一个不错的基础大模型。 在评论评语方面,TeleChat7B可能是因为SFT的缘故会拒答一些问题,以及对于上面的第二个prompt回答的质量比较低。而对于上面的第一个问题,也出现了经典的大模型幻觉问题。 总结 总的来说,TeleChat-7B具有一定的文创能力和代码能力,对于本次测试的大多数prompt可以生成较为合理的答案。但模型本身也存在大模型幻觉,指令跟随能力一般以及回答有概率重复的问题。 此外,TeleChat-7B在开源方面是相当有诚意的,将清洗之后的训练数据进行开源是在之前的大模型开源中比较难见到的,如果想了解更多的数据清洗细节以及模型训练的细节可以阅读官方放出的技术报告:https

    87920编辑于 2024-02-22
  • 大模型下半场:7个趋势判断

    推理模型能力的持续提升,推动大模型迎来“可用”到“好用”的拐点。推理强化和应用拓展启动了大模型下半场的新赛程。个人智能体潜力初步显现,行业应用渐次走深,开源开放日益成为大模型的核心竞争力组成。 用更大算力去探索大模型的能力上限,仍是行业共识。预计今年上半年国外将推出GPT-5、Llama 4级别大模型。 虽然去年以来,我国AI高端芯片企业数量和能力均有提升,华为、燧原科技、摩尔线程、海光、壁仞等多家企业已设计出对标英伟达A100单卡性能的国产芯片,但由于台积电暂停7nm产能供应及HBM禁令等限制,国产高端芯片的制造仍面临挑战 受DeepSeek效应刺激,国内外大模型公司正加速推出下一代大模型,如OpenAI的基础大模型GPT-4.5,推理模型o3;Anthropic整合了深度思考和快速输出的混合推理模型Claude 3.7; 大模型的数据通信开放协议则可以让大模型更方便地调用各种工具,从而自主完成各类任务。

    75920编辑于 2025-04-02
  • 来自专栏Datawhale专栏

    《开源大模型食用指南》发布,7个小时,一杯奶茶速通大模型!

    Datawhale开源 开源贡献:Datawhale self-llm团队 前 言 《开源大模型食用指南》是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程,针对各类开源大模型提供包括环境配置 、本地部署、高效微调等技能在内的全流程指导,简化开源大模型的部署、使用和应用流程,让更多的普通学生、研究者更好地使用开源大模型,帮助开源、自由的大模型更快融入到普通学习者的生活中。 大模型(LLM)狭义上指基于深度学习算法进行训练的自然语言处理(NLP)模型,主要应用于自然语言理解和生成等领域,广义上还包括机器视觉(CV)大模型、多模态大模型和科学计算大模型等。 同时,本项目对本地硬件基本没有要求,全程都需要在云服务器上运行,AutoDL租一台3090服务器,每小时需要1.66元,一杯奶茶就可以租一块3090愉快的学习7个小时! 理论上7小时就可以将本项目的所有教程全部跑通一遍(除全量微调外),一杯奶茶速通大模型,掌握开源大模型部署的核心科技。 文章最后 为什么要做这样一个开源项目?

    1.9K21编辑于 2024-04-24
  • 来自专栏流川疯编写程序的艺术

    《书生·浦语大模型实战营》第7课 学习笔记:OpenCompass 大模型评测实战

    其主要特点如下: 开源可复现:提供公平、公开、可复现的大模型评测方案 全面的能力维度:五大维度设计,提供 70+ 个数据集约 40 万题的的模型评测方案,全面评估模型能力 丰富的模型支持:已支持 20+ 评测对象 本算法库的主要评测对象为语言大模型与多模态大模型。我们以语言大模型为例介绍评测的具体模型类型。 C-Eval 数据集上的性能 其他学习内容 参考文献 本人学习系列笔记 《书生·浦语大模型实战营》第1课 学习笔记:书生·浦语大模型全链路开源体系 《书生·浦语大模型实战营》第2课 学习笔记:轻松玩转书生 ·浦语大模型趣味 Demo 《书生·浦语大模型实战营》第3课 学习笔记:搭建你的 RAG 智能助理(茴香豆) 《书生·浦语大模型实战营》第4课 学习笔记:XTuner 微调 LLM:1.8B、多模态、Agent 《书生·浦语大模型实战营》第5课 学习笔记:LMDeploy 量化部署 LLM 实践 《书生·浦语大模型实战营》第6课 学习笔记:Lagent & AgentLego 智能体应用搭建 《书生·浦语大模型实战营

    1K10编辑于 2024-07-01
  • 构建可靠AI模型的7大核心技术

    例如,飞机识别模型在训练数据集中能识别所有飞机图像,并在测试数据上表现优异,那么该模型应该能在任何数据集中识别飞机图片,即使之前未遇到过这些图像。 模型性能是否会下降?在什么情况下模型不再可行?当环境中的微小变化导致功能和准确性发生巨大变化时,模型就被认为是非弹性或“脆弱”的。脆弱性是软件工程中的已知概念,也适用于AI。 数据可靠性经验模型的质量仅取决于用于开发模型的训练和测试数据。如果对数据质量相对于真实世界的代表性没有信心,模型的输出可能无法在操作环境中可靠地提供准确输出。 当模型输出或预测与预期不同时,将数据分类用于分析和调查。常用于此类分析的数据类型包括事件发生时间(模型偏离需要多长时间)、退化数据(关于模型如何退化的信息)和复发事件数据(发生多次的错误)。 检查模型稳健性和准确性的频率应取决于模型的优先级和模型更新的频率。高风险、定期更新的模型最好每天检查(由人类验证输出)。

    51600编辑于 2025-08-30
  • 2026年4月 7款国产大模型能力实测

    2026年4月7款国产大模型推理能力实测:谁能发现网站付费墙的漏洞?一次真实的代码安全分析任务,7款国产大模型同台竞技,最终只有1款完成了挑战。背景大模型的代码能力评测很多,但跑分和实战是两回事。 我们想回答一个更实际的问题:给大模型一个真实的代码安全分析任务,它能不能像安全工程师一样思考,从蛛丝马迹中推理出漏洞? 340.67M⚠️部分DeepSeek-V3.2❌✅5:300.75M❌MiniMax-M2.7❌✅8:341.09M❌GLM-4.7❌✅11:470.18M❌Kimi-K2.6❌❌6:220.10M❌7个模型中 复盘7个模型的推理过程,GLM-5.1的成功可以归结为三个关键决策:决策一:追踪代码而非猜测URL6个失败的模型都尝试了URL猜测策略——根据已知音频URL的模式(如/s■■■■/f■■■■/q■■■■ 结论这次测试揭示了当前国产大模型在代码推理能力上的几个关键差异:推理链完整性是分水岭:能从HTML源码一路追踪到API接口再到CDN资源的模型(GLM-5.1),与在中间某个环节断裂的模型,产出质量天差地别

    1.1K00编辑于 2026-04-23
  • 来自专栏Python大数据分析

    详解7大经典回归模型,建议收藏!

    4.它需要大的样本量,因为在样本数量较少的情况下,极大似然估计的效果比普通的最小二乘法差。 5.自变量不应该相互关联的,即不具有多重共线性。 7.如果因变量是多类的话,则称它为多元逻辑回归。 3. Polynomial Regression多项式回归 对于一个回归方程,如果自变量的指数大于1,那么它就是多项式回归方程。 7. ElasticNet回归 ElasticNet是Lasso和Ridge回归技术的混合体。它使用L1来训练并且L2优先作为正则化矩阵。当有多个相关的特征时,ElasticNet是很有用的。 除了这7个最常用的回归技术,你也可以看看其他模型,如Bayesian、Ecological和Robust回归。 如何正确选择回归模型? 当你只知道一个或两个技术时,生活往往很简单。 这个主要是通过将模型与所有可能的子模型进行对比(或谨慎选择他们),检查在你的模型中可能出现的偏差。 3.交叉验证是评估预测模型最好额方法。在这里,将你的数据集分成两份(一份做训练和一份做验证)。

    1.6K10编辑于 2025-02-25
  • 来自专栏猫头虎博客专区

    小米MiMo:7B模型逆袭AI大模型战场的技术密码

    小米MiMo:7B模型逆袭AI大模型战场的技术密码 在大模型竞争愈发激烈的2025年4月30日,小米以一款名为 MiMo-7B 的开源模型强势突围,在数学推理与代码能力评测中表现亮眼,不仅与规模更大的模型正面对抗 最终,MiMo累计训练了 25万亿 tokens,这一数据在7B模型中堪称顶级,为其强悍能力打下坚实基础。 2. 2024年底,95后AI大佬 罗福莉 加盟小米,以千万年薪领导大模型研发团队。 她不仅是 DeepSeek-V2 的核心开发者,还推动了 MLA(Multi-head Latent Attention) 技术的发展,这项技术在降低大模型部署成本上发挥了关键作用。 结语:小米的新角色,是AI生态的创变者 MiMo的发布,不仅标志着小米在大模型赛道的技术跃升,更意味着其正在从“智能终端制造商”迈向“AI生态运营者”。

    1.8K10编辑于 2025-05-02
  • 来自专栏博文视点Broadview

    7大特征交互模型,最好的深度学习推荐算法总结

    基于隐向量的协同过滤的方法将用户和物品独立地映射到低维空间,计算简单,很适合作为召回模型或者粗排模型。 01 AFM 模型 因子分解机(Factorization Machine,FM)模型的特点是考虑了所有可能的二阶特征组合。 AFM 模型的整体结构如下图所示。 AFM 模型的整体结构 02 PNN 模型 在推荐系统的精排模型或者广告点击率预估模型中,输入的样本往往有一个特点:特征是高维稀疏的。 PNN 模型结构图 03 Wide & Deep 模型 Wide & Deep 模型是谷歌公司于2016 年推出的结合深度学习的推荐模型,一经问世便广受好评,目前也成了工业界主流的推荐模型之一。 阿里妈妈团队基于DIN 模型的框架,提出CAN 模型,把特征交互形式化成一种基于DNN 的特征变换。

    3K10编辑于 2022-08-26
  • 来自专栏创作是最好的自我投资

    通用大模型VS垂直大模型

    在人工智能这个充满无限可能的领域内,通用大模型和垂直大模型各有千秋。就我个人而言,在二者之间的选择上,并不存在偏向某一方的倾向。我觉得应当依据实际应用场景的具体需求,来挑选最为契合的大模型。 通用大模型通用大模型,乃是旨在应对多种任务与数据类型的庞然大物级人工智能模型。 在知识覆盖的广度方面,通用大模型无疑具有明显的优势。当我们对于当下所需模型所涉及的精确专业领域的界限感到模糊不清时,选择通用大模型无疑是一种明智之举。垂直大模型接下来谈谈垂直大模型。 然而,由于垂直大模型的训练内容聚焦于当前行业,其涉猎的范围更集中,数据针对性更强,所以在提供专业咨询时往往更加精准、细致,这也正是垂直大模型的独特价值所在。 因此,对于通用大模型或者垂直大模型,更倾向于哪一方不取决于个人想法,而是取决于用户需要。

    1.1K01编辑于 2024-12-30
  • LLM进阶指南:7大黑科技颠覆认知,提示工程+CoT彻底玩转大模型

    #LLM进阶指南:7大黑科技颠覆认知,提示工程+CoT彻底玩转大模型摘要本文深度解析大语言模型(LLM)的七大进阶技术,通过思维链推理(CoT)、结构化提示工程等黑科技突破传统使用边界。 本文将分享这段血泪教训淬炼出的7大进阶术,包含完整代码和架构图,助你突破LLM应用天花板。 :当检索效率超过模型参数量增长时,1T模型是否仍有必要? 文中的7大技术不是银弹,而是应对复杂性的工具箱。 建议读者:从动态CoT起步建立问题拆解能力用自洽性验证守住质量底线在知识增强中寻找性价比甜蜜点最终你会发现:驾驭大模型不是消除随机性,而是引导随机性成为创新源泉。

    54910编辑于 2026-01-07
  • 来自专栏帅云霓的技术小屋

    大模型与AI底层技术揭秘 (7) 卡车搬运的数据

    = np.float32(np.random.rand(2, 100)) # 随机输入 y_data = np.dot([0.100, 0.200], x_data) + 0.300 # 构造一个线性模型 我们对这段python代码进行解读: 在第1行引入了tensorflow的类库后,9-11行利用tensorflow类库定义线性模型,随后13行定义残差为均方误差(mean square error), 次迭代,每20次输出一次迭代过程数据,得到拟合结果,工作流程如下图: 我们发现,在利用Tensorflow开发的机器学习代码中,程序员完全不需要自己实现任何算法的细节,只需要调用Tensorflow提供的模型就可以了 让我们再回到《大模型与AI底层技术揭秘 (2) 人妖之间的国度》中提到的“算盘打出原子弹”的故事。实际上,这是一个典型的分布式并发计算的场景。Tensorflow也提供了分布式训练的能力。

    56520编辑于 2023-10-30
  • 来自专栏小洁叫你mysql

    【AI大模型】训练Al大模型

    大模型超越AI 目前所指的大模型,是“大规模深度学习模型”的简称,指具有大量参数和复杂结构的机器学习模型,可以处理大规模的数据和复杂的问题,多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域,以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数,而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战,包括: 以下是与大模型相关的一些代码示例: 计算资源需求: import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术:模型压缩和加速技术将继续发展,以减小大模型的计算和存储开销。 更好的计算平台支持:为了支持训练和部署大模型,计算平台将继续改进,提供更强大的计算资源和工具。

    2K30编辑于 2023-10-10
  • 来自专栏圆圆的算法笔记

    如何将大模型应用到自己的业务中?7种大模型应用方式和代表论文总结

    如何将大模型应用落地到自己的业务或工作中?这篇文章整理了7种目前业内最常用的大模型应用方法,以及各个方法的代表论文。通过对各种应用大模型方法的特点对比,找到最适合自己场景的应用方法。 Prompt方式完全不进行大模型finetune,只利用大模型内部的知识,让下游任务反向适配预训练任务。其缺陷在于效果非常依赖于人工定义的prompt。 (即adapter),大模型整体参数freeze不变,只更新adapter部分的参数。 本质上也是一种通过少量参数的更新影响大模型整体参数的finetune方式。 7、Knowledge Distillition 从大模型中获取数据,用获取到的数据训练尺寸更小的模型,过程中结合思维链等技术,让模型生成更有价值更准确的训练数据。

    4.9K30编辑于 2023-08-17
  • 别再“为了大模型而大模型”了

    最近这两年,在很多公司里,大模型成了一种奇妙的存在。 它不像一个技术工具,更像是一只突然闯进会议室的大象。 领导一拍桌子: “我们也要上大模型!” 业务同事一听: “我们这个流程能不能加个大模型?” 但现在有些项目会直接说: “让大模型来判断吧。” 乍一听很高级,仔细一想很浪费。 大模型当然能判断,但它不一定最适合判断。 大模型天然消耗昂贵的GPU和电力,成本更高;大模型的参数量巨大,运算速度更慢;大模型基于语言的概率给出答案,结果不稳定,大模型内核原理对业务就是一个黑盒,无法说明,解释更困难;出了错还不好定位,你只能靠经验去猜 不需要梳理业务流程了,大模型会自己理解; 不需要总结专家经验了,大模型会自己推理; 不需要定义评价标准了,大模型会自己判断; 不需要建设知识库了,大模型会自己知道。 七、别把大模型当神仙,要把它当同事 我一直觉得,企业用大模型最健康的心态,不是“请神”,而是“招人”。

    39911编辑于 2026-06-01
  • 来自专栏人工智能极简应用

    【AI大模型】Transformers大模型库(八):大模型微调之LoraConfig

    一、引言 这里的Transformers指的是huggingface开发的大模型库,为huggingface上数以万计的预训练大模型提供预测、训练等服务。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 LoRA是一种用于微调大型语言模型的轻量级方法,它通过添加低秩矩阵到预训练模型的权重上来实现适应性调整,从而在不显著增加模型大小的情况下提升特定任务的性能。 task_type: 指定任务类型,如'CAUSAL_LM',以确保LoRA适应正确应用到模型的相应部分。 get_peft_model(model, config) print_trainable_parameters(model) 三、总结 本文简要介绍LoraConfig的配置参数情况,具体的机遇peft对大模型进行微调后面单独开一页详细讲解

    1.2K10编辑于 2024-08-13
  • 来自专栏机器之心

    IDC最新报告,7大维度11家大模型厂商比拼,唯一全优是谁?

    近日,全球领先的国际数据公司(IDC) 最新发布的大模型实测报告《中国大模型市场主流产品评估,2024》从基础能力到应用能力 7 大维度对 11 家大模型厂商的 16 款市场主流产品进行实测。 报告显示,百度文心大模型整体竞争力位于领先水平,产品能力处于第一梯队,是唯一一家在 7 大维度上均为优势厂商的企业。 文心一言、文心一格在问答理解类、推理类、创作表达类、数学类、代码类等基础能力,toC 通用场景类、toB 特定行业类等应用能力等 7 大维度均具备领先优势。 IDC 题目类型 7 项维度,主流大模型全面大比武 过去一年,说 AI 领域是「百模大战」一点也不为过。特别是国内,从科技巨头到创业公司都推出了自己的大模型产品。 细分来看,在 IDC 评测的 7 个维度上,百度文心大模型在每一项指标上都被列为优势厂商,没有短板,可以说是一位全能选手。其他厂商的大模型均未拿到全优,在一个或多个方面存在短板。

    1.3K10编辑于 2024-06-17
  • 来自专栏自然语言处理(NLP)论文速递

    UIUC && 清华 | 提出Magicoder大模型:7B模型堪比ChatGPT和Gemini(含源码)

    引言 最近,基于大模型的代码生成已经普遍应用于各大开发软件中。 最近,在基于大模型的代码生成方面取得了显著突破,并已被广泛应用于软件开发。 MagicoderS-CL 还在相同规模的所有代码模型中取得了 SOTA 结果。 DeepSeek-Coder 系列模型在最近表现出卓越的编码性能。 除了与之前以 CODELLAMA-PYTHON-7B 为基础模型的结果保持一致外,Magicoder-DS 和 MagicoderS-DS 还受益于更强大的 DeepSeek-Coder-Base-6.7B 结果表明,Magicoder-CL-7B 优于评估的所有基线,包括最先进的 WizardCoder-CL-7B 和 WizardCoder-SC-15B。

    1.6K10编辑于 2023-12-19
领券