首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏张俊红

    5 大常用机器学习模型类型总结

    本文介绍了 5 大常用机器学习模型类型:集合学习算法,解释型算法,聚类算法,降维算法,相似性算法,并简要介绍了每种类型中最广泛使用的算法模型。我们希望本文可以做到以下三点: 1、应用性。 机器学习 | Sklearn中的朴素贝叶斯全解 机器学习|支持向量机1--线性SVM用于分类原理 机器学习|支持向量机2--非线性SVM与核函数 机器学习 | 决策树模型(一)理论 机器学习 | 应用 解释性模型通常用于需要作出解释的场景。比如展示 「为什么 」做出某个决定,或者解释两个或多个变量之间「如何」相互关联。 在实践中,你的机器学习模型的可解释性与机器学习模型本身的性能一样重要。 用 SHAP 可视化解释机器学习模型实用指南(上) 用 SHAP 可视化解释机器学习模型实用指南(下) LIME: LIME算法是Marco Tulio Ribeiro2016年发表的论文《"Why 参考链接: https://towardsdatascience.com/all-machine-learning-algorithms-you-should-know-in-2022-db5b4ccdf32f

    3.8K20编辑于 2022-03-29
  • 来自专栏司钰秘籍

    AI大模型学习

    在当前技术环境下,AI大模型学习不仅要求研究者具备深厚的数学基础和编程能力,还需要对特定领域的业务场景有深入的了解。 通过不断优化模型结构和算法,AI大模型学习能够不断提升模型的准确性和效率,为人类生活和工作带来更多便利。 AI大模型学习的理论基础 数学基础: 线性代数:AI 大模型中大量使用向量和矩阵运算,如矩阵乘法、向量点积等,用于表示和操作数据。 此外,模型的性能也受到计算资源、数据质量和算法优化等因素的影响 AI大模型学习的伦理与社会影响 AI 大模型学习确实带来了一些伦理和社会问题,我们需要认真对待: 1. 5. 跨学科合作:促进不同领域的专家共同探讨和解决 AI 带来的问题。 未来发展趋势与挑战 AI 大模型学习的未来发展一些关键的趋势包括: 1.

    83810编辑于 2024-04-04
  • 来自专栏人工智能领域

    AI大模型学习

    AI大模型学习 在当前技术环境下,AI大模型学习不仅要求研究者具备深厚的数学基础和编程能力,还需要对特定领域的业务场景有深入的了解。 方向一:AI大模型学习的理论基础 AI 大模型学习的理论基础涉及深度学习、神经网络、优化算法等多个方面。 以下是一些关于 AI 大模型学习理论基础的重要内容: 深度学习:深度学习是 AI 大模型学习的核心理论基础,它通过构建多层神经网络来实现对复杂数据模式的学习和表征。 ———————————————— 方向二:AI大模型的训练与优化 AI 大模型学习的理论基础涉及深度学习、神经网络、优化算法等多个方面。 以下是一些关于 AI 大模型学习理论基础的重要内容: 深度学习:深度学习是 AI 大模型学习的核心理论基础,它通过构建多层神经网络来实现对复杂数据模式的学习和表征。

    85310编辑于 2024-12-18
  • GLM-5:大模型的学习方式,被彻底改写了

    今日,智谱正式公开GLM-5技术报告。当行业还在为参数规模和上下文窗口争论不休时,这份报告悄悄把大模型的核心竞争力,引向了一个更本质的方向——如何让AI真正学会“学习”。 这些问题的本质,不是模型不够“聪明”,而是它的学习方式,还停留在“复刻已知”,而非“探索未知”。 GLM-5的出现,就是要打破这个僵局。 三层RL架构:让大模型在交互中进化 在GLM-5的后训练流程里,Reasoning RL、Agentic RL、General RL三层强化学习,构成了它的核心骨架。 这意味着,同样的时间里,GLM-5能经历更多次“试错-学习”的循环,更快地优化策略。大模型不再是笨重缓慢的系统,而是能快速适应新任务、新场景的“敏捷学习者”。 当大模型的学习方式被彻底改写,我们离真正的智能体时代,就又近了一步。

    23810编辑于 2026-06-22
  • 5种大模型Agent模式

    大模型中的5种AI Agent模式在大模型中,AI Agent(人工智能代理)模式是一种重要的应用方式,可以从以下几个方面来理解:1. 在大模型的背景下,AI Agent 是基于大规模预训练模型(如 GPT 等)构建的智能代理,能够利用模型的语言理解和生成能力来完成复杂的任务。 智能性:它基于大模型的强大语言理解能力,能够理解自然语言指令,并生成自然语言响应。这种智能性使其能够处理复杂的语言任务,如对话、写作、翻译等。 工作原理感知与理解:AI Agent 首先通过输入(如用户指令、环境数据等)感知外部信息,然后利用大模型的语言理解能力解析这些信息,确定任务目标。 下面介绍5种常见的AI Agent模式:1.

    5.8K10编辑于 2025-05-07
  • 来自专栏大模型成长之路

    【大模型学习 | BLIP原理】

    一、预训练方法 1.1 图像文本模型 图像特征提取模型:VIT 文本特征提取模型:Unimodal encoder; Image-grounded text encoder; Image-grounded 这是因为生成任务要求模型按序预测每一个词,不能访问未来的信息。Causal attention 能保证自回归生成的正确性,使模型适合用作 decoder,实现图像到文本的自然语言生成。 对齐图像与文本的全局语义空间 让正样本图文对更接近,负样本更远 Image-Text Matching Loss Image-grounded text encoder 学习图文细粒度语义对齐 text decoder 图像到文本的语言生成能力 使用自回归预测生成 caption,优化交叉熵 Image-Text Contrastive Loss (ITC): InfoNCE(对比学习 最后组成一个新的数据集预训练模型。

    1.2K10编辑于 2025-07-01
  • 来自专栏大模型成长之路

    【大模型学习 | RAG & ReAct】

    这种方式有效弥补了大模型记忆局限、提升了知识覆盖广度与事实准确性。 它允许大模型在推理过程中“边思考(Reason),边行动(Act)”,即模型可以根据问题内容主动决定是否调用某个工具、调用哪个工具,并基于工具返回的结果进一步推理和生成回答。 与其他 Agent 类方法类似,ReAct 也需要通过 Few-shot 样例 进行提示设计,帮助模型学习在何种情况下调用工具,以及如何将工具的反馈信息融入最终答案中。 示例:Question: 5 的平方是多少?Thought: 我可以使用平方计算器来求出结果。 Action: Square CalculatorAction Input: "5"Observation: 25Thought: 我已经得到了答案。Final Answer: 5 的平方是 25。

    1.9K30编辑于 2025-07-17
  • 来自专栏大模型成长之路

    【大模型学习 | LLaMA Serious】

    一、LLaMA V1这篇文章主要是引出大模型的表现力并不是在模型的大小,而是训练数据的样本。之前的做法是尽可能的减少模型大小,但是这些方法忽略了推理代价。 在 PaLM、LLaMA、DeepSeek 等大模型上被广泛使用,带来精度提升。 其中, W,V 是可学习的权重矩阵b,c 是偏置项3️⃣ 位置编码采用了旋转位置编码:RoPE(Rotary Positional Embedding)RoPE 是一种通过“旋转”的方式,将相对位置信息引入注意力机制中的位置编码方法 图片4️⃣ Causal multi-head attention LLaMA是 only-decoder结构的模型,属于自回归语言模型(类似GPT)。 0, 0, -inf, -inf], [0, 0, 0, 0, -inf], [0, 0, 0, 0, 0]]二、LLaMA V2大部分的预训练设置都与

    61730编辑于 2025-07-25
  • 来自专栏学习

    【机器学习】---大语言模型

    这些模型,犹如现代科技的语言魔法师,通过海量数据和尖端的深度学习技术训练而成,在自然语言的理解与生成上展现了无与伦比的能力。 第一部分:什么是大语言模型? 1. 走近大语言模型 大语言模型并非传统意义上的“语言学家”,而是通过深度学习技术训练的大规模神经网络,其核心目标是理解、生成并操控自然语言。 这些模型的强大之处在于,它们能够从海量的训练数据中学习语言的结构和语义关系,从而以极高的准确度生成自然语言文本。 它们的核心技术依赖于一种名为Transformer的模型架构。 模型训练的核心要素 要构建一个大语言模型,仅依赖强大的算法是不够的。以下是训练过程中不可或缺的三个关键要素: 海量语料库 模型需要从海量数据中学习语言的多样性和复杂性。 优化算法 如 AdamW,这是一种适合深度学习的优化算法,可以显著提高训练效率。 强大计算资源 通常需要数百甚至数千块 GPU 或 TPU 才能完成大规模模型的训练。

    82810编辑于 2025-01-13
  • 大模型和机器学习

    “学习大模型之前,要不要先学机器学习?” 这些问题的本质,是对两个概念的边界认知模糊。事实上,大模型是机器学习的一个子集,是机器学习技术在“大参数、大数据、大算力”时代的进化形态。 4.5 维度5:能力特点——从“专才”到“通才”的转变 这是两者最核心的能力差异,也是大模型的核心价值所在。 “帮我写一个Python的逻辑回归模型”,输出可运行的代码 逻辑推理 无法完成 输入提示词“小明有5个苹果,小红有3个苹果,小明给小红2个苹果,两人各有多少个苹果”,输出正确答案 4.6 维度6:训练与部署范式 训练逻辑回归模型 model = LogisticRegression() model.fit(X_train, y_train) # 5. ,用于垃圾邮件分类" print("任务2:代码编写") print(call_gpt35(prompt2)) print("-" * 50) # 任务3:逻辑推理 prompt3 = "小明有5个苹果

    69110编辑于 2026-04-14
  • 来自专栏大模型成长之路

    【大模型学习 | 词向量】

    How achieveword2vec通过神经网络模型训练新的词向量表达模型中参数的定义:one-hot:1, 7 表示一共有七个单词;Embedding:表示输入层到隐藏层的权重矩阵,是从one-hot 向量到Embedding向量的关键,7, 3表示训练完成的每一个embedding向量维度为3;WeightLogits:表示隐藏层到输出层的权重矩阵,是模型损失计算的关键;Logits:表示最后每个单词输出的概率 ,与目标标签做损失进行模型训练;Lookup table语料库十分巨大,每个单词都采用one-hot输入训练会大大增加存储和计算开销,因此,在输入的过程,仅仅输入单词的索引值,例如在上述例子中,直接采用索引 CodingWord2Vec有两种模型结构:CBOW和Skip-gram,本质上的模型架构的不同:输入和输出一对多(Skip-gram)和多对一(CBOW)。 ,通过只更新负样本的权重,避免整个词汇表的计算Word2Vec模型本质是一个多分类问题,最后需要通过softmax激活函数判断哪一个单词的概率最大,因此需要计算所有单词的概率大小。

    36410编辑于 2025-06-26
  • 来自专栏大模型成长之路

    【大模型学习 | Prompt工程基础学习】

    prompting学习 许多初学者,包括曾经的我,可能一开始都会有类似的误解——“Prompting 还需要专门学习吗?不就是像在百度里搜索问题一样吗?” 然而,真正深入接触大语言模型(LLM)后你会发现,Prompting 远不止是问问题那么简单。大模型本身拥有极强的推理能力、逻辑能力与知识覆盖面,但这些能力并不是在默认状态下自动调用的。 (大模型本身无需挖掘的能力,也就是和搜索百度、谷歌一样简单)Few-shot Learning 指在 Prompt 中提供几个示例(一般 1~5 条),引导语言模型理解任务格式与逻辑结构,再让模型生成新的答案 A: 3 + 2 = 5Q: Mary has 4 oranges and eats 1. How many are left? Large Language Models are Zero-Shot Reasoners这篇文章的作者在后来又提出了zero-shot COT,作者认为大型语言模型是零样本学习推理者,只需在每个答案前加上

    1.4K21编辑于 2025-07-15
  • 来自专栏啄木鸟软件测试

    大模型测试:性能优化的5大实战策略

    引言 随着ChatGLM、Qwen、DeepSeek及Llama系列大语言模型在金融、政务、医疗等关键场景加速落地,模型测试已远超传统‘功能是否正确’的范畴——性能成为决定能否上线的核心瓶颈。 这些并非个例,而是大模型测试进入深水区的典型信号:性能不是附加项,而是可信AI的第一道防线。 一、明确性能基线:拒绝‘拍脑袋’指标 大模型性能测试首要误区是套用小模型标准。 二、分层注入式压测:从单卡到集群的穿透验证 传统压力测试常止步于API层,而大模型性能瓶颈常藏于框架底层。 推荐采用‘四层注入法’: 1)API层:模拟真实用户请求分布(如80%短提示+15%中长提示+5%对抗性长上下文),避免均匀负载失真; 2)Engine层:直连vLLM/Triton推理引擎,注入不同 结语 大模型性能测试的本质,是构建‘可测量、可归因、可演进’的效能反馈闭环。

    58210编辑于 2026-03-31
  • 来自专栏PDF转换docx

    5大学习软件推荐

    2.ONLYOFFCE 赋能学生与教育人士,助力知识的创造、共享与协作的同时,向学生和教师提供了一个安静整洁的学习环境,无论在办公 批改 或是在网课的过程中,全程是没有任何商业广告的打扰,做到了让教师和学生专注于授课及学习知识 ▲集中保存学习内容; 随时随地的访问查看讲座,作业等,避免遗忘,储存文档的方式,轻松获取重要的学习资料,保持对所有重要事件的日期跟踪。 涵盖了多个不同的活动领域,包括个人桌面、社区平台、线上学习和数字内容。 其功能包括职能和用户管理、课程管理(课程、学习计划、学习进度等)、任务管理、内容管理等,同时还有多种沟通方式(博客、聊天、邮件等)3.百度网盘百度网盘(原百度云)是百度推出的一项云存储服务,已覆盖主流PC 5.钉钉 钉钉(Ding Talk)是阿里巴巴集团打造的企业级智能移动办公平台,是数字经济时代的企业组织协同办公和应用开发平台,提供PC版,Web版,Mac版和手机版,支持手机和电脑间文件互传,也是很多学校师生上网课常用的软件

    3K40编辑于 2022-12-30
  • 【大模型微调】一文掌握5种大模型微调的方法

    (Prompt Tuning)在内的5种主流方法。 我们可以将大模型的诞生与成长简化为两个关键阶段:阶段一:预训练 - 赋予模型“通识智慧”此阶段如同为模型进行一次“通识教育”,它通过在浩瀚无垠的互联网文本上进行自监督学习,从而掌握语言的语法结构、基本常识与逻辑推理能力 5、提示调整-轻量级的参数优化提示调整(Prompt Tuning)是一种“润物细无声”的微调,不改变模型自身,而是通过优化输入提示词的嵌入表示来引导模型输出。 参数效率将进一步提升,自动化工作流将更加完善,我们期待与开发者共同推动大模型技术在更多场景的落地应用,让每个人都能轻松享受大模型定制带来的技术红利。PS.如何学习AI大模型? 作为一名深耕大模型微调领域多年的技术架构师,我深知“纸上得来终觉浅”。在见证了上百个微调项目的成功与失败后,我深刻认识到,拥有一个清晰的学习路径和经过验证的实战资源是多么关键。

    5.2K40编辑于 2025-10-23
  • 来自专栏DevOps

    AI模型:开源大语言模型bloom学习

    作为一名开源爱好者,我非常不喜欢知识付费或者服务收费的理念,所以便有决心写下此系列,让一般大众们可以不付费的玩转当下比较新的开源大语言模型bloom及其问答系列模型bloomz。 一、模型介绍 bloom是一个开源的支持最多59种语言和176B参数的大语言模型。 bigscience在hugging face上发布的bloom模型包含多个参数多个版本,本文中出于让大家都能动手实践的考虑,选择最小号的bloom-1b1版本,其他模型请自行尝试。 (checkpoint) #下载模型 网速足够快的情况下等一会就下载好了,但通常情况下我们得ctrl+c打断代码运行,手动下载模型存放到对应位置,即.cache\huggingface\hub\models–bigscience–bloom 下载模型地址: https://huggingface.co/bigscience/bloom-1b1/tree/main 把如上图所示链接中的五个文件(不包含这个flax_model.msgpack)

    1.2K10编辑于 2024-03-29
  • 来自专栏育种数据分析之放飞自我

    混合线性模型学习笔记5

    5. 所有可能的混线性模型分析这个数据 因此,我们要考虑数据的集群性质。与其像上面的SLiM中那样忽略聚类,不如考虑为每个人运行完全独立的回归。 5.9 Mixed Model 5b: Multivariate normal model ? 5.10 Mixed Model 6: Penalized regression ? ? ASReml 4.1.0 Wed Apr 5 16:34:50 2020 LogLik Sigma2 DF wall cpu 1 -3817.282 ❞ 英文原文:https://m-clark.github.io/docs/mixedModels/mixedModels.html#standard_linear_model 相关阅读: 混合线性模型学习笔记 1 混合线性模型学习笔记2 混合线性模型学习笔记3 混合线性模型学习笔记4

    1.8K10发布于 2020-05-14
  • 来自专栏大模型成长之路

    【大模型学习 | CLIP 原理&实现】

    Learning Transferable Visual Models From Natural Language Supervision 作者在摘要中指出,传统的监督式学习方法限制了视觉模型的泛化能力 CNN和Transformer来预测图像标题;(Transformer采用了6300万个参数,识别图像的类别会比训练一个词袋模型慢三倍);这两种方法来学习识别图像都有一个相同点:预测图像的准确文字; ,最大化配对图文之间的相似度,最小化不匹配对的相似度,并通过symeertric entropy loss优化相似得分: 训练模型并没有采用预训练权重模型,而是从头训练;并通过线性映射将不同模态编码器的表示映射到嵌入空间中 projection 层) optimizer = torch.optim.AdamW(filter(lambda p: p.requires_grad, model.parameters()), lr=5e -5) device = "cuda" if torch.cuda.is_available() else "cpu" model.to(device) # 5.

    2.3K21编辑于 2025-07-15
  • 来自专栏最新最全的大数据技术体系

    大模型学习路线与建议

    第一章 深度学习基础 深度学习基础 深度学习经典模型解析 深度学习模型优化策略解析 深度学习GPU原理与应用方法 深度学习GPU并行训练策略解析 深度学习模型多GPU训练实战 第二章 智能对话系统基础 ) Langchain 框架核心原理详解 Langchain-LLM部署应用实战 第四章 大模型应用实践 大模型微调概述 大模型微调中的核心要素 大模型微调中的数据收集与评估 大模型微调中ChatGPT 的使用 大模型Tuning技术详解(Prompt-Tuning/Instruction-Tuning/P-Tuning) 大模型PEFT技术详解(Adapter/LoRA) 大模型全参数微调技术详解 (DeepSpeed) 大模型RLHF技术详解(PPO/DeepSpeed-Chat) 基于常规NLP任务的大模型微调实战 第五章 大模型实战项目 大模型训练环境搭建 大模型数据收集与 instruction 设计 通用大模型微调代码开发(支持多模型/多框架) Baichuan-13B多GPU LoRA微调实现 Baichuan-13B多GPU 全参数微调实现 大模型性能评估体系搭建 大模型部署与服务接口开发

    4.3K43编辑于 2023-10-17
  • 来自专栏大模型成长之路

    【大模型学习 | RAG & DeepSeek 实战】

    Deepseek & RAG 实战 编者常常有许多材料需要阅读查阅,但自己又比较懒,为此,想在大模型的学习过程中基于RAG技术将本地知识库与大模型结合起来,加快自身的效率。 在本次的项目设计,需要达成以下目标: 开源大模型的本地部署及使用 (以Deepseek为例); PDF文本分析 ➕ 相似prompt检索提取 (关键); 将检索到的信息与原prompt结合作为输入,得到结果 promptmessages = [ {"role": "user", "content": f"""请根据以下参考内容回答问题: {retrieved} 问题:{query}"""}]4️⃣ 模型部署 mode_name_or_path)llm.generation_config.pad_token_id = llm.generation_config.eos_token_idllm.eval() # 设置模型为评估模式 5️⃣ 界面设计编者基于PYQT5模块设计了一个支持知识库搭建的大模型问答系统:搭建知识库后:模型输出写在最后:✅ 本项目搭建了一个简单的知识库问答系统,用户可以将自己的私人知识库进行搭建,基于RAG技术实现问答系统

    1.3K31编辑于 2025-07-19
领券