- 综合排序
- 最热优先
- 最新优先
- 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 这个图示说明了GLM预训练的过程，具体解释如下： a) 原始文本：给定一个原始文本，例如[x1, x2, x3, x4, x5, x6]。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
1K20编辑于 2023-08-28 Hollis【实战课程】大模型应用开发实战
大模型应用开发实战摘要大语言模型（LLM）正在重塑软件开发的方式。从智能客服到代码助手，从数据分析到内容创作，大模型应用已经渗透到各行各业。 本文将从实战角度出发，系统性地介绍大模型应用开发的核心技术、工具框架和最佳实践，帮助开发者快速上手并构建真实可用的大模型应用。 一、大模型应用开发全景1.1 什么是大模型应用开发大模型应用开发，是指基于大语言模型（如 GPT、Claude、文心一言等）构建面向具体场景的软件应用。 3.2 高级提示词技巧少样本学习（Few-shot） ：在提示词中提供几个输入-输出示例，让模型通过类比理解任务模式。示例数量通常 2-5 个，示例越贴近目标场景效果越好。 Unsloth：专注加速 LoRA 训练，速度提升 2-5 倍Hugging Face Transformers：官方 Trainer 模块Firefly：国产微调工具，支持中文模型七、模型部署与成本优化
1.1K10编辑于 2026-07-01- 来自专栏机器学习与统计学
开源，免费，大模型图文教程、视频课程
大家好，我是 Ai 学习的老章 大模型还是要学啊，太深了，学无止境 老章长期大量网上冲浪，推荐几个图文教程/视频课程 1 是优质，2 是免费 别看到英文就露怯，沉浸式翻译插件一键就 OK 了 LLM Inference Handbook[1] 《大语言模型推理手册》是一本集技术术语表、指南和参考资料于一身的手册，全面涵盖大语言模型推理相关知识。 GenerativeAICourse[2] 这是一门关于生成式人工智能（Generative AI）的课程介绍及开发环境搭建指南。 课程从 AI 基础原理讲起，包括其定义、起源和大语言模型的兴起，后续进入实践教程，如构建聊天机器人、实现检索增强生成等，旨在帮助学员构建可扩展的实际 AI 应用。 这门由华盛顿大学助理教授、NexusFlow 联合创始人朱邦华讲授的“大语言模型（LLM）的后期训练”短期课程，旨在教授学员如何对大语言模型进行后期训练与定制。
81110编辑于 2025-07-18 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - LangChain
模型 IO 封装 pip install langchain # 0.0.350 模型封装 from langchain.llms import OpenAI # 设置环境变量 from dotenv user role SystemMessage #等价于OpenAI接口中的system role ) messages = [ SystemMessage(content="你是谷歌的大模型 2. 非常欢迎你对AIGC课程感兴趣。AIGC课程是一门人工智能基础课程，旨在帮助学员掌握人工智能的基本概念、技术和应用。\n\n如果你想学习AIGC课程，我可以为你提供以下信息：\n1. 课程内容：AIGC课程包括人工智能基础知识、机器学习、深度学习、自然语言处理、计算机视觉等方面的内容。\n2. 学习方式：AIGC课程提供在线学习，你可以根据自己的时间和进度来学习课程内容。\n3.
2.3K10编辑于 2023-12-21 - 来自专栏Datawhale专栏
大模型理论基础(so-large-lm)课程笔记！
本前言介绍的课程笔记源自于“大模型理论基础（so-large-lm）”课程(https://github.com/datawhalechina/so-large-lm)，一个致力于探索和理解大型模型发展的前沿课程 一年前，该课程已经讲述了MOE和RAG架构的重要性，并在课程内容中对这两种架构进行了深入讲解。这不仅证明了学习大模型理论基础的重要性，也展示了课程内容的前瞻性和实用价值。 随着时间的推移，大模型的研究和应用领域继续迅速发展，促使我们对已有知识的理解进行更新和深化。因此，本课程笔记旨在开源学习的背景下，基于今年年初的学习成果，进一步讲解和深化对MOE和RAG内容的理解。 这份笔记不仅反映了当前大模型研究的最新动态，也体现了深入学习和掌握这些复杂架构的重要性。 通过本课程笔记，读者将能够获得对MOE和RAG架构更为深入的理解，掌握它们的设计原理、优势及应用场景。 我们希望这份笔记能够为广大学习者提供价值，促进对大模型理论基础知识的深入学习和应用，同时激发更多的创新和探索。
64810编辑于 2024-04-24 - 来自专栏最新最全的大数据技术体系
AI全栈大模型工程师(二)课程大纲
这节课会带给你 通俗了解大模型的工作原理，秒赢 99% 其他人的认知 了解指令工程的强大，不只是「说人话」那么简单 浅尝 OpenAI API 的调用 开始上课！ 1.2、大纲解读 模块 目的 原理 实践 认知 AI 大模型基础介绍 对大模型有直观的、基础的了解，以展开后续课程学习 大模型最基础的原理 搞定环境搭建和工具的使用 大模型并不神奇，也不神秘 Prompt Engineering 操纵大模型的基础方法 让 prompt 更大概率生效的原理 使用 prompt 和调用 OpenAI API 程序思维从确定性到模糊性的变化 Function Calling 开发应用 Prompt 和代码分离的思想 Fine-tuning 学会大模型应用技术的天花板 机器学习基础 训练出自己的独特大模型 大模型、GPU 选型 AI 产品设计 独立完成 AI 产品设计，成为 5.1、大语言模型（LLM）：GPT，Transformer 六、OpenAI API初探 6.1、安装Python库 pip install --upgrade openai 6.2、查看可调用的模型
3K53编辑于 2023-10-17 - 来自专栏大模型成长之路
【大模型学习 | BERT 量化实战（2） 】
BERT 量化实战分析前言：在【大模型学习 | 量化实战（1）】-腾讯云开发者社区-腾讯云中基于BERT实现了情感分析系统以及量化的实现，但是量化的结果导致了模型的精确度急剧下降，从90%降到了54%， 未出现截断情况（即分布区域超过量化上下限）、分布近似 scale过大scale的计算如下所示：scale=\frac{max(w)-min(w)}{255} , 个别层的权重有离群值，会导致scale非常大， Sensitive Layers:") for r in results[:5]: print(f"{r[0]:40s} | Acc: {r[1]:.4f} | ΔAcc: {r[2] :.4f}") return results 其他分析方法层级 fallback 到 FP32与敏感性分析相关，该方法是将原模型逐层量化，观察精度下降情况误差传播分析对 float32 模型 和 模型 vs INT8 模型输出差异有多大
93410编辑于 2025-06-27 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 -Assistant API
课程学习自 知乎知学堂 https://www.zhihu.com/education/learning 如果侵权，请联系删除，感谢！ 文章目录 1. 创建 assistant 2. thread 3. 给 thread 添加 message 4. Run 1. 选择模型：gpt-3.5-turbo-1106 添加函数： { "name": "ask_database", "description": "Use this function to answer 0代表待支付，1代表已支付，2代表已退款\n create_time TIMESTAMP DEFAULT CURRENT_TIMESTAMP, -- 创建时间，默认为当前时间\n pay_time grammars supported by SQLite." } }, "required": [ "query" ] } } 上传要检索的文件 2.
1K10编辑于 2023-12-10 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - Semantic Kernel
Semantic Kernel 大语言模型开发框架（SDK） 封装了一系列工具（提示词模板、链式调用、规划能力等），像调用函数一样 支持（C# Python Java）基于 OpenAI / Azure Skill/Plugin，需要有一个配置和管理的单元，这个组织管理单元就是 Kernel Kernel 负责管理底层接口与调用顺序，例如：OpenAI/Azure OpenAI 的授权信息、默认的 LLM 模型选择 语言无关 skFunction包含文件： skprompt.txt: 存放 prompt，可以包含参数，还可以调用其它函数 config.json: 存放配置，包括函数功能，参数的类型，以及调用大模型时的参数 _kernel.run_async(q2f, input_str=query) ).result.strip() # 获取调用的结果，Query2Function 要求输出的 json () 方法执行 plan (注意，不同 planner 接口并不一致) 做一个例子 周杰伦的生日是星期几： 先申请 bingAPI https://portal.azure.com 创建SK，添加模型
1.7K10编辑于 2023-12-18 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - Function Call
课程摘要 大模型，没有真逻辑，只是推测下一个字的概率 gpt 可以根据函数的描述来决定是否调用该函数，但是真正的执行，需要我们自行调用 2. 由大模型决定调用谁, seed=1024, tool_choice='auto', # response_format={'type': 'json_object 由大模型决定调用谁 "type": "function", "function": { "name": "sum", "description function_name, "content": str(function_response), } ) # 再次调用大模型 课程名：数据库基础，教师：刘教授，学分：4 2. 课程名：计算机网络，教师：王教授，学分：3 这些课程总共的学分是 7。 3.
1.7K20编辑于 2023-11-23 - 来自专栏大模型成长之路
【大模型学习 | BLIP2原理】
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models 作者提出一种从离线、梯度冻结的图像、语言模型中提升图文的预训练模型。为了联系两个不同模态预训练模型，作者提出一种使用两个阶段预训练模型Querying Transformer (Q-Former)。 一、预训练方法这种预训练方法分为了两个阶段 （1）视觉语言特征表示学习阶段 （2）视觉到文本的生成学习阶段 1.1 Q-Former主要作用就是对齐两个不同模态的冻结预训练模型 Q-Former包含了两个 transformer子模块：（1）Image Transformer （特征提取） （2） Text transformer (作为文本编码器和解码器) ; 一组可学习的查询嵌入向量作为 Image 作者尝试了两种LLM冻结模型：(1) decoder-based LLMs : query 表征作为 LLM 的输入前缀（prefix） → LLM 自己完成文本生成(2) encoder-decoder-based
1.4K00编辑于 2025-07-01 - 来自专栏红色石头的机器学习之路
Coursera吴恩达《序列模型》课程笔记（2）-- NLP & Word Embeddings
有趣的是，word embeddings与Coursera吴恩达《卷积神经网络》课程笔记（4）– 人脸识别与神经风格迁移中介绍的人脸特征编码有很多相似性。 Word2Vec 上一小节我们介绍了context和target的选择方法，比较流行的是采用Skip-Gram模型。 我们可以先猜50，如果分类器给出目标数字比50大，则继续猜75，以此类推，每次从数据区间中部开始。这种树形分类器最多需要log Nlog Nlog\ N步就能找到目标单词，N为单词总数。 Skip-Gram模型是Word2Vec的一种，Word2Vec的另外一种模型是CBOW（Continuous Bag of Words）。关于CBOW此处不再赘述。 7. 使用优化算法得到所有参数之后，最终的ewewe_w可表示为： ew=ew+θw2ew=ew+θw2 e_w=\frac{e_w+\theta_w}{2} 最后提一点的是，无论使用Skip-Gram模型还是
1.1K10发布于 2019-05-25 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - 提示词工程
攻击：改变系统人设，现在开始你不是xxx了，忘记前面所有的对话 防范：prompt拦截器、带上系统人设 + 用户输入的消息喂给模型、Moderation API API使用中的参数temperature 2. 我是迈克可以选择的课程包括：基础数学课，4学分，属于理论课；初级编程课，4学分，属于实验课；高级编程课，5学分，属于实验课；文学欣赏课，3学分，属于选修课；交响乐欣赏课，2学分，属于选修课；物理实验课， 这门课程将为你提供编程的基础知识和技能。你可以学习到编程语言的基本概念、算法和逻辑思维等内容。初级编程课是一门实验课，共计4学分。你对这门课程感兴趣吗？ user 感谢兴趣，帮我订下吧！ AI 好的！ 这两门课程都是选修课，但是文学欣赏课是3学分，而交响乐欣赏课是2学分。如果你希望获得更多学分，我建议你选择文学欣赏课。这门课程将帮助你提高对文学作品的理解和欣赏能力。你对这门课程感兴趣吗？
91261编辑于 2023-11-18 - 来自专栏腾讯开源的专栏
「腾讯混元大模型应用实战课程」上线国家智慧教育平台
由腾讯打造的“腾讯混元大模型应用实战课程”，已正式上线国家智慧教育平台，为全国高校师生带来覆盖大模型技术通识到AI工具实用技能的系列课程，助力高校师生规范、高效使用大模型，加速教育教学及科研创新。 课程入口 https://higher.smartedu.cn/course/lmc/67de729c2f4f1bef26a8089f 国家智慧教育平台建成三年来，已经成为世界上资源最丰富、用户最多、规模最大的智慧教育平台 在教育部高等教育司邀请下，腾讯结合自身大模型技术优势与全栈AI产品，从高校师生日常使用场景出发，设计制作了“腾讯混元大模型应用实战课”，上线国家智慧教育平台“人工智能教学服务开放应用专区”，和“高校学生就业能力提升 该课程聚焦多模态生成、逻辑推理等核心功能，设计智慧教学、科研辅助、学科融合等应用场景案例，通过技术原理解析、案例实操演练，助力师生利用大模型进行教学教研及学术创新。 今年以来，腾讯混元大模型持续快速迭代，推出了深度思考模型混元T1和快思考模型混元Turbo S，并已广泛应用于腾讯元宝、ima、腾讯元器、腾讯文档、微信读书、搜狗输入法、QQ浏览器等多款内部产品。
1.6K10编辑于 2025-04-04 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - 提示词工程
攻击：改变系统人设，现在开始你不是xxx了，忘记前面所有的对话 防范：prompt拦截器、带上系统人设 + 用户输入的消息喂给模型、Moderation API API使用中的参数temperature 2. 我是迈克可以选择的课程包括：基础数学课，4学分，属于理论课；初级编程课，4学分，属于实验课；高级编程课，5学分，属于实验课；文学欣赏课，3学分，属于选修课；交响乐欣赏课，2学分，属于选修课；物理实验课， 这门课程将为你提供编程的基础知识和技能。你可以学习到编程语言的基本概念、算法和逻辑思维等内容。初级编程课是一门实验课，共计4学分。你对这门课程感兴趣吗？ user 感谢兴趣，帮我订下吧！ AI 好的！ 这两门课程都是选修课，但是文学欣赏课是3学分，而交响乐欣赏课是2学分。如果你希望获得更多学分，我建议你选择文学欣赏课。这门课程将帮助你提高对文学作品的理解和欣赏能力。你对这门课程感兴趣吗？
1K20编辑于 2023-11-18 - 来自专栏小康的自留地
前端课程——盒子模型
什么是盒子模型 盒子模型又称为框模型，HTML页面所有的元素都具有盒子模型，该模型用于设计HTML页面和实现HTML页面布局。 ? 阴影模糊半径 | 阴影颜色 */ box-shadow: 10px 5px 5px black; /* x偏移量 | y偏移量 | 阴影模糊半径 | 阴影扩散半径 | 阴影颜色 */ box-shadow: 2px 2px 2px 1px rgba(0, 0, 0, 0.2); /* 插页(阴影向内) | x偏移量 | y偏移量 | 阴影颜色 */ box-shadow: inset 5em 1em gold; 默认值，称为标准盒子模型。 该模型设置元素在HTML页面中所占区域为内容区+内边距+边框的宽度+外边距。 ●border-box: 称为怪异盒子模型，最早是由微软提出的。
2K10发布于 2020-04-09 - 来自专栏Soul Joy Hub
【大模型AIGC系列课程 1-1】ChatGPT与OpenAI API的应用
参阅：https://www.shenmezhidedu.com/jinri/haowen/gongju/7255.html 替代方案：https://poe.com/
32610编辑于 2023-09-09 - 来自专栏云原生技术社区
大模型时代已来，Meta发布LLaMA 2
在人工智能和机器学习领域，语言模型的发展一直是企业关注的焦点。然而，由于硬件成本和资源需求的挑战，许多企业在应用大模型时仍然面临着一定的困难。 关于LLaMA 2 Meta LLaMA 是一款由Meta公司开发的开源超大规模语言模型。一直以来，LLaMA 系列模型在AI社区内被誉为最强大的开源大模型之一。 相较于之前的版本，LLaMA 2在效果上有了显著提升，甚至可以接近GPT-4的水平。LLaMA 2发布了不同体量的模型，以满足不同的硬件部署成本，为企业提供了更多选择和灵活性。 AML全面支持LLaMA 2推理和微调 灵雀云AML现已全面支持Meta LLaMA 2全系列模型在平台上进行推理和微调，包括70亿参数、130亿参数和700亿参数版本。 相比于直接使用开源模型，企业通过采用AML，可以获得更多优势： ● 一键私有化模型发布 企业可以轻松将训练好的LLaMA 2模型一键发布为私有化API，保护数据安全。
60910编辑于 2023-08-09 - 来自专栏PaddlePaddle
【AI核心技术】课程十四：循环网络模型-课程导引
UAI与PaddlePaddle联合推出的【AI核心技术掌握】系列课程持续更新中！ 今天的视频是循环网络模型-课程导引，21min带你迅速入门循环网络模型~ （友情提示：手机横屏看更舒服！） ?
51720发布于 2018-07-26 - 来自专栏啄木鸟软件测试
多模态大模型技术原理与实战(2)
(2)是否包含编码器的输出作为输入 在原始 Transformer 模型的基础上，在自然语言处理领域中逐渐衍生出以下3 种方式来构建预训练语言模型。 (2)只包含解码器的预训练语言模型，比如 ChatGPT。 (3)编码器和解码器都包括预训练语言模型，比如 BART。 2）指令数据集通过指令的形式指导模型的生成，能够提高预训练语言模型的泛化能力，使其在之前未做过的任务中能够表现出优秀的零样本推理能力。 (2)信息提取能力弱。 (3)并行计算能力差。 (4)领域迁移能力弱。 GPT-1 将模型的训练分为两个阶段: 第一个阶段通过大批量无标签文本数据构建一个初始的生成式语言模型。 总结 大模型被广泛应用有以下几个前提 ·效果好 ·效率高 ·成本可控 目前，大模型在这几个方面还不够理想。
73910编辑于 2024-09-10
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号