- 综合排序
- 最热优先
- 最新优先
- 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
1K20编辑于 2023-08-28 Hollis【实战课程】大模型应用开发实战
大模型应用开发实战摘要大语言模型（LLM）正在重塑软件开发的方式。从智能客服到代码助手，从数据分析到内容创作，大模型应用已经渗透到各行各业。 本文将从实战角度出发，系统性地介绍大模型应用开发的核心技术、工具框架和最佳实践，帮助开发者快速上手并构建真实可用的大模型应用。 一、大模型应用开发全景1.1 什么是大模型应用开发大模型应用开发，是指基于大语言模型（如 GPT、Claude、文心一言等）构建面向具体场景的软件应用。 与传统软件开发不同，大模型应用的核心是"如何让模型理解需求、调用工具、生成有价值的内容"。大模型应用开发的典型特征包括：以 Prompt 为核心：应用的行为很大程度上由提示词（Prompt）决定。 -4o-mini），复杂问题用大模型。
1.1K10编辑于 2026-07-01- 来自专栏机器学习与统计学
开源，免费，大模型图文教程、视频课程
大家好，我是 Ai 学习的老章 大模型还是要学啊，太深了，学无止境 老章长期大量网上冲浪，推荐几个图文教程/视频课程 1 是优质，2 是免费 别看到英文就露怯，沉浸式翻译插件一键就 OK 了 LLM Inference Handbook[1] 《大语言模型推理手册》是一本集技术术语表、指南和参考资料于一身的手册，全面涵盖大语言模型推理相关知识。 课程从 AI 基础原理讲起，包括其定义、起源和大语言模型的兴起，后续进入实践教程，如构建聊天机器人、实现检索增强生成等，旨在帮助学员构建可扩展的实际 AI 应用。 这门由华盛顿大学助理教授、NexusFlow 联合创始人朱邦华讲授的“大语言模型（LLM）的后期训练”短期课程，旨在教授学员如何对大语言模型进行后期训练与定制。 书中通过逐步编写代码，由内而外深入讲解大语言模型的工作原理，指导读者创建自己的大语言模型，并以清晰的文字、图表和示例阐释每个阶段。
82510编辑于 2025-07-18 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - LangChain
模型 IO 封装 pip install langchain # 0.0.350 模型封装 from langchain.llms import OpenAI # 设置环境变量 from dotenv user role SystemMessage #等价于OpenAI接口中的system role ) messages = [ SystemMessage(content="你是谷歌的大模型 非常欢迎你对AIGC课程感兴趣。AIGC课程是一门人工智能基础课程，旨在帮助学员掌握人工智能的基本概念、技术和应用。\n\n如果你想学习AIGC课程，我可以为你提供以下信息：\n1. 课程内容：AIGC课程包括人工智能基础知识、机器学习、深度学习、自然语言处理、计算机视觉等方面的内容。\n2. 学习方式：AIGC课程提供在线学习，你可以根据自己的时间和进度来学习课程内容。\n3. 学习资源：AIGC课程提供视频教程、学习笔记、练习题等学习资源，帮助学员更好地理解和掌握课程内容。\n4. 学习支持：我们提供学习支持，包括学习群组、论坛和定期答疑活动，帮助学员解决学习中的问题。
2.3K10编辑于 2023-12-21 - 来自专栏Datawhale专栏
大模型理论基础(so-large-lm)课程笔记！
本前言介绍的课程笔记源自于“大模型理论基础（so-large-lm）”课程(https://github.com/datawhalechina/so-large-lm)，一个致力于探索和理解大型模型发展的前沿课程 一年前，该课程已经讲述了MOE和RAG架构的重要性，并在课程内容中对这两种架构进行了深入讲解。这不仅证明了学习大模型理论基础的重要性，也展示了课程内容的前瞻性和实用价值。 随着时间的推移，大模型的研究和应用领域继续迅速发展，促使我们对已有知识的理解进行更新和深化。因此，本课程笔记旨在开源学习的背景下，基于今年年初的学习成果，进一步讲解和深化对MOE和RAG内容的理解。 这份笔记不仅反映了当前大模型研究的最新动态，也体现了深入学习和掌握这些复杂架构的重要性。 通过本课程笔记，读者将能够获得对MOE和RAG架构更为深入的理解，掌握它们的设计原理、优势及应用场景。 我们希望这份笔记能够为广大学习者提供价值，促进对大模型理论基础知识的深入学习和应用，同时激发更多的创新和探索。
65710编辑于 2024-04-24 - 来自专栏最新最全的大数据技术体系
AI全栈大模型工程师(二)课程大纲
这节课会带给你 通俗了解大模型的工作原理，秒赢 99% 其他人的认知 了解指令工程的强大，不只是「说人话」那么简单 浅尝 OpenAI API 的调用 开始上课！ 1.2、大纲解读 模块 目的 原理 实践 认知 AI 大模型基础介绍 对大模型有直观的、基础的了解，以展开后续课程学习 大模型最基础的原理 搞定环境搭建和工具的使用 大模型并不神奇，也不神秘 Prompt Engineering 操纵大模型的基础方法 让 prompt 更大概率生效的原理 使用 prompt 和调用 OpenAI API 程序思维从确定性到模糊性的变化 Function Calling 开发应用 Prompt 和代码分离的思想 Fine-tuning 学会大模型应用技术的天花板 机器学习基础 训练出自己的独特大模型 大模型、GPU 选型 AI 产品设计 独立完成 AI 产品设计，成为 5.1、大语言模型（LLM）：GPT，Transformer 六、OpenAI API初探 6.1、安装Python库 pip install --upgrade openai 6.2、查看可调用的模型
3K53编辑于 2023-10-17 - 来自专栏大模型应用
大模型应用：构建智能大模型运维体系：模型健康度监测系统实践.8
引言 大型语言模型已成为各行各业的核心基础设施。从客户服务到内容创作，从代码生成到科学研究，大模型正深度融入企业的核心业务流程。 传统的系统监控工具如Zabbix、Prometheus等虽然能监控基础硬件资源，但无法深入理解大模型服务的特殊行为模式，无法感知模型推理的内在质量，更无法预测服务性能的潜在风险。 今天我们将以模型健康度监测系统为例，深度剖析现代大模型运维平台的设计理念、技术实现与创新亮点。通过详细的流程分析、架构解读和实践场景说明，为构建智能化的模型运维体系提供完整的实践参考和技术路线图。 多层次监控体系 系统构建我们采用了四层级的立体化监控架构，每一层都针对大模型服务的特定维度进行深度监控：系统资源层：基础硬件资源监控（CPU、内存、磁盘、网络），确保运行环境稳定模型运行层 ): """智能性能评分算法 - 基于大模型服务特性的专业评分体系""" score = 100 # 基准分数 # CPU性能 (权重: 25%) - 考虑到大模型推理对CPU
69143编辑于 2026-02-05 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - Function Call
课程摘要 大模型，没有真逻辑，只是推测下一个字的概率 gpt 可以根据函数的描述来决定是否调用该函数，但是真正的执行，需要我们自行调用 2. 由大模型决定调用谁, seed=1024, tool_choice='auto', # response_format={'type': 'json_object 由大模型决定调用谁 "type": "function", "function": { "name": "sum", "description function_name, "content": str(function_response), } ) # 再次调用大模型 content": prompt} ] response = get_completion_with_tools(messages, tools) messages.append(response) # 把大模型的回复加入到对话中
1.7K20编辑于 2023-11-23 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - Semantic Kernel
Plugins/Skills 8. 调用 Pipeline 9. 函数嵌套调用 10. Memory 11. Planner 12. SK 调试插件 1. Semantic Kernel 大语言模型开发框架（SDK） 封装了一系列工具（提示词模板、链式调用、规划能力等），像调用函数一样 支持（C# Python Java）基于 OpenAI / Azure 语言无关 skFunction包含文件： skprompt.txt: 存放 prompt，可以包含参数，还可以调用其它函数 config.json: 存放配置，包括函数功能，参数的类型，以及调用大模型时的参数 去掉头尾的空格（trim） TimeSkill - 获取当前时间及用多种格式获取时间参数 WaitSkill - 等待指定的时间 WebSearchEngineSkill - 在互联网上搜索给定的文本 8. (memory_store=sk.memory.VolatileMemoryStore()) # 读取文件内容 with open('ChatALL.md', 'r', encoding='utf-8'
1.7K10编辑于 2023-12-18 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 -Assistant API
课程学习自 知乎知学堂 https://www.zhihu.com/education/learning 如果侵权，请联系删除，感谢！ 文章目录 1. 选择模型：gpt-3.5-turbo-1106 添加函数： { "name": "ask_database", "description": "Use this function to answer
1K10编辑于 2023-12-10 - 来自专栏token的技术分享
基于.NET8的AI大模型管理
此外，AIDotNet API还支持多种AI大模型，包括OpenAI、星火大模型、Claudia、智谱AI、Ollama、通义千问（阿里云）、AzureOpenAI以及腾讯混元大模型，满足了用户对各种AI 模型的需求。 基于.NET Core 8实现使用EntityFrameworkCore对于数据库操作。基于MiniApis提供WebAPI服务。 功能实现 支持用户管理 支持渠道管理 支持token管理 提供数据统计预览 支持日志查看 支持系统设置 支持接入外部Chat链接 支持支付宝购买账号余额 AI大模型支持列表 OpenAI （支持function ） 星火大模型（支持function） Claudia 智谱AI Ollama 通义千问（阿里云） AzureOpenAI（支持function） 腾讯混元大模型 支持数据库 SqlServer 配置类型
56910编辑于 2024-05-28 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - 提示词工程
攻击：改变系统人设，现在开始你不是xxx了，忘记前面所有的对话 防范：prompt拦截器、带上系统人设 + 用户输入的消息喂给模型、Moderation API API使用中的参数temperature ) -> 对话策略Policy -> 语言生成NLG -> 语音合成TTS NLU 给定任务 用户输入 约定输出格式（json等） 加入例子，让输出更稳定 DST 给定prompt让模型输出 2.3 纯OpenAI API 实践 # _*_ coding: utf-8 _*_ # @Time : 2023/11/16 # @Author : Michael # @File : 02-prompt.py 这门课程将为你提供编程的基础知识和技能。你可以学习到编程语言的基本概念、算法和逻辑思维等内容。初级编程课是一门实验课，共计4学分。你对这门课程感兴趣吗？ user 感谢兴趣，帮我订下吧！ AI 好的！ 这两门课程都是选修课，但是文学欣赏课是3学分，而交响乐欣赏课是2学分。如果你希望获得更多学分，我建议你选择文学欣赏课。这门课程将帮助你提高对文学作品的理解和欣赏能力。你对这门课程感兴趣吗？
91961编辑于 2023-11-18 - 来自专栏腾讯开源的专栏
「腾讯混元大模型应用实战课程」上线国家智慧教育平台
由腾讯打造的“腾讯混元大模型应用实战课程”，已正式上线国家智慧教育平台，为全国高校师生带来覆盖大模型技术通识到AI工具实用技能的系列课程，助力高校师生规范、高效使用大模型，加速教育教学及科研创新。 课程入口 https://higher.smartedu.cn/course/lmc/67de729c2f4f1bef26a8089f 国家智慧教育平台建成三年来，已经成为世界上资源最丰富、用户最多、规模最大的智慧教育平台 在教育部高等教育司邀请下，腾讯结合自身大模型技术优势与全栈AI产品，从高校师生日常使用场景出发，设计制作了“腾讯混元大模型应用实战课”，上线国家智慧教育平台“人工智能教学服务开放应用专区”，和“高校学生就业能力提升 该课程聚焦多模态生成、逻辑推理等核心功能，设计智慧教学、科研辅助、学科融合等应用场景案例，通过技术原理解析、案例实操演练，助力师生利用大模型进行教学教研及学术创新。 今年以来，腾讯混元大模型持续快速迭代，推出了深度思考模型混元T1和快思考模型混元Turbo S，并已广泛应用于腾讯元宝、ima、腾讯元器、腾讯文档、微信读书、搜狗输入法、QQ浏览器等多款内部产品。
1.6K10编辑于 2025-04-04 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - 提示词工程
攻击：改变系统人设，现在开始你不是xxx了，忘记前面所有的对话 防范：prompt拦截器、带上系统人设 + 用户输入的消息喂给模型、Moderation API API使用中的参数temperature ) -> 对话策略Policy -> 语言生成NLG -> 语音合成TTS NLU 给定任务 用户输入 约定输出格式（json等） 加入例子，让输出更稳定 DST 给定prompt让模型输出 2.3 纯OpenAI API 实践 # _*_ coding: utf-8 _*_ # @Time : 2023/11/16 # @Author : Michael # @File : 02-prompt.py 这门课程将为你提供编程的基础知识和技能。你可以学习到编程语言的基本概念、算法和逻辑思维等内容。初级编程课是一门实验课，共计4学分。你对这门课程感兴趣吗？ user 感谢兴趣，帮我订下吧！ AI 好的！ 这两门课程都是选修课，但是文学欣赏课是3学分，而交响乐欣赏课是2学分。如果你希望获得更多学分，我建议你选择文学欣赏课。这门课程将帮助你提高对文学作品的理解和欣赏能力。你对这门课程感兴趣吗？
1.1K20编辑于 2023-11-18 - 来自专栏小康的自留地
前端课程——盒子模型
什么是盒子模型 盒子模型又称为框模型，HTML页面所有的元素都具有盒子模型，该模型用于设计HTML页面和实现HTML页面布局。 ? 区域 5-8 边区域。在最终的边框图像中重复，缩放或修改它们以匹配元素的尺寸。 区域 9 为中心区域。它在默认情况下会被丢弃，但如果设置了关键字fill，则会将其用作背景图像。 默认值，称为标准盒子模型。 该模型设置元素在HTML页面中所占区域为内容区+内边距+边框的宽度+外边距。 ●border-box: 称为怪异盒子模型，最早是由微软提出的。 DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-<em>8</em>"> <title>边框的特殊应用</title> <style
2K10发布于 2020-04-09 - 来自专栏MavenTalk
开源社区大模型目前面临的8大瓶颈问题
但面对商业化的ClosedAI和OpenAI等语言模型，还存在一些瓶颈。 数据量不足，预训练数据有限 开源社区很难获得大规模高质量的数据集来进行模型预训练，导致其模型质量无法与业内巨头相提并论。 数据量的不足直接限制了模型的表达能力和推理能力。 算力资源有限，GPU/TPU数量相对较少 开源社区几乎没有足够的GPU/TPU来训练超大规模的模型参数，很难进行长时间的预训练，无法匹敌巨头公司拥有的算力优势。算力的缺乏是开源模型质量提升的硬限制。 商业化受限，收入有限，难以持续投入 开源社区很难直接通过模型商业化来获得持续的财务支持，长期投入会面临资金短缺问题。 模型泛化、可解释性与安全性等方面有待提高 开源模型的可解释性和安全性还需要加强，部署时存在不确定性，这也是限制其应用的一个因素。
77630编辑于 2023-09-06 - 来自专栏前端数据可视化
『n8n』让大模型识别图片内容
点赞 + 关注 + 收藏 = 学会了 整理了一个n8n小专栏，有兴趣的工友可以关注一下 《n8n修炼手册》 有没有发现 n8n 的聊天窗只有一个输入框，好像没有上传文件的功能。 但需要你用多模态大模型，才能识别图片内容。我用 Kimi-k2.5 演示一下。 上传一张小恐龙图片。 问它“这张图里的动物是什么？”。 Kimi-k2.5 很快就识别出来了。 以上就是本文的全部内容啦，想了解更多n8n玩法欢迎关注《n8n修炼手册》 如果你有 NAS，我非常建议你在 NAS 上部署一套 n8n，搞搞副业也好，帮你完成工作任务也好 《『NAS』不止娱乐，NAS也是生产力 ，在绿联部署AI工作流工具-n8n》 点赞 + 关注 + 收藏 = 学会了
17210编辑于 2026-10-10 - 来自专栏老张的求知思考世界
全链路压测(8)：构建三大模型
梳理核心链路的一个重要目的是获得流量模型。但在全链路压测中，除了流量模型，业务模型和数据模型一样重要。这篇文章，为大家介绍如何构建这三大模型。 下图是一个常见的电商双11大促时候的业务场景模型图，我以这个思维导图为例来做分析说明。 峰值流量模型 预估的流量模型要以峰值流量场景来预估，否则很可能由于错误的预估导致准备不足而致使大促期间线上出现问题。这不仅是一个技术和监控的问题，还要综合考虑本次大促期间业务目标以及业务转化率的因素。 预估大促时的支付转化率为60%，则可得：大促峰值订单支付QPS为（200/40%）*60%*（200W/50W）=1200QPS。 ，确认以下信息： 是否有热点数据相关的操作：比如说所有用户秒杀同一件商品； 不同类型数据处理逻辑有差异时，需通过测试数据多样化提高性能测试代码覆盖率； 缓存数据：要确认是否有缓存，缓存大小为多少（排除大key
1.7K30编辑于 2022-05-17 - 来自专栏MavenTalk
8家国产AI大模型开放使用，人手一个大模型的时代来临
什么是大模型 先做个扫盲，AI大模型是“人工智能预训练大模型”的简称。语言模型是一种人工智能模型，它被训练成理解和生成人类语言。 这8家分别是谁 百度（文心一言） 抖音（云雀大模型） 智谱AI（GLM大模型） 中科院（紫东太初大模型） 百川智能（百川大模型） 商汤（日日新大模型） MiniMax（ABAB大模型） 上海人工智能实验室 （书生通用大模型） 书生通用大模型与云雀大模型我确实是第一次听说，国内大模型再现当年百团「团购」大战的身影，截至2023年7月,中国累计已经有130个大模型问世。 MiniMax（ABAB大模型） https://www.sensetime.com/ 商汤（日日新大模型） https://intern-ai.org.cn 上海人工智能实验室（书生通用大模型） 至于这8家的AI大模型的能力如何，交给你来评判吧。不过至今为止，依旧是无人能挑战ChatGPT的霸主地位。 祝你早日用上AI大模型，帮助自己提升工作、生活、学习效率。
3.6K40编辑于 2023-09-06 - 来自专栏Soul Joy Hub
【大模型AIGC系列课程 1-1】ChatGPT与OpenAI API的应用
参阅：https://www.shenmezhidedu.com/jinri/haowen/gongju/7255.html 替代方案：https://poe.com/
32710编辑于 2023-09-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号