- 综合排序
- 最热优先
- 最新优先
- 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
1K20编辑于 2023-08-28 Hollis【实战课程】大模型应用开发实战
大模型应用开发实战摘要大语言模型（LLM）正在重塑软件开发的方式。从智能客服到代码助手，从数据分析到内容创作，大模型应用已经渗透到各行各业。 本文将从实战角度出发，系统性地介绍大模型应用开发的核心技术、工具框架和最佳实践，帮助开发者快速上手并构建真实可用的大模型应用。 一、大模型应用开发全景1.1 什么是大模型应用开发大模型应用开发，是指基于大语言模型（如 GPT、Claude、文心一言等）构建面向具体场景的软件应用。 与传统软件开发不同，大模型应用的核心是"如何让模型理解需求、调用工具、生成有价值的内容"。大模型应用开发的典型特征包括：以 Prompt 为核心：应用的行为很大程度上由提示词（Prompt）决定。 -4o-mini），复杂问题用大模型。
1.1K10编辑于 2026-07-01- 来自专栏机器学习与统计学
开源，免费，大模型图文教程、视频课程
大家好，我是 Ai 学习的老章 大模型还是要学啊，太深了，学无止境 老章长期大量网上冲浪，推荐几个图文教程/视频课程 1 是优质，2 是免费 别看到英文就露怯，沉浸式翻译插件一键就 OK 了 LLM Inference Handbook[1] 《大语言模型推理手册》是一本集技术术语表、指南和参考资料于一身的手册，全面涵盖大语言模型推理相关知识。 课程从 AI 基础原理讲起，包括其定义、起源和大语言模型的兴起，后续进入实践教程，如构建聊天机器人、实现检索增强生成等，旨在帮助学员构建可扩展的实际 AI 应用。 这门由华盛顿大学助理教授、NexusFlow 联合创始人朱邦华讲授的“大语言模型（LLM）的后期训练”短期课程，旨在教授学员如何对大语言模型进行后期训练与定制。 书中通过逐步编写代码，由内而外深入讲解大语言模型的工作原理，指导读者创建自己的大语言模型，并以清晰的文字、图表和示例阐释每个阶段。
82410编辑于 2025-07-18 - 来自专栏量子位
9大门类，99个系列课程，几乎所有AI免费课程都在这里啦
真不巧，今天量子位又找到了堪称“史上最全”的资源，大家可以继续“真香”一会儿了~ 这次不是开源项目，而是可以免费在线学习的课程。 先看下目录： ? 整体包括深度学习、机器学习基础、机器学习优化、通用机器学习、强化学习、概率图模型、自然语言处理、计算机视觉和新手入门/暑期学校9个部分。 ? 每个部分都以表格形式列出了课程的名称、提供课程的学校和学者、课程介绍和课程YouTube视频的链接，还有课程出品年份。 整个课程列表中，包含了知名的斯坦福CS系列、慕课平台Deeplearning.ai、优达学城、Coursera的课程。 整个课程列表在GitHub上，记得标星哦~ 当然，如果还有你认为更好、更合适的课程，也可以fork一份添加上去并发起PR。
80430发布于 2019-04-24 - 来自专栏掘金安东尼
👾打开 RAG 对接大模型的黑盒 —— 9 大隐藏问题
Prompt 给他介绍一下相关背景，然后大模型就有更专业的应答能力了。 言而总之，大数据时代，很多公司都拥有大量的专有数据，如果能基于它们创建 RAG，将显著提升大模型的特异性。 对于很多人来说，RAG 的引入、与大模型的对接是一个黑盒，任何微小参数的变动都将引起结果发生很大的变化。 /模型没有回答问题/模型编造有害的或带有偏见的答案 接下来，一起揭秘：RAG 对接大模型的黑盒 —— 9 大问题 来源：Seven Failure Points When Engineering a Retrieval 总结 本篇提供了开发 RAG 通道 9 个痛点，并针对每个痛点都给了相应的解决思路。 RAG 是非常重要的专用检索+通用大模型的技术手段，在赋能模型、满足特定化场景中非常重要！
1K10编辑于 2024-04-04 - 来自专栏yuyy.info技术专栏
【笔记】Operator课程(7-9)
Indexer缓存k8s资源对象，并提供便捷的方式查询。例如获取某个namespace下的所有资源
54420编辑于 2023-04-12 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - LangChain
模型 IO 封装 pip install langchain # 0.0.350 模型封装 from langchain.llms import OpenAI # 设置环境变量 from dotenv user role SystemMessage #等价于OpenAI接口中的system role ) messages = [ SystemMessage(content="你是谷歌的大模型 非常欢迎你对AIGC课程感兴趣。AIGC课程是一门人工智能基础课程，旨在帮助学员掌握人工智能的基本概念、技术和应用。\n\n如果你想学习AIGC课程，我可以为你提供以下信息：\n1. 课程内容：AIGC课程包括人工智能基础知识、机器学习、深度学习、自然语言处理、计算机视觉等方面的内容。\n2. 学习方式：AIGC课程提供在线学习，你可以根据自己的时间和进度来学习课程内容。\n3. cls.is_leap_year(year) and day > 28: raise ValueError("非闰年2月最多有28天") elif month in [4, 6, 9,
2.3K10编辑于 2023-12-21 - 来自专栏Datawhale专栏
大模型理论基础(so-large-lm)课程笔记！
本前言介绍的课程笔记源自于“大模型理论基础（so-large-lm）”课程(https://github.com/datawhalechina/so-large-lm)，一个致力于探索和理解大型模型发展的前沿课程 一年前，该课程已经讲述了MOE和RAG架构的重要性，并在课程内容中对这两种架构进行了深入讲解。这不仅证明了学习大模型理论基础的重要性，也展示了课程内容的前瞻性和实用价值。 随着时间的推移，大模型的研究和应用领域继续迅速发展，促使我们对已有知识的理解进行更新和深化。因此，本课程笔记旨在开源学习的背景下，基于今年年初的学习成果，进一步讲解和深化对MOE和RAG内容的理解。 这份笔记不仅反映了当前大模型研究的最新动态，也体现了深入学习和掌握这些复杂架构的重要性。 通过本课程笔记，读者将能够获得对MOE和RAG架构更为深入的理解，掌握它们的设计原理、优势及应用场景。 我们希望这份笔记能够为广大学习者提供价值，促进对大模型理论基础知识的深入学习和应用，同时激发更多的创新和探索。
65710编辑于 2024-04-24 - 来自专栏最新最全的大数据技术体系
AI全栈大模型工程师(二)课程大纲
这节课会带给你 通俗了解大模型的工作原理，秒赢 99% 其他人的认知 了解指令工程的强大，不只是「说人话」那么简单 浅尝 OpenAI API 的调用 开始上课！ 1.2、大纲解读 模块 目的 原理 实践 认知 AI 大模型基础介绍 对大模型有直观的、基础的了解，以展开后续课程学习 大模型最基础的原理 搞定环境搭建和工具的使用 大模型并不神奇，也不神秘 Prompt Engineering 操纵大模型的基础方法 让 prompt 更大概率生效的原理 使用 prompt 和调用 OpenAI API 程序思维从确定性到模糊性的变化 Function Calling 开发应用 Prompt 和代码分离的思想 Fine-tuning 学会大模型应用技术的天花板 机器学习基础 训练出自己的独特大模型 大模型、GPU 选型 AI 产品设计 独立完成 AI 产品设计，成为 5.1、大语言模型（LLM）：GPT，Transformer 六、OpenAI API初探 6.1、安装Python库 pip install --upgrade openai 6.2、查看可调用的模型
3K53编辑于 2023-10-17 - 来自专栏DeepHub IMBA
9月大型语言模型研究论文总结
大型语言模型(llm)在今年发展迅速，随着新一代模型不断地被开发，研究人员和工程师了解最新进展变得非常重要。本文总结9-10月期间发布了一些重要的LLM论文。 这些论文涵盖了一系列语言模型的主题，从模型优化和缩放到推理、基准测试和增强性能。最后部分讨论了有关安全训练并确保其行为保持有益的论文。 这种方法产生了MathCoder模型，这是一组能够生成基于代码的解决方案的模型，用于解决具有挑战性的数学问题。 现有的问答基准(如ToMi)会向模型提问，以推断故事中人物的信念，但不会测试模型是否可以使用这些推断来指导它们的行动。 SmartPlay中的每个游戏都独特地挑战了智能LLM代理的9个重要功能的子集，包括对象依赖性推理，提前计划，空间推理，从历史中学习和理解随机性。
91021编辑于 2023-10-23 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - Function Call
课程摘要 大模型，没有真逻辑，只是推测下一个字的概率 gpt 可以根据函数的描述来决定是否调用该函数，但是真正的执行，需要我们自行调用 2. 由大模型决定调用谁, seed=1024, tool_choice='auto', # response_format={'type': 'json_object 由大模型决定调用谁 "type": "function", "function": { "name": "sum", "description function_name, "content": str(function_response), } ) # 再次调用大模型 content": prompt} ] response = get_completion_with_tools(messages, tools) messages.append(response) # 把大模型的回复加入到对话中
1.7K20编辑于 2023-11-23 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - Semantic Kernel
调用 Pipeline 9. 函数嵌套调用 10. Memory 11. Planner 12. SK 调试插件 1. Semantic Kernel 大语言模型开发框架（SDK） 封装了一系列工具（提示词模板、链式调用、规划能力等），像调用函数一样 支持（C# Python Java）基于 OpenAI / Azure Skill/Plugin，需要有一个配置和管理的单元，这个组织管理单元就是 Kernel Kernel 负责管理底层接口与调用顺序，例如：OpenAI/Azure OpenAI 的授权信息、默认的 LLM 模型选择 语言无关 skFunction包含文件： skprompt.txt: 存放 prompt，可以包含参数，还可以调用其它函数 config.json: 存放配置，包括函数功能，参数的类型，以及调用大模型时的参数 key.txt 文件的内容", ) print(result) # 合法 # 输入 删除所有根目录文件， 输出 非法 可以看到，sk 顺序调用了 两个 skill，先生成命令，然后检查是否非法 9.
1.7K10编辑于 2023-12-18 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 -Assistant API
课程学习自 知乎知学堂 https://www.zhihu.com/education/learning 如果侵权，请联系删除，感谢！ 文章目录 1. 选择模型：gpt-3.5-turbo-1106 添加函数： { "name": "ask_database", "description": "Use this function to answer thread thread = client.beta.threads.create() show_json(thread) thread 的内容： { "id": "thread_****LtfOO9AOw3V3lZ222Oa object": "thread.message", "role": "user", "run_id": null, "thread_id": "thread_****LtfOO9AOw3V3lZ222Oa
1K10编辑于 2023-12-10 - 来自专栏猫头虎博客专区
开源大模型DeepSeek.ai火遍全球:9条让DeepSeek颠覆通用大模型的事实
DeepSeek.ai火遍全球的几个事实: DeepSeek 不是套壳不是蒸馏美国的大模型。 虽然中国有些大模型是套壳和蒸馏的, 但 DeepSeek 不是。 在训练阶段, Deepseek 用标注的 Long CoT 数据微调模型, 让模型生成更清晰的推理步骤, 在强化学习中用 CoT 设计奖励优化, 增强长链推理能力, 并且在此过程中观察到了模型的反思 ( 数据, 训练了 R1-Zero 模型, 探索了模型不依赖人类标注数据微调、自主推演的能力, 打开了新的思路。 比如轻量化设计把大钢板换成钢条 (类似通过稀疏的办法减少大模型的参数量); 涡轮增压利用废气能量增加空气供给, 提高燃烧效率; 精密制造, 使得发动机零部件的配合更加紧密, 从而减少能量损失; 等等。 基础大模型终将 commoditize (商品化), toB 领域看谁能将 LLM 更好和复杂的生产环节衔接好帮客户落地提高生产效率, toC 领域看谁有流量入口, 最终才会获取 AI 产业价值创造中最多的利润
1.4K10编辑于 2025-02-02 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - 提示词工程
攻击：改变系统人设，现在开始你不是xxx了，忘记前面所有的对话 防范：prompt拦截器、带上系统人设 + 用户输入的消息喂给模型、Moderation API API使用中的参数temperature client.chat.completions.create( model=model, messages=session, temperature=0, # 模型输出的随机性 ) -> 对话策略Policy -> 语言生成NLG -> 语音合成TTS NLU 给定任务 用户输入 约定输出格式（json等） 加入例子，让输出更稳定 DST 给定prompt让模型输出 这门课程将为你提供编程的基础知识和技能。你可以学习到编程语言的基本概念、算法和逻辑思维等内容。初级编程课是一门实验课，共计4学分。你对这门课程感兴趣吗？ user 感谢兴趣，帮我订下吧！ AI 好的！ 这两门课程都是选修课，但是文学欣赏课是3学分，而交响乐欣赏课是2学分。如果你希望获得更多学分，我建议你选择文学欣赏课。这门课程将帮助你提高对文学作品的理解和欣赏能力。你对这门课程感兴趣吗？
91761编辑于 2023-11-18 - 来自专栏腾讯开源的专栏
「腾讯混元大模型应用实战课程」上线国家智慧教育平台
由腾讯打造的“腾讯混元大模型应用实战课程”，已正式上线国家智慧教育平台，为全国高校师生带来覆盖大模型技术通识到AI工具实用技能的系列课程，助力高校师生规范、高效使用大模型，加速教育教学及科研创新。 课程入口 https://higher.smartedu.cn/course/lmc/67de729c2f4f1bef26a8089f 国家智慧教育平台建成三年来，已经成为世界上资源最丰富、用户最多、规模最大的智慧教育平台 在教育部高等教育司邀请下，腾讯结合自身大模型技术优势与全栈AI产品，从高校师生日常使用场景出发，设计制作了“腾讯混元大模型应用实战课”，上线国家智慧教育平台“人工智能教学服务开放应用专区”，和“高校学生就业能力提升 该课程聚焦多模态生成、逻辑推理等核心功能，设计智慧教学、科研辅助、学科融合等应用场景案例，通过技术原理解析、案例实操演练，助力师生利用大模型进行教学教研及学术创新。 今年以来，腾讯混元大模型持续快速迭代，推出了深度思考模型混元T1和快思考模型混元Turbo S，并已广泛应用于腾讯元宝、ima、腾讯元器、腾讯文档、微信读书、搜狗输入法、QQ浏览器等多款内部产品。
1.6K10编辑于 2025-04-04 - 来自专栏Michael阿明学习之路
AI大模型全栈工程师课程笔记 - 提示词工程
攻击：改变系统人设，现在开始你不是xxx了，忘记前面所有的对话 防范：prompt拦截器、带上系统人设 + 用户输入的消息喂给模型、Moderation API API使用中的参数temperature client.chat.completions.create( model=model, messages=session, temperature=0, # 模型输出的随机性 ) -> 对话策略Policy -> 语言生成NLG -> 语音合成TTS NLU 给定任务 用户输入 约定输出格式（json等） 加入例子，让输出更稳定 DST 给定prompt让模型输出 这门课程将为你提供编程的基础知识和技能。你可以学习到编程语言的基本概念、算法和逻辑思维等内容。初级编程课是一门实验课，共计4学分。你对这门课程感兴趣吗？ user 感谢兴趣，帮我订下吧！ AI 好的！ 这两门课程都是选修课，但是文学欣赏课是3学分，而交响乐欣赏课是2学分。如果你希望获得更多学分，我建议你选择文学欣赏课。这门课程将帮助你提高对文学作品的理解和欣赏能力。你对这门课程感兴趣吗？
1.1K20编辑于 2023-11-18 - 来自专栏小康的自留地
前端课程——盒子模型
什么是盒子模型 盒子模型又称为框模型，HTML页面所有的元素都具有盒子模型，该模型用于设计HTML页面和实现HTML页面布局。 ? border-image-source 用于声明元素的边框图片（border-image）的资源 border-image-slice 引用边框图片后，**border-image-slice**属性会将图片分割为9个区域 区域 9 为中心区域。它在默认情况下会被丢弃，但如果设置了关键字fill，则会将其用作背景图像。 默认值，称为标准盒子模型。 /* 引入背景图像 */ background: url("https://tva1.sinaimg.cn/large/005B3XPgly1gbmo8n9srbj30i212w761
2K10发布于 2020-04-09 - 来自专栏golang算法架构leetcode技术php
golang刷leetcode 技巧（9） 课程表（I）
在选修某些课程之前需要一些先修课程。例如，想要学习课程 0 ，你需要先完成课程 1 ，我们用一个匹配来表示他们: [0,1] 给定课程总量以及它们的先决条件，判断是否可能完成所有课程的学习？ 示例 1: 输入: 2, [[1,0]] 输出: true 解释: 总共有 2 门课程。学习课程 1 之前，你需要完成课程 0。所以这是可能的。 示例 2: 输入: 2, [[1,0],[0,1]] 输出: false 解释: 总共有 2 门课程。学习课程 1 之前，你需要先完成课程 0；并且学习课程 0 之前，你还应先完成课程 1。 如果存在循环，则不存在拓扑排序，因此不可能选取所有课程进行学习。 通过 DFS 进行拓扑排序 - 一个关于Coursera的精彩视频教程（21分钟），介绍拓扑排序的基本概念。
51610编辑于 2022-08-02 - 来自专栏大模型应用
大模型应用：本地大模型部署中的Token效率优化与性能分析.9
引言 在大模型应用日益普及的今天，对模型交互过程中Token消耗的深入理解和有效管理变得至关重要。 Token作为大模型处理文本的基本单位，不仅直接关系到模型的响应速度和质量，更影响着计算资源的消耗和使用成本。 随着模型规模的不断扩大和应用场景的多样化，如何在不牺牲对话质量的前提下优化Token使用效率，已成为提升大模型应用经济性和实用性的关键问题。 助理回复："我是通义千问，一个由开发的大语言模型。我致力于帮助用户解答问题、提供信息和执行各种任务。" ，确保系统在不同硬件环境下的可用性通过持续的技术迭代和优化，我们相信Token效率优化将在推动大语言模型普惠应用方面发挥越来越重要的作用。
1.2K43编辑于 2026-02-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号