未闻花名

文章/答案/技术大牛

发布

LV6

全部文章

大模型应用：大模型量化：INT4与INT8核心差异、选型指南及代码实现.53
大模型的量化我们前期也探讨了基础概念和实践原理，针对CPU的量化流程做了通俗易懂的基础说明，但实际应用场景往往是需要GPU的落地实践，随着大模型参数规模突破千亿...
未闻花名 1小时前2026-03-23 08:52:14
第四期热点征文-大模型技术
大模型应用：量化校准：全局/分组 Min-Max、GPTQ、AWQ 算法最优匹配.54
一直以来，我们都围绕大模型的本地部署由浅入深的仔细讨论，大模型的落地困境从来离不开“显存”与“速度”，以 LLaMA-7B 为例，FP32 精度下显存占用高达 ...
未闻花名 23小时前2026-03-22 10:07:15
第四期热点征文-大模型技术
大模型应用：中小显存适配方案：大模型微调底座选型指标与应用实现.52
在大模型微调落地场景中，中小算力设备是多数开发者的主力工具。此类设备面临显存有限但需满足特定任务需求的核心矛盾，以中文电商文案生成为例，需兼顾文案流畅度，同时确...
未闻花名 1天前2026-03-21 14:03:18
第四期热点征文-大模型技术
大模型应用：大模型越大越好？模型参数量与效果的边际效益分析.51
我们接触大模型以来，经常听到什么模型有多少亿参数，通常1B/7B/13B/34B/70B/175B或者GPT有 1750 亿参等等这类说法，很容易让我们陷入模型...
未闻花名 3天前2026-03-20 07:58:44
第四期热点征文-大模型技术
大模型应用：混元大模型数据缓存复用方案：从API请求数据累积到智能融合.50
随着大模型在各行业的规模化应用，API 调用成本高、响应延迟大、重复请求浪费等问题逐渐成为落地的核心痛点。实际运用过程中，大量的请求为重复或相似问题，直接调用大...
未闻花名 4天前2026-03-19 07:58:07
腾讯混元大模型、玩转腾讯混元大模型
大模型应用：大模型权限管控设计：角色权限分配与违规 Prompt 拦截.49
在大模型本地化部署的企业场景中，权限混乱和敏感内容生成风险是两大核心痛点：可能滥用模型生成违规内容，不同部门对模型功能的需求差异无法区分，这些问题都制约了本地模...
未闻花名 5天前2026-03-18 08:23:35
大模型部署
大模型应用：大模型本地部署的磁盘空间优化：模型分片存储与按需加载.48
在大模型本地化应用的浪潮中，硬件门槛高始终是阻挡在我们面前的一道鸿沟，动辄数十 GB 的模型参数文件，足以让多数个人电脑的磁盘捉襟见肘，更遑论显存不足导致的加载...
未闻花名 6天前2026-03-17 08:03:37
大模型部署
大模型应用：大模型本地化部署与API调用：打包迁移到服务器的多种方式实践.47
在过往的系列分享中，无论是轻量型向量模型的实操应用，还是大语言模型的生成推理与落地调试，我们始终围绕模型本地化调用这一核心场景展开，从环境搭建、参数优化到功能适...
未闻花名 7天前2026-03-16 07:57:34
大模型部署
大模型应用：大模型的token频率偏见：高频词与低频词的嵌入表示差异分析.46
随着大模型技术深入渗透到日常对话、专业咨询、内容创作等多元场景，模型对高频词汇的理解精准度远超低频词汇，这种差异直接影响着输出结果的可靠性与实用性。从底层逻辑来...
未闻花名 7天前2026-03-15 10:08:45
大模型部署、第四期热点征文-大模型技术
大模型应用：本地大模型API调用鉴权可视化全解析：从基础实现到业务扩展.45
随着大模型本地化部署的普及，基于 FastAPI 封装大模型接口并实现鉴权、可视化交互，成为实现落地大模型应用的核心场景。前一篇博文我们讲解了大模型本地化部署以...
未闻花名 9天前2026-03-14 08:27:01
第四期热点征文-大模型技术
大模型应用：大模型的本地 API 服务：FastAPI 封装与接口鉴权.44
大模型的里里外外我们都进行了很多细节的讲解，但大模型的部署引用还没有涉及太多，今天我们重点讲一下模型的接口发布，以及利用Postman工具的鉴权调试，Postm...
未闻花名 10天前2026-03-13 08:08:51
大模型部署
大模型应用：多尺度注意力解析：大模型特征提取的基础概念与应用价值.43
在大模型的特征提取技术中，注意力机制是核心支柱，它让模型能聚焦关键信息。但传统单尺度注意力存在明显短板，要么只盯着局部细节，忽略全局逻辑；要么只抓整体框架，丢失...
未闻花名 11天前2026-03-12 07:56:53
第四期热点征文-大模型技术
大模型应用：大模型的词表扩展：中文生僻字、专业术语的词嵌入适配方案.42
在大模型的中文应用落地过程中，我们常常会遇到这样的问题：面对古籍里的生僻字（如“𪚥”、“龘”）、特定领域的专业术语，如人工智能领域的 “LoRA 微调”、生物医...
未闻花名 12天前2026-03-11 07:43:17
第四期热点征文-大模型技术
大模型应用：语料库治理实战：基于 text2vec+BERT 的由浅入深解析.41
相信我们在接触大模型已经从很多地方收集各类零零散散的信息，数据的高价值已是行业共识，但并非只有海量数据才有价值，对于类似我们这样的中小企业、个人开发者或垂直场景...
未闻花名 13天前2026-03-10 08:01:34
第四期热点征文-大模型技术
大模型应用：大模型训练数据治理：噪声过滤与高质量中文语料构建实践.40
大模型的性能上限，一半取决于模型架构与训练策略，另一半则由训练数据的质量决定。尤其对于中文大模型而言，中文语料存在来源繁杂、噪声冗余、格式不统一、语义歧义等问题...
未闻花名 14天前2026-03-09 07:57:36
第四期热点征文-大模型技术
大模型应用：大模型权重敏感性分析：L1/L2 范数、梯度贡献深入解读.39
大模型的权重敏感性，通俗来说就是模型中某一个或某一组权重参数的微小变化，对模型最终输出结果或性能指标的影响程度。我们可以把大模型想象成一个精密的"黑箱计算器"，...
未闻花名 15天前2026-03-08 09:41:07
大模型部署
大模型应用：通俗理解大模型量化：从概念到实践的原理流程完整拆解.38
从我们日常接触的电脑存储开始理解，我们可以先回忆一下手机、电脑里的数据存储规则：大模型的核心是海量参数，可以理解为模型学到的知识，像一本超级厚的字典，这些参数在...
未闻花名 16天前2026-03-07 08:28:16
第四期热点征文-大模型技术
大模型应用：混合专家模型（MoE）：大模型性能提升的关键技术拆解.37
最近我们强化学习了很多大模型相关知识，应该也注意到了“MoE”这个词，比如什么模型用了MoE架构，MoE让大模型性能得到大幅提升等等，我们初看一扫而过，再看一脸...
未闻花名 17天前2026-03-06 07:57:16
第四期热点征文-大模型技术
大模型应用：不减性能只减负担：大模型稀疏化技术全景与实践.36
大模型稀疏化的核心是通过参数级静态精简与激活级动态调度，让模型中大部分参数为零或不参与计算，仅保留核心有效连接和神经元，实现“体积瘦身、计算减负、精度稳中有升”...
未闻花名 18天前2026-03-05 08:25:55
第四期热点征文-大模型技术
大模型应用：大模型驱动智能体协同实现：技术原理与实战落地全解析.35
寒来暑往，秋收冬藏，大模型凭借强大的自然语言理解、逻辑推理和知识储备能力，成为了 AI 领域的核心驱动力。但单一的大模型存在决策落地难、工具调用弱、任务流程化能...
未闻花名 19天前2026-03-04 07:55:29
传媒AIGC智能体解决方案

12 3 4 5 6 7 8 下一页

个人简介

AI不释手 | 大健康产业
深耕青少年心理和医疗大健康领域，融合AI大模型的本地化应用，对大模型有深度的应用经验和使用体验。
腾讯云AI编程达人秀
暂未填写学校和专业
暂未填写个人网址
浙江省 | 杭州市
加入社区时间：2025-10-23

个人成就

获得 232 次赞同
文章被阅读 85.2K 次
文章获得 133 次首页推荐

关注了：0关注者：57

未闻花名

全部文章

大模型应用：大模型量化：INT4与INT8核心差异、选型指南及代码实现.53

大模型应用：量化校准：全局/分组 Min-Max、GPTQ、AWQ 算法最优匹配.54

大模型应用：中小显存适配方案：大模型微调底座选型指标与应用实现.52

大模型应用：大模型越大越好？模型参数量与效果的边际效益分析.51

大模型应用：混元大模型数据缓存复用方案：从API请求数据累积到智能融合.50

大模型应用：大模型权限管控设计：角色权限分配与违规 Prompt 拦截.49

大模型应用：大模型本地部署的磁盘空间优化：模型分片存储与按需加载.48

大模型应用：大模型本地化部署与API调用：打包迁移到服务器的多种方式实践.47

大模型应用：大模型的token频率偏见：高频词与低频词的嵌入表示差异分析.46

大模型应用：本地大模型API调用鉴权可视化全解析：从基础实现到业务扩展.45

大模型应用：大模型的本地 API 服务：FastAPI 封装与接口鉴权.44

大模型应用：多尺度注意力解析：大模型特征提取的基础概念与应用价值.43

大模型应用：大模型的词表扩展：中文生僻字、专业术语的词嵌入适配方案.42

大模型应用：语料库治理实战：基于 text2vec+BERT 的由浅入深解析.41

大模型应用：大模型训练数据治理：噪声过滤与高质量中文语料构建实践.40

大模型应用：大模型权重敏感性分析：L1/L2 范数、梯度贡献深入解读.39

大模型应用：通俗理解大模型量化：从概念到实践的原理流程完整拆解.38

大模型应用：混合专家模型（MoE）：大模型性能提升的关键技术拆解.37

大模型应用：不减性能只减负担：大模型稀疏化技术全景与实践.36

大模型应用：大模型驱动智能体协同实现：技术原理与实战落地全解析.35

个人简介

个人成就

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐