- 综合排序
- 最热优先
- 最新优先
大模型评测体系介绍及中文大模型表现
2.测试方法（如何测） 大模型基准测试流程包括：需求分析、环境准备、数据构建、测试执行、结果评估、结果展示这几个步骤。 关于大模型评测，国家也发布了标准GB/T45288.2—2025 人工智能 大模型第2部分:评测指标与方法，读者可以参考。 另外，中文大模型谁家最强呢？ 根据SuperCLUE发布的报告，最值得关注的中文大模型有： SuperCLUE将其和国外大模型的评测结果一起，进行了四象限分类，大家可以参考下： SuperCLUE测试报告很详尽，读者可发送“SuperCLUE 参考文档： 1.Evaluating Large Language Models: A Comprehensive Survey（发送“大模型测试”可得） 2.中国信通院《大模型基准测试体系研究报告2024 》（发送“大模型测试”可得） 3.SuperCLUE《中文大模型基准测评2025年3月报告》（发送“SuperCLUE”可得）
2.8K20编辑于 2025-05-30- 来自专栏技术人生黄勇
中文大模型 Chinese-LLaMA-Alpaca-2 开源且可以商用
01 — 目前在开源大模型中，比较有名的是Meta的LLAMA模型系列和清华的ChatGLM模型。 特别是在中文领域上，ChatGLM模型经过中文问答和对话的优化，更加符合中文使用者的偏好回答。 Space 空间 ChatGLM2-6B 初体验 自从Meta于7月19日凌晨开源了Llama2，并且可免费商用后，国内也开始了基于Llama2的中文大模型训练，并推出了相应的中文模型。 模型选择指引 下面是中文LLaMA-2和Alpaca-2模型的基本对比以及建议使用场景。 从上表看，如果以大模型为核心做应用，最好选择Alpaca-2。 感兴趣的朋友，可以去官网下载模型，本地或者云平台运行一下，体验对话效果，和指令执行的效果。 如果自己有开发基于大模型的应用，可以在此基础上，增加对这个中文模型的调用支持。 Claude 2 解读 ChatGPT 4 的技术秘密：细节：参数数量、架构、基础设施、训练数据集、成本 AI人工智能大模型失守！
62710编辑于 2024-07-19 - 来自专栏为了不折腾而去折腾的那些事
构建能够使用 CPU 运行的 MetaAI LLaMA2 中文大模型
本篇文章聊聊如何使用 GGML 机器学习张量库，构建让我们能够使用 CPU 来运行 Meta 新推出的 LLaMA2 大模型。 这个开源项目集成了模型量化方案，能够自动针对不同的平台进行优化，目前支持几十种不同的大模型项目。 准备工作，以及重要的模型下载部分操作，可以参考《使用 Docker 快速上手中文版 LLaMA2 开源大模型》或《使用 Docker 快速上手官方版 LLaMA2 开源大模型》文章中的部分，完成准备工作和模型下载工作 本文使用的 LLaMA2 中文模型，基于 LinkSoul 团队出品的LinkSoul/Chinese-Llama-2-7b，感谢他们为中文开源模型做出的贡献 :D获取 GGML 模型构建镜像环境为了简单的转换 好了，到这里，你就掌握了如何使用 CPU 来运行 LLaMA2 中文模型的技巧了。现在，你可以将你的模型用于任何之前 llama.cpp 兼容的开源软件或者客户端中了。
1.4K100编辑于 2023-07-24 - 来自专栏为了不折腾而去折腾的那些事
构建能够使用 CPU 运行的 MetaAI LLaMA2 中文大模型
本篇文章聊聊如何使用 GGML 机器学习张量库，构建让我们能够使用 CPU 来运行 Meta 新推出的 LLaMA2 大模型。 这个开源项目集成了模型量化方案，能够自动针对不同的平台进行优化，目前支持几十种不同的大模型项目。 准备工作，以及重要的模型下载部分操作，可以参考《使用 Docker 快速上手中文版 LLaMA2 开源大模型[5]》或《使用 Docker 快速上手官方版 LLaMA2 开源大模型[6]》文章中的部分， 本文使用的 LLaMA2 中文模型，基于 LinkSoul 团队出品的LinkSoul/Chinese-Llama-2-7b[7]，感谢他们为中文开源模型做出的贡献 :D 获取 GGML 模型构建镜像环境 好了，到这里，你就掌握了如何使用 CPU 来运行 LLaMA2 中文模型的技巧了。 现在，你可以将你的模型用于任何之前 llama.cpp 兼容的开源软件或者客户端中了。
1.2K20编辑于 2023-09-04 - 来自专栏数据派THU
中文对话大模型BELLE全面开源！
来源：高能AI本文约1000字，建议阅读5分钟模型调优仅使用由ChatGPT生成的数据，为中文指令提供更好的支持。 中文对话大模型开源社区迎来了一名浓眉大眼的新成员！ 最新项目BELLE（BE Large Language model Engine）基于BLOOM和LLAMA针对中文做了优化，模型调优仅使用由ChatGPT生成的数据，为中文指令提供更好的支持。 但是这样的技术不应该只被掌握在一家公司手中，因此BELLE项目应运而生了，他们的初衷是为了促进中文对话大模型开源社区的发展。为此，他们在三个方面做了初步的尝试，并已经开源了他们的研究成果。 ，有助于模型在各种中文场景中的表现。 模型：大模型的训练往往具有较高的成本，而一个具备初步的能力的对话模型，将大大降低使用和科研的门槛。为此，他们基于Bloom和LLAMA，训练了出具效果的对话模型，并完全开放了这些模型的参数。
98220编辑于 2023-04-05 - 来自专栏为了不折腾而去折腾的那些事
使用 Docker 快速上手中文版 LLaMA2 开源大模型
本篇文章，我们聊聊如何使用 Docker 容器快速上手朋友团队出品的中文版 LLaMA2 开源大模型，国内第一个真正开源，可以运行、下载、私有部署，并且支持商业使用。 也希望能藉此让中文开源生态变的更好一些，于是本文的主角就有了：中文版 LLaMA2 模型。 图片 当然，如果你想使用 MetaAI 官方的 LLaMA2 大模型，可以翻阅昨天的文章：《使用 Docker 快速上手官方版 LLaMA2 开源大模型》。 准备工作 因为中文版的 LLaMA2 模型采用了严格的和原版 LLaMA2 一致的输入格式进行训练，所以中文模型完全兼容原版程序，这样极大的减少了我们使用昨天文章中程序的工作量，代码几乎和昨天的文章完全一致 LLaMA2 大模型啦。
2.2K51编辑于 2023-07-21 - 来自专栏为了不折腾而去折腾的那些事
使用 Docker 快速上手中文版 LLaMA2 开源大模型
本篇文章，我们聊聊如何使用 Docker 容器快速上手朋友团队出品的中文版 LLaMA2 开源大模型，国内第一个真正开源，可以运行、下载、私有部署，并且支持商业使用。 也希望能藉此让中文开源生态变的更好一些，于是本文的主角就有了：中文版 LLaMA2 模型。 LLaMA2 中文开源模型项目 当然，如果你想使用 MetaAI 官方的 LLaMA2 大模型，可以翻阅昨天的文章：《使用 Docker 快速上手官方版 LLaMA2 开源大模型[1]》。 准备工作 因为中文版的 LLaMA2 模型采用了严格的和原版 LLaMA2 一致的输入格式进行训练，所以中文模型完全兼容原版程序，这样极大的减少了我们使用昨天文章中程序的工作量，代码几乎和昨天的文章完全一致 LLaMA2 大模型啦。
67620编辑于 2023-09-04 - 来自专栏siri的开发之路
开源中文类LLaMA大语言模型汇总
近日笔者在调研开源中文大模型时发现LLaMA可以说是今年最受欢迎的大语言模型之一，LLaMA的开源带动了大语言模型社区的兴起，许多模型例如Vicuna、Alpaca等应运而生。 然而，由于LLaMA是英文原生模型，对中文的支持较弱，因此训练中文模型需要额外的训练和对齐。本文介绍了笔者在调研过程中整理的一些具有代表性的基于LLaMA中文开源模型，供读者对比这些方案的异同。 然而，汉语作为一种世界互联网中的“小众”语言（仅占总体量约5%），大模型构建时往往不会针对汉语进行设计，例如ChatGPT的汉语能力远弱于英文能力，而LLaMA词表中仅包含少量汉字，并且几乎没有在中文上进行训练 图片Ziya-LLaMA（2023.05.17）huggingfaceIDEA研究院发布的姜子牙通用大模型（Ziya-LLaMA-13B-v1），基于LLaMA-13B扩充中文词表，进行千亿token量级的预训练 主要特点为：1.提升LLaMA的中文理解能力，并尽可能减少对原始LLaMA英文能力的损伤；2. 训练过程增加较多的任务型数据，利用ChatGPT生成解析，强化模型理解任务求解逻辑；3.
2.6K52编辑于 2023-09-24 - 来自专栏机器学习AI算法工程
【开源】度小满中文金融对话大模型
金融一直是轩辕大模型重点关注的领域和主要应用目标，因此我们首先在金融场景评测了XuanYuan-6B模型。 除金融外，我们也注重轩辕大模型的通用能力，因此我们也在多个主流评测集上进行了模型评测，观察轩辕大模型在知识、逻辑、代码等通用能力上的表现。评测结果如下表所示。 从表中结果可以看出，在五个评测集上，XuanYuan-6B的表现均超越了类似尺寸的LLaMA2-7B和LLaMA2-13B模型，展现出了强大的通用能力。 在中文相关场景下，XuanYuan-6B甚至可超越更大尺寸的LLaMA2-70B模型。 值得注意的是，在上述所有评测中，XuanYuan-6B均进行了考试场景增强，具体细节可见我们的技术报告。 XuanYuan-6B基座模型、chat模型及其量化模型的使用方法和XuanYuan-70B，XuanYuan2-70B类似，但是tokenizer加载方式和在对话场景中使用的prompt格式不同（不包含
73210编辑于 2024-04-18 - 来自专栏我爱计算机视觉
港中文提出LISA大模型：解锁多模态大模型“推理分割”能力
本篇文章分享论文 LISA: Reasoning Segmentation via Large Language Model ，由香港中文大学提出 LISA 大模型，解锁多模态大模型“推理分割”能力。 尽管当前多模态大模型（例如Flamingo [1], BLIP-2 [2], LLaVA [3], miniGPT-4 [4], Otter [5]）使得AI能够根据图像内容推理用户的复杂问题，并给出相应的文本分析和回答 因此，此项研究工作提出LISA（Large Language Instructed Segmentation Assistant）多模态大模型。 技术方案概述 首先将图像和文本送到多模态-大语言模型 F（在实验中即LLaVA），得到输出的文本结果，如果此时文本结果包含标记，则表示需要通过输出分割预测来解决当前问题。 如果存在标记，则将标记在多模态大模型 F 最后一层对应的embedding经过一个MLP层得到，并将其与分割视觉特征 f 一起传递给解码器（其中分割视觉特征 f 由输入编码器 对图像进行编码得到）。
1.5K70编辑于 2023-08-31 - 来自专栏NLP/KG
开启中文智能之旅：探秘超乎想象的 Llama2-Chinese 大模型世界
“开启中文智能之旅：探秘超乎想象的 Llama2-Chinese 大模型世界” 图片 1.国内Llama2最新下载地址 本仓库中的代码示例主要是基于Hugging Face版本参数进行调用，我们提供了脚本将 pwd=q8eu 2.Atom大模型 原子大模型Atom由Llama中文社区和原子回声联合打造，在中文大模型评测榜单C-Eval中位居前十（8月21日评测提交时间）。 Atom大模型针对中文做了以下优化： 大规模的中文数据预训练 原子大模型Atom在Llama2的基础上，采用大规模的中文数据进行持续预训练，包含百科、书籍、博客、新闻、公告、小说、金融数据、法律数据、医疗数据 的中文微调模型 我们基于中文指令数据集对Llama2-Chat模型进行了微调，使得Llama2模型有着更强的中文对话能力。 基于大规模中文语料进行预训练，成本高，不仅需要大规模高质量的中文数据，也需要大规模的算力资源。但是优点也显而易见，就是能从模型底层优化中文能力，真正达到治本的效果，从内核为大模型注入强大的中文能力。
3.5K42编辑于 2023-10-11 - 来自专栏大模型应用
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
在大模型训练中，MapReduce被广泛应用于数据处理、特征提取和分布式训练。 大模型 MapReduce 是将分布式计算经典的 MapReduce 范式与大模型能力结合的技术架构，核心解决大模型处理超长文本 / 海量任务时的算力瓶颈、上下文窗口限制、任务并行效率低 三大问题。 , "深度学习技术在自然语言处理中取得了显著进展，特别是大语言模型的出现。", "中文自然语言处理面临独特挑战，包括分词、词性标注和语义理解等问题。" 大语言模型 : 2 13. 中文 : 2 14. 包括 : 2 15. 大模型 MapReduce 则适配语义任务，针对超长文本等场景，依托本地 GPU/CPU 运行大模型。
22732编辑于 2026-02-09 - 来自专栏信数据得永生
orm2 中文文档 3.1 模型属性
译者：飞龙 来源：Model Properties 模型和一些关联具有一个或多个属性，每个属性有类型以及一些可选设置，你可以自行选择它们（或使用默认设置）。 你可以指定size为2 | 4 | 8； integer：整数。你可以指定size为2 | 4 | 8； boolean：true或false的值； date：日期对象。 这个模型定义使用了它们中的绝大多数： var Person = db.define("person", { name : { type: "text", size: 50 }, surname = db.define('lotto_ticket', { numbers: { type: 'numberArray' } }); 一些可用的高级自定义类型，能够让你像 PostGIS 那样使用模型
40630编辑于 2022-11-27 - 来自专栏信数据得永生
orm2 中文文档 3.3 模型钩子
译者：飞龙 来源：Model Hooks 如果你想要监听发生在模型实例上的事件，你可以附带一个函数，它会在发生时调用。 要解决这一问题，可以创建一个对象保存this的引用，并且在回调中用它来访问模型的属性。
37220编辑于 2022-11-27 - 来自专栏自然语言处理(NLP)论文速递
以中文为中心！复旦 & 北大 | 从头训练中文大模型：CT-LLM
然而，今天给大家分享的这篇文章旨在从头开始训练中文大模型，在训练过程中「主要纳入中文文本数据」，最终作者得到了一个2B规模的中文Tiny LLM（CT-LLM）。 目前，关于非英语大模型的探索仍然是一个未知的领域。 「泛化不确定性」 随着对于精通双语或多语功能的模型的需求日益增长，特别是能够适应中文语言应用的模型。 为满足这种需求，人们已经采取了多种策略来增强LLMs的多语言能力，特别强调在预训练阶段加入更高比例的中文Token，或者采用监督式微调（SFT）等技术来激活大模型的中文语言功能。 总之，现有的预训练数据集要么在数量上缺乏，要么在质量上有所妥协，这强调了探索以中文为中心的大模型预训练的重要性。这样的探索对于理解当代中文语言数据的特点和中文语言的识别应用至关重要。 除此之外，根据中文数据的体量，英文数据的比例进行了调整，比例设置为1:1、2:1、4:1和8:1，同时还有只包含中文数据和只包含英文数据的配置。这样的多样性比例旨在模拟不同语言环境下的实际应用场景。
1.2K10编辑于 2024-04-12 - 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 这个图示说明了GLM预训练的过程，具体解释如下： a) 原始文本：给定一个原始文本，例如[x1, x2, x3, x4, x5, x6]。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
76020编辑于 2023-08-28 - 来自专栏机器之心
中文版开源Llama 2同时有了语言、多模态大模型，完全可商用
7 月 19 日，Meta 终于发布了免费可商用版本 Llama 2，让开源大模型领域的格局发生了巨大变化。 美中不足的是，Llama 2 语料库仍以英文（89.7%）为主，而中文仅占据了其中的 0.13%。这导致 Llama 2 很难完成流畅、有深度的中文对话。 中文版 Llama2 开源大模型创下社区「首个」 好消息是，在 Meta Al 开源 Llama 2 模型的次日，开源社区首个能下载、能运行的开源中文 LLaMA2 模型就出现了。 据项目介绍，Chinese-Llama-2-7b 开源的内容包括完全可商用的中文版 Llama2 模型及中英文 SFT 数据集，输入格式严格遵循 llama-2-chat 格式，兼容适配所有针对原版 llama s=20 语言模型之外，继续开源两个中文多模态大模型 在推出首个开源 Llama2 中文语言大模型之后，LinkSoul.AI 团队将目光投向了目前全球尚外于发展初期的语音文本多模态大模型和图文大模型，
1.2K20编辑于 2023-09-08 - 来自专栏大模型成长之路
【大模型学习 | BERT 量化实战（2） 】
BERT 量化实战分析前言：在【大模型学习 | 量化实战（1）】-腾讯云开发者社区-腾讯云中基于BERT实现了情感分析系统以及量化的实现，但是量化的结果导致了模型的精确度急剧下降，从90%降到了54%， 未出现截断情况（即分布区域超过量化上下限）、分布近似 scale过大scale的计算如下所示：scale=\frac{max(w)-min(w)}{255} , 个别层的权重有离群值，会导致scale非常大， Sensitive Layers:") for r in results[:5]: print(f"{r[0]:40s} | Acc: {r[1]:.4f} | ΔAcc: {r[2] :.4f}") return results 其他分析方法层级 fallback 到 FP32与敏感性分析相关，该方法是将原模型逐层量化，观察精度下降情况误差传播分析对 float32 模型 和 模型 vs INT8 模型输出差异有多大
78810编辑于 2025-06-27 - 来自专栏大模型成长之路
【大模型学习 | BLIP2原理】
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models 作者提出一种从离线、梯度冻结的图像、语言模型中提升图文的预训练模型。为了联系两个不同模态预训练模型，作者提出一种使用两个阶段预训练模型Querying Transformer (Q-Former)。 一、预训练方法这种预训练方法分为了两个阶段 （1）视觉语言特征表示学习阶段 （2）视觉到文本的生成学习阶段 1.1 Q-Former主要作用就是对齐两个不同模态的冻结预训练模型 Q-Former包含了两个 transformer子模块：（1）Image Transformer （特征提取） （2） Text transformer (作为文本编码器和解码器) ; 一组可学习的查询嵌入向量作为 Image 作者尝试了两种LLM冻结模型：(1) decoder-based LLMs : query 表征作为 LLM 的输入前缀（prefix） → LLM 自己完成文本生成(2) encoder-decoder-based
1.1K00编辑于 2025-07-01 - 来自专栏NLP/KG
中文LLaMA模型和指令精调的Alpaca大模型：中文数据进行二次预训练
中文LLaMA模型和指令精调的Alpaca大模型：中文数据进行二次预训练，进一步提升了中文基础语义理解能力 图片 以ChatGPT、GPT-4等为代表的大语言模型（Large Language Model 然而，由于大语言模型的训练和部署都极为昂贵，为构建透明且开放的学术研究造成了一定的阻碍。 为了促进大模型在中文NLP社区的开放研究，本项目开源了中文LLaMA模型和指令精调的Alpaca大模型。 2023/04/07(https://github.com/ymcui/Chinese-LLaMA-Alpaca/releases/tag/v2.0)：发布13B版本中文LLaMA、Alpaca大模型， 请参考：Release Note 2023/03/28 正式开源中文LLaMA、Alpaca大模型，目前提供7B版本下载体验 2. ，合理辩证地看待大模型相关各种评测结果有助于大模型技术的良性发展。
2.8K00编辑于 2023-07-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号