- 综合排序
- 最热优先
- 最新优先
- 来自专栏学习
开源大模型与闭源大模型
在人工智能（AI）和机器学习（ML）的快速发展过程中，大模型（Large Models）已经成为推动技术进步的重要力量。当前，业界存在两种主要的大模型开发模式：开源大模型和闭源大模型。 一、开源大模型 开源大模型是指开发者将模型的代码和训练数据公开，使得任何人都可以访问、修改和使用这些资源。 三、开源大模型与闭源大模型的对比 1.透明性与可控性： 开源大模型的透明性更高，任何人都可以查看和验证其代码和数据，确保模型的行为符合预期。这对于学术研究和技术验证非常重要。 4.安全与隐私： 开源大模型的公开性带来了潜在的安全和隐私风险，恶意行为者可能利用这些资源进行攻击或滥用。 闭源大模型通过控制代码和数据的访问，能够更好地保护用户隐私和数据安全，降低被恶意利用的风险。 五、总结 开源大模型和闭源大模型各有优缺点，适合不同的应用场景和需求。
1.8K10编辑于 2024-10-09 - 来自专栏睡前机器学习
开源大模型到底开源什么？
但大语言模型的“开源”完全不是这么一回事。先别管OpenAI现在名叫钮钴禄氏·CloseAI，就算哪天良心发现，真的要找回自己做一个名副其实的OpenAI，洗心革面把GPT-4给开源了。 那么，现在很多研究者在呼吁的开源，到底是要开源什么呢？开源模型，具体来说，是开源训练好的模型参数。模型参数拿到手，基本上就能完整复现能力了。 前面说过，模型这玩意距离能力复现就一步之遥，有很多人爱开源模型，也有很多人不爱开源模型，原因和上面差不多，还有一种是大公司大机构才敢用，官方辞令很多，譬如“出于社会责任考虑”，或者“安全伦理存在巨大风险 这里为咱们的中文开源大语言模型打个Call吧，能讲中文还开源的大语言模型真的不多，清华放出来的ChatGLM-6B应该是佼佼者，而是真·单卡就能运行。这里说的是消费级显卡。 最后就是开源数据集了，这项工作很重要，但也很容易被圈外忽视。现在中文大语言模型缺的东西很多，抱怨的也很多，还有一票人天天平替这个平替那个，实在不知道怎么想。
1.7K20编辑于 2023-09-09 - 来自专栏机器学习入门
【AI大模型】LLM主流开源大模型介绍
学习目标 了解LLM主流开源大模型. 掌握ChatGLM、LLaMA、Bloom等基础大模型的原理 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用 目前，市面上已经开源了各种类型的大语言模型，本章节我们主要介绍其中的三大类： ChatGLM-6B：衍生的大模型（wenda、ChatSQL等） LLaMA：衍生的大模型（Alpaca、Vicuna 、BELLE、Phoenix、Chimera等） Bloom：衍生的大模型（Bloomz、BELLE、Phoenix等） ChatGLM-6B模型 ChatGLM-6B 是清华大学提出的一个开源 小结 本小节主要介绍了LLM主流的开源大模型，对不同模型架构、训练目标、优缺点进行了分析和总结。
1.3K10编辑于 2024-09-24 - 来自专栏自然语言处理(NLP)论文速递
猛犸象大模型！MAmmoTH：目前最好的开源、通用数学大模型，现已超过GPT-4！
引言 大型语言模型 (LLM)的数学推理能力是评估大模型能力的一项关键指标。 尽管目前很多大型语言模型(LLMs)在该领域取得了一定的进展，但与闭源的大模型相比，开源大模型的数学推理能力仍然有很大差距。 (LLM)的数学推理能力是评估大模型能力的一项关键指标。 尽管该领域取得了一定的进展，但是开源大模型和闭源大模型之间仍然存在明显的差距。 目前一些比较流行的闭源LLM主要包括：GPT-4、PaLM-2、 Claude2，它们在主流的GSM8K、MATH数据集上面占据着了主导地位；而Llama、Falcon、OPT等开源大模型在所有基准上都大幅落后
1.8K20编辑于 2023-09-21 - 来自专栏周末程序猿
ChatGPT|开源大模型Llama3性能匹敌GPT4
4月18日，Meta正式发布Llama3，开源了包括8B和70B，在多个关键的基准测试中性能优于业界先进同类模型，其在代码生成等任务上实现了全面领先，能够进行复杂的推理，可以更遵循指令。 开源地址 下载链接：https://llama.meta.com/llama-downloads/ Github：https://github.com/meta-llama/ 开源地址 体验地址： （1 ）https://llama3.replicate.dev/ （2）https://build.nvidia.com/explore/discover#llama3-70b，英伟达在这个平台上提供各种模型 包括增强的推理和代码能力； 训练效率比 Llama 2 高 3 倍； 带有 Llama Guard 2、Code Shield 和 CyberSec Eval 2 的新版信任和安全工具； 对比各个闭源大模型 ，如同Llama3生成的诗一样： 开源精神激发创新， 人工智能的民主化， 让所有人参与其中 .....
25910编辑于 2025-02-27 - 来自专栏技术趋势
google开源大模型-gemini
官网：https://deepmind.google/technologies/gemini/#introduction 简介 Gemini是谷歌公司发布的人工智能大模型，能够在从数据中心到移动设备等不同平台上运行 Gemini包括一套三种不同规模的模型：Gemini Ultra是最大、功能最强大的类别，被定位为GPT-4的竞争对手；Gemini Pro是一款中端型号，能够击败GPT-3.5，可扩展多种任务；Gemini “双子座”Ultra版本是首个在“大规模多任务语言理解”（MMLU）领域超越人类专家的模型。---百度百科 https://baike.baidu.com/item/Gemini/63729669? （当GPT-4V不支持此功能时，列出了先前的SOTA模型） 图像 MMLU Gemini相当于一个大学生，能够给出跨学科的答案 59.4%0-shot通过率@1Gemini Ultra（仅像素*） 56.8% 随着未来大模型的普及我们的工作肯定有一部分会通过AI来提高效率，所以可以提升了解并实践
2.5K10编辑于 2024-01-15 - 来自专栏DevOps
AI模型：开源大语言模型bloom学习
作为一名开源爱好者，我非常不喜欢知识付费或者服务收费的理念，所以便有决心写下此系列，让一般大众们可以不付费的玩转当下比较新的开源大语言模型bloom及其问答系列模型bloomz。 一、模型介绍 bloom是一个开源的支持最多59种语言和176B参数的大语言模型。 bigscience在hugging face上发布的bloom模型包含多个参数多个版本，本文中出于让大家都能动手实践的考虑，选择最小号的bloom-1b1版本，其他模型请自行尝试。 (checkpoint) #下载模型 网速足够快的情况下等一会就下载好了，但通常情况下我们得ctrl+c打断代码运行，手动下载模型存放到对应位置，即.cache\huggingface\hub\models–bigscience–bloom 下载模型地址: https://huggingface.co/bigscience/bloom-1b1/tree/main 把如上图所示链接中的五个文件（不包含这个flax_model.msgpack）
1K10编辑于 2024-03-29 - 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
作为一个语言模型集成框架，LangChain 的用例与一般语言模型的用例有很大的重叠。 重叠范围包括文档分析和总结摘要, 代码分析和聊天机器人。 Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强 小结： - 研发&测试环境：为了方便部署和测试，使用云服务 - 大客户生产环境：安全审核严格，大多数采用自建大模型的方式 总结 LangChain 是什么？
83110编辑于 2025-08-04 - 来自专栏AI工程落地
大语言模型--开源数据集
Huggingface排行榜默认数据集 Huggingface开源大模型排行榜: Open LLM Leaderboard - a Hugging Face Space by HuggingFaceH4 本文主要介绍Huggingface开源大模型排行榜上默认使用的数据集以及如何搭建自己的大模型评估工具 搭建大模型评估工具 1.下载数据集到本地 from datasets import load_dataset 2110.14168.pdf (arxiv.org) 数据集地址：gsm8k · Datasets at Hugging Face 语言：English 介绍：GSM8K是一个包含8.5k的小学数学题，主要用于测试大模型的数学和逻辑推理能力 ', } text：wikitext上面的文章 C4 论文地址：https://arxiv.org/abs/1910.10683 数据集地址：allenai/c4 · Datasets at Hugging arxiv.org/abs/2107.03374 数据集地址：openai/openai_humaneval · Datasets at Hugging Face 语言：English 介绍：OpenAI发布的测试大模型编程能力的数据集
2.1K20编辑于 2024-09-18 - 来自专栏科技云报道
开源才是大模型的未来？
9月，百川智能宣布开源Baichuan-7B、13B两款大模型，其下载量目前已经突破500万，200多家企业申请部署开源大模型。 有业内人士认为，未来90%的企业会倾向基于开源大模型发展。那么，开源是否真的是大模型的未来？ 开源大模型快速赶超 开源大模型的核心理念是开放源代码，允许公众访问、使用、修改和分发模型的源代码。 “开源人工智能模型正走在超越专有模型的路上”，他感概道。 有网友甚至表示，我们正在接近一个临界点。以目前开源社区项目的发展速度，开源大模型将在未来12个月内达到GPT-4的水平。 开源大模型的商业化挑战 尽管开源已成为现阶段大模型发展的一种主流趋势，开源大模型的发展速度也远快于封闭生态系统，但并非所有的厂商都选择开源路线，也并不代表厂商会一直开源所有的大模型。 比如，以开源切入大模型赛道的百川智能，在发布完Baichuan-7B、Baichuan-13B开源大模型后，参数更大的Baichuan-53B大模型则选择了闭源。
51710编辑于 2023-12-26 - 来自专栏机器学习AI算法工程
开源大语言模型LLMs汇总
大语言模型 大语言模型（LLM）是指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。 2023年3月15日，Open AI发布了多模态预训练大模型GPT4.0。 2023年2月，谷歌发布会公布了聊天机器人Bard，它由谷歌的大语言模型LaMDA驱动。 开源大语言模型 本文列举了截止到 2023 年 6 月 8 日开源的大语言模型 1、LLaMA 简介 meta 开源的 LLaMA LLaMA完全是在公共开源预训练数据上训练。 简介 Panda: 海外中文开源大语言模型 Panda 系列语言模型目前基于 Llama-7B, -13B, -33B, -65B 进行中文领域上的持续预训练, 使用了接近 15M 条数据, 并针对推理能力在中文 骆驼(Luotuo)项目是由冷子昂 @ 商汤科技, 陈启源 @ 华中师范大学 以及 李鲁鲁 @ 商汤科技 发起的中文大语言模型开源项目，包含了一系列语言模型。
2.9K10编辑于 2023-09-04 - 来自专栏Python进阶之路
开源教育对话大模型 EduChat
EduChat 是华东师范大学计算机科学与技术学院的 EduNLP 团队开发的开源教育对话大模型。 该项目主要研究以预训练大模型为基底的教育对话大模型相关技术，融合多样化的教育垂直领域数据，辅以指令微调、价值观对齐等方法，提供教育场景下自动出题、作业批改、情感支持、课程辅导、高考咨询等丰富功能，服务于广大老师 在未来，开发者们将持续投入对基础模型的研究，并持续推出更为强大的 EduChat 版本，以丰富全球教育大模型生态，加速全球教育信息化进程。 鉴于上述模型的局限性，我们要求开发者仅将开源的代码、数据、模型以及由该项目生成的衍生物仅用于研究目的，禁止用于商业用途，以及其他可能对社会带来危害的用途。 ---- ️ 参考链接： EduChat - 探索了针对教育垂直领域的对话大模型相关项目研发 EduChat 模型 - 在 educhat-base-002-7b 基础上，使用构建的教育领域多技能数据微调后得到
2K30编辑于 2023-07-10 - 来自专栏新智元
GPT-4V开源平替！清华浙大领衔，LLaVA、CogAgent等开源视觉模型大爆发
新智元报道 编辑：Aeneas 【新智元导读】GPT-4V的开源替代方案来了！极低成本，性能却类似，清华、浙大等中国顶尖学府，为我们提供了性能优异的GPT-4V开源平替。 国外的一位开发者Youssef Hosni为大家奉上了三种GPT-4V的开源替代方案，可访问性绝对可以保障。 三种开源视觉语言模型LLaVa、CogAgent和BakLLaVA，在视觉处理领域具有极大的潜力。 LLaVa LLaVA是端到端训练的多模态大模型，来自威斯康星大学麦迪逊分校、微软研究院以及哥伦比亚大学的研究人员，最初的版本在4月发布。 CogAgent CogAgent是在CogVLM基础上改进的开源视觉语言模型，来自清华的研究者。 CogAgent-18B有110亿个视觉参数，和70亿个语言参数。
1.6K10编辑于 2024-01-04 - 来自专栏数据派THU
中文对话大模型BELLE全面开源！
来源：高能AI本文约1000字，建议阅读5分钟模型调优仅使用由ChatGPT生成的数据，为中文指令提供更好的支持。 中文对话大模型开源社区迎来了一名浓眉大眼的新成员！ 但是这样的技术不应该只被掌握在一家公司手中，因此BELLE项目应运而生了，他们的初衷是为了促进中文对话大模型开源社区的发展。为此，他们在三个方面做了初步的尝试，并已经开源了他们的研究成果。 他们已经开源其中的150万数据。 模型：大模型的训练往往具有较高的成本，而一个具备初步的能力的对话模型，将大大降低使用和科研的门槛。 包括8bit, 4bit, 其中4bit版本模型checkpoint大小仅为6.9G，运行仅需8.4G显存。 总结 可以说BELLE的出现，大大促进了中文开源对话模型的发展，基于他们开源的数据和模型，更多的人可以尝试这些模型，更多的研究工作可以更快捷的展开。
1K20编辑于 2023-04-05 - 来自专栏芯智讯
Meta开源大语言模型Llama 2，结盟微软、高通对抗GPT-4？
7月19日消息，Meta今天凌晨通过其官网正式发布了首个免费商用的开源大语言模型Llama 2。同时宣布，微软成为应用 Llama 2 的首选合作伙伴。 另外，Llama-2-chat模型还接受了超过100万个人工标注训练。由于其强大的参数规模以及性能表现，被认为是最有实力挑战“GPT-4”的大模型。 Meta在新闻稿中解释称，其开源 Llama 2 的决定，是希望让企业、新创团队、研究人员能够取得更多 AI 工具，进行更多实验和尝试。 为此 Llama 2 模型已经通过红队演练，或者通过内部和外部产生对抗性提示以促进模型微调，还披露了如何评估和调整模型。 据介绍，开源的 Llama 2 将通过微软 Azure 平台提供给客户。 值得一提的是，微软此前已经与OpenAI结盟，并投资了巨额资金，已发布的多款AI产品都导入了GPT-4。此番与Meta合作，微软似乎也是不想把鸡蛋放在一个篮子里。 编辑：芯智讯-林子
28020编辑于 2023-08-09 - 来自专栏陈冠男的游戏人生
使用ollama本地部署开源大模型
chatGPT 刚出来没多久的时候，openai 时不时的限制使用频率，当时我想要是能本地部署一个大模型，无限制的使用该多好哇。 后来有很多团队/公司陆陆续续在 github 开源了他们自己训练的大模型，但是部署使用的操作门槛比较高，曾经试图部署过一个，报了几个错也没时间折腾就放弃了 前几天我发现了一个叫 ollama 的项目，根据介绍 ，一条命令就能跑起来一个大模型，因此实际体验了一下，项目地址： https://github.com/ollama/ollama 先说一下使用体验，极其丝滑，完全没有报错，感觉就像是刚开始学 web 安全 ，下载甚至不需要挂代理，很舒适： 等模型下载结束后会自动进入命令行的交互模式，此时就已经部署结束了 可以在：https://ollama.com/library 找到更多的模型 但是在命令行中直接交互里很多格式解析不出来 /openai-translator/openai-translator 直接去 release 下载安装包后运行，在设置中选择本地大模型，并选择 API 模型为你已经下载好的本地模型保存即可 使用效果
3.2K20编辑于 2024-03-05 - 来自专栏睡前机器学习
为什么巨头开始开源大模型？
先说结论：商业大模型范式可能发生改变，7B大模型标配开源成为免费体验版。 最开始ChatGPT刚出来的时候，我们都以为未来NLP甚至AI的开发范式是：巨头炼丹，虾米调参。 总之，后端模型从此与散户无缘 。 后来买它开源了Llama，点开了开源大模型这条科技树，然后一发不可收拾。初代Llama其实不怎样样，但架不住开源的buf太强，巨头都瑟瑟发抖。 Llama点开的开源大模型科技树也颠覆了大模型原本应该出现的巨头炼丹、虾米调参范式，也颠覆了巨头想靠炼丹躺赢的预定路线。 ChatGPT刚出来的那段时间，国内好几家巨头都说要搞大模型，但是有两点我认为当时是恨不明朗的，第一点就是炼好了产品怎么用。这一点现在我看还似懂非懂。 第二点就是开源。 最初的想法，应该也是认为世界线会朝巨头炼丹、虾米调参收束，有了大模型，未来总会有办法卖钱。 但是，在开源大模型用爱发电的冲击下，这条世界线崩塌了。
44820编辑于 2023-09-09 - 来自专栏机器学习AI算法工程
AI大模型开源与闭源
首先我们还是对 大模型以及开源闭源进行一定的分析。 大模型是指具有大规模参数和复杂计算结构的机器学习模型。通常基于深度学习技术。 开源大模型 开源大模型近年来在人工智能领域取得了显著的进展，许多开源大模型在学术研究、工业应用和社区创新中发挥了重要作用。 以下是几个著名的闭源大模型的介绍： GPT-4（OpenAI） 简介 GPT-4 是OpenAI发布的最新一代大规模语言模型，继承了GPT-3的强大性能，但在很多方面进行了改进和增强。 开源大模型与闭源大模型，你更看好哪一方？ 回到我们的主题。评价一个AI模型“好不好”“有没有发展”，首先就躲不开“开源”和“闭源”两条发展路径。 例如，OpenAI的GPT-4通过API提供广泛的商业应用，包括自动化文档生成和客户支持等，为企业带来显著的效率提升和成本降低。 另一方面，开源大模型在商业化上面临一些挑战。
1.3K10编辑于 2024-07-04 - 来自专栏AI
开源网络安全大模型 - SecGPT
网络安全大模型是指使用大量数据和参数来训练的人工智能模型，它可以理解和生成与网络安全相关的内容，例如漏洞报告、利用代码、攻击场景等。 目前各家网络安全厂商也纷纷跟进在大模型方面的探索，但可供广大从业者研究的特有网络安全大模型屈指可数，最近，云起无垠开源了他们的网络安全大模型SecGPT，该模型基于Baichuan-13B训练，目前已接近 模型训练 修改train.py中超参数信息# 最大token长度max_position_embeddings = 2048# batch size大小batch_size = 4# 梯度累积accumulation_steps lr = 1e-4# 预训练模型地址pre_train_path = "models/Baichuan-13B-Base"# 训练数据json地址dataset_paper = "data.json"train_option 总之，网络安全与大模型的结合必将是未来发展的重要趋势之一，我们也期待能看到更多的安全大模型和数据集被开源出来，更多安全相关的创新应用面向市场。
1.5K10编辑于 2024-08-27 - 来自专栏有文化的技术人
大模型微调开源框架推荐
内置 DeepSpeed、FSDP 分布式训练支持 4. 「GitHub」: https://github.com/unslothai/unsloth 「特点」: 训练速度提升 2-5 倍，显存减少 80% 支持 LLaMA、Mistral、Gemma 等模型 DeepSpeed 「GitHub」: https://github.com/microsoft/DeepSpeed 「特点」: 微软出品，专注大规模分布式训练 ZeRO 优化器大幅降低显存需求 适合超大模型训练 Swift (ModelScope) 「GitHub」: https://github.com/modelscope/swift 「特点」: 阿里达摩院出品 对国产模型（Qwen、ChatGLM）支持好 快速选择建议 场景 推荐框架 新手入门、零代码 LLaMA-Factory Hugging Face 生态 PEFT 显存有限、追求速度 Unsloth 超大规模分布式训练 DeepSpeed 国产模型微调
34410编辑于 2026-04-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号