- 综合排序
- 最热优先
- 最新优先
- 来自专栏大龄程序员的人工智能之路
在国产系统上部署开源大模型
本地部署大模型的方法很多，一般选择 docker 容器部署，或者使用本地服务框架。这里介绍使用本地服务框架 Ollama 部署。 Ollama 大模型框架 Ollama 是一个新兴的大模型框架，旨在为机器学习和人工智能研究提供高效、灵活和可扩展的解决方案。 启动一个大模型非常简单，比如我想运行 gemma2 27b 参数的大模型： (base) alex@alex-deepin-os:~$ ollama run gemma2:27b pulling manifest 我使用的是 Google 的 Gemma2 9b 大模型，速度还挺快。 如果你想尝试其它的大模型，可以去 ollama 的模型仓库看看。 小结 写到这里，是不是感觉到在 Deepin 系统上部署大模型太简单了？
92810编辑于 2024-07-18 - 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
86420编辑于 2023-08-28 - 来自专栏机器之心
Llama2开源后，国产大模型在卷什么？
这意味着，作为开源大模型的代表，Llama2 第一次进入了大范围的商业考量决策之中，开发者们拥有了一个免费、开源且足够商用的大模型底座。 开源与闭源大模型的比赛从此刻开始正式打响。面对开源大模型更低的成本、更快的迭代速度、更高的定制化上限，闭源大模型的壁垒会由什么构建，成为一个问题。 在 Llama2 推出之前，开源社区最强的大模型 Llama 在商用许可上具有限制，而 OpenAI 的接口在国内面临着不确定的监管风险，因此相比于两者，国产大模型在市场竞争中的优势通常是「可商用」、「 Llama2 的释出削弱了国产大模型创业公司在市场上的竞争力。「从许多公开的测试集上，我们可以看到，国内大部分的大模型公司的水平距离 GPT-3.5 仍然有距离」，一位 AI 方向资深投资人称。 全球来看 GPT 的市场份额应当是最大的，而国内目前 Llama2 能够受影响的市场仅仅只是担心 GPT 受监管影响、且国产大模型都不适用的这部分客户，是一个「暂存市场」。
74960编辑于 2023-09-08 - 来自专栏AI科技评论
别再说国产大模型技术突破要靠 Llama 3 开源了
Meta还透露，Llama 3的 400B+ 模型仍在训练中。 Meta 顺利地保住了它在开源大模型领域的王座。 开源本身是一件致力于打破技术垄断、有利于促进整个行业不断进步、带来创新的事情，但每次Meta一开源，从Llama 到 Llama 3，国产大模型都要经历一次来自国人的嘲讽和贬低。 根据 SuperBench 标准测试结果可以发现，国产大模型早已有能强过 Llama 3 的大模型，国产大模型 GLM-4 和文心一言早就达到了 Llama 3 的实力，属于全球大模型竞争第一梯队。 同样，经过过去一年的奋力追赶和学习，如GLM-4、文心一言这样的国产大模型打败了最强开源模型Llama 3，跻身全球竞争第一梯队，为只会跟随、模仿的国产技术正名。 过去一直强调要睁开眼看世界，学习国外，但大模型时代，看看国产大模型过去一年的变化，我们更多缺少的是正视国产技术的进步。
86010编辑于 2024-05-06 - 来自专栏量子位
国产大模型已无公司可投
再看开源领域，以LLaMA-2为代表，整体实力也在迅速增强。 纵向对比，相继奔赴大模型创业的公司太多了。据不完全统计，包含通用与垂直、开源与闭源不同类型在内，国产大模型数量已超百家。 毕竟拉起队伍后，大模型商业模式不明确，盈利点不清晰，许多创业项目还停留在概念验证阶段。 到训出大模型、拿出真产品，甚至赶上GPT-3.5，赛道上的国内选手们要走的路还挺长。 仍持观望态度 投资人们举着棋子不敢轻易尝试，还没买到入场券的，有的在观望，会不会在开源领域出现比LlaMA-2更厉害的模型，让大家都没得玩？ 还有的在等应用层的机会。 8个月前，ChatGPT一石激起千层浪；6个月前，国内的大模型赛道开始备受瞩目，热度逐渐如日中天。 到现在，想走大模型路线通向AGI的人依旧络绎不绝。 大火热炒半年，大模型身下燃烧的大火开始转向小火模式，在年初“宣布入局”和年底“模型/产品问世”之间的这段空隙，种种迹象表明，大模型创投界渐渐迎来了第一波冷静期。
43110编辑于 2023-09-08 - 来自专栏数据小冰
Claude Code接入国产大模型
前言 本文介绍在macOS环境中搭建Claude Code接入国产大模型的详细步骤。 配置MiniMax国产大模型 访问MINIMAX官网，注册并登录账号，申请API key。 登录Claude Code 配置上述连接地址后，在终端执行 claude login，即可成功连接上大模型。 通过 claude -p 指令进行问答快速验证效果，参数-p表示不要进入交互式会话。 让它简要介绍下大模型，测试效果如下。
2.8K10编辑于 2026-03-04 - 来自专栏算法一只狗
国产大模型如何追上OpenAI
其高效的训练方法和较低的计算成本，可以给其他没有资源的公司借鉴一下，也验证了大规模的GPU集群不是训练大模型的必要条件。数据集才是关键？之前就曾经有爆料称，OpenAI的下一代大模型效果不及预期。 这可能就说明，为什么迟迟不出来GPT-5了，因为提升幅度有限，所以把GPT-5改名成立了Orion目前最主流的说法认为，大模型的scaling raw正在慢慢失效，也就是目前的大模型尽管有着大量的数据集进行训练 主要是现在大模型所需要的大规模数据集已经耗尽了，高质量的数据集其实没有多少。OpenAI就为此创建了一个“基础团队”，主要研究怎么合成高质量的数据，提供给大模型进行学习。 而如果能够源源不断的提供给大模型一个高质量的数据集，那么确实有可能会进一步提升要生成高质量的数据，目前常用的方法是通过一个在相关内容上进行过预训练的大语言模型生成合成数据。 写在最后其实国内的大模型能够追上来，算力落后不是一个关键，更为关键的原因在于能否获取到有用的数据集，来进一步提升模型的效果。
41720编辑于 2025-01-06 - 来自专栏开源项目搭建
简单3步部署本地国产大模型DeepSeek大模型
简单3步部署本地国产大模型DeepSeek大模型DeepSeek是最近非常火的开源大模型，国产大模型 DeepSeek 凭借其优异的性能和对硬件资源的友好性，受到了众多开发者的关注。 本文将介绍如何通过简单 3 步在本地部署 DeepSeek 大模型，让你能够轻松体验这一强大的 AI 工具。 deepseek-r1的哪个版本的大模型？ 什么是OllamaOllama是一个开源项目，旨在让用户能够轻松地在其本地计算机上运行大型语言模型（LLM），是一个开源的大型语言模型服务。 理论上就安装完成了，可以只在命令行中使用大模型了。修改路径文件保存路径可以不用改，如果C盘空间不够用，建议修改。
6.8K33编辑于 2025-02-06 - 来自专栏学习
开源大模型与闭源大模型
在人工智能（AI）和机器学习（ML）的快速发展过程中，大模型（Large Models）已经成为推动技术进步的重要力量。当前，业界存在两种主要的大模型开发模式：开源大模型和闭源大模型。 一、开源大模型 开源大模型是指开发者将模型的代码和训练数据公开，使得任何人都可以访问、修改和使用这些资源。 三、开源大模型与闭源大模型的对比 1.透明性与可控性： 开源大模型的透明性更高，任何人都可以查看和验证其代码和数据，确保模型的行为符合预期。这对于学术研究和技术验证非常重要。 3.资源共享与独占优势： 开源大模型在资源共享方面表现突出，任何人都可以利用这些开源资源进行学习和研究，促进技术的普及和应用。 闭源大模型通过控制代码和数据的访问，能够更好地保护用户隐私和数据安全，降低被恶意利用的风险。 五、总结 开源大模型和闭源大模型各有优缺点，适合不同的应用场景和需求。
1.9K10编辑于 2024-10-09 - 来自专栏睡前机器学习
开源大模型到底开源什么？
但大语言模型的“开源”完全不是这么一回事。先别管OpenAI现在名叫钮钴禄氏·CloseAI，就算哪天良心发现，真的要找回自己做一个名副其实的OpenAI，洗心革面把GPT-4给开源了。 那么，现在很多研究者在呼吁的开源，到底是要开源什么呢？开源模型，具体来说，是开源训练好的模型参数。模型参数拿到手，基本上就能完整复现能力了。 前面说过，模型这玩意距离能力复现就一步之遥，有很多人爱开源模型，也有很多人不爱开源模型，原因和上面差不多，还有一种是大公司大机构才敢用，官方辞令很多，譬如“出于社会责任考虑”，或者“安全伦理存在巨大风险 这里为咱们的中文开源大语言模型打个Call吧，能讲中文还开源的大语言模型真的不多，清华放出来的ChatGLM-6B应该是佼佼者，而是真·单卡就能运行。这里说的是消费级显卡。 最后就是开源数据集了，这项工作很重要，但也很容易被圈外忽视。现在中文大语言模型缺的东西很多，抱怨的也很多，还有一票人天天平替这个平替那个，实在不知道怎么想。
1.7K20编辑于 2023-09-09 - 来自专栏机器学习入门
【AI大模型】LLM主流开源大模型介绍
学习目标 了解LLM主流开源大模型. 掌握ChatGLM、LLaMA、Bloom等基础大模型的原理 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用 目前，市面上已经开源了各种类型的大语言模型，本章节我们主要介绍其中的三大类： ChatGLM-6B：衍生的大模型（wenda、ChatSQL等） LLaMA：衍生的大模型（Alpaca、Vicuna 、BELLE、Phoenix、Chimera等） Bloom：衍生的大模型（Bloomz、BELLE、Phoenix等） ChatGLM-6B模型 ChatGLM-6B 是清华大学提出的一个开源 小结 本小节主要介绍了LLM主流的开源大模型，对不同模型架构、训练目标、优缺点进行了分析和总结。
1.4K10编辑于 2024-09-24 - 来自专栏AI科技评论
通义千问登顶 Hugging Face 榜首，国产开源大模型赶超 Llama2
国产开源大模型，有戏！ 这是一个激动人心的时刻，从Llama2开源可商用，迄今5个月，国产大模型开源终于有一个能追上Llama2，大模型开源领域终于不再是Llama2独领风骚的时代，国产大模型开源也由此进入新时代。 国产开源大模型势头正猛。 由于各大模型厂商选择了“小参数用来开源，大参数拿来商业化”的策略，导致国内大模型开源一直停留在14B，所以国产开源大模型看似越来越卷，实则中国大模型市场还没有出现足以对标Llama-2-70B的优质开源模型 不仅如此，国外一些网友也对Qwen-72B等国产大模型表达了惊叹： 3 后记 通义千问还开源了18亿参数模型Qwen-1.8B和音频大模型Qwen-Audio，至此，通义千问共开源了18亿、70亿、140
2.7K10编辑于 2023-12-12 - 来自专栏技术人生黄勇
国产开源大模型 GLM-5.2 发布，能力又有突破还能免费用
周末，卡着国内外都没有大模型发布，已经发布又被禁止使用的空隙，智谱AI正式发布了GLM-5.2大模型。 那个时候GLM是国产之光，没有之一。 这短短的三年过去，大模型的迭代经历了百花齐放，到现在各家争雄的模式，只剩下有资金又有技术，实力雄厚的玩家了。 感慨当年好多模型不见了，不仅仅文章里提到的复旦的Moss，百川大模型也放弃了通用基座大模型的研发，转向医疗专用（估计将来也会被通用大模型+数据工程吞噬）。 在代码能力方面，GLM-5.2在私有评测CodeV3中综合排名全球第三，这是国产模型首次在代码能力上与国际顶尖模型拉开代差。 你现在主力用哪个国产模型呢？欢迎评论区留言。
1900编辑于 2026-06-23 - 来自专栏睡前机器学习
国产大模型井喷的原因及收场
这俩月我一直在想俩问题，一个是为什么这俩月突然多了这么多国产LLM，另一个是这么多国产LLM有什么区别。 这俩问题想的不少，说得好的不多，姑且说说。 一些以前分明不是搞AI的企业，居然这波也说要推自己的大模型。 事实啪啪打脸。这脸打得怎么说呢？痛快。 当然了，大家第一个问题就是，为什么LLM的门槛忽然就降低了呢？ 还没有最终定论，不过，我想主要是两个原因：开源模型和开源数据。 LLM的门槛主要是就是人工智能的三要素：算法、算力和数据。 算法本身算不上门槛。 对于宣布搞自家LLM的大企业来说，最不差的恐怕就是钱了。何况现在还有一堆LLM的预训练模型排着队的开源呢。 最后是数据。数据很容易被人忽略，但我从一开始就认为，数据才是真正的隐性门槛。 不过，OpenAI解决了鸡的问题，ChatGPT标注性能甚至超过了人类，再加上开源社区孜孜不倦地用爱发电，所以，问题现在依旧是问题，但已经没那么是问题。 最后说说国产LLM的区别，其实这才是关键。
45420编辑于 2023-09-09 - 来自专栏技术趋势
google开源大模型-gemini
官网：https://deepmind.google/technologies/gemini/#introduction 简介 Gemini是谷歌公司发布的人工智能大模型，能够在从数据中心到移动设备等不同平台上运行 Gemini包括一套三种不同规模的模型：Gemini Ultra是最大、功能最强大的类别，被定位为GPT-4的竞争对手；Gemini Pro是一款中端型号，能够击败GPT-3.5，可扩展多种任务；Gemini “双子座”Ultra版本是首个在“大规模多任务语言理解”（MMLU）领域超越人类专家的模型。---百度百科 https://baike.baidu.com/item/Gemini/63729669? 晋朝分西晋和东晋两大时期，共历约150年。晋朝时期，中国北方游牧民族势力强大，屡屡入侵，导致西晋灭亡，东晋偏安南方。 随着未来大模型的普及我们的工作肯定有一部分会通过AI来提高效率，所以可以提升了解并实践
2.6K10编辑于 2024-01-15 - 来自专栏AIGC新知
继国产版sora可灵AI之后，快手可图大模型Kolors全面开源
快手在世界人工智能大会（WAIC）上宣布，快手旗下的文生图大模型可图（Kolors）全面开源。 Kolors是快手Kolors团队开发的基于潜在扩散的大规模文本到图像生成模型。 经过数十亿个文本图像对的训练，Kolors 在视觉质量、复杂语义准确性以及中英文字符的文本渲染方面比开源和闭源模型表现出显着优势。 可图大模型小程序目前支持双人合影、写真、AI盲盒、AI滤镜等功能，更多功能和创意等待你来检索。 以可图大模型的文生图为例： step1：输入创意提示词 step2：选择风格、尺寸，支持多种常用的规格尺寸。默认生成四张 step3：生成的图片，嘎嘎好~ 便于对比，我将它们都下载下来。 可灵火到国外了，又释放出这么绝艳的可图大模型，不知道其他大模型公司作何感想呢？
1.1K10编辑于 2024-10-08 - 来自专栏新智元
大模型只有参数和算力？这款国产大模型证明：落地为王！
这个模型体系，包含学习了足够多数据与知识的基础大模型，面向常见AI任务专门学习的任务大模型，以及引入行业特色数据和知识的行业大模型。 基础大模型具有学习的数据、知识量大、参数规模大特点，通用性最高。 开放生态促创新 在生态系统搭建上，文心大模型共创共享飞桨生态，同时为促进大模型惠及最广泛的行业与人群，新发布基于文心大模型的创意社区——「旸谷」大模型创意与探索社区。 相信依托文心大模型在开放生态上的持续发力，百度AI生态建设无论是在深度和广度上都将迈上了新的台阶。 国产模型配国产架构，一个字：香 有大模型，也必然会有相应的训练框架。 而文心模型的背后，就是百度自主研发，国内首个开源开放、功能丰富的产业级深度学习平台「飞桨」了。 文心大模型的训练、推理都依托深度学习平台的支撑，同时，大模型作为飞桨平台中产业级模型库的重要一员，成为了飞桨平台支持AI创新必不可少的能力。 说回到模型上来，大模型可谓是成也「大」，难也「大」。
2.2K20编辑于 2022-05-30 - 来自专栏Java面试教程
免费注册目前最好用的国产大模型
科大讯飞的星星之火 5月6日，科大讯飞发布了对标GPT的产品 “星火认知大模型” 所谓认知，就像一个巨型百科全书 无论向它输入什么 都能得到有效的，甚至惊喜的反馈 结合科大讯飞的传统优势 在语音、语义方面具有同类产品无法比拟的优势 return curve; } } 效果挺好的 对话 问问它优势在哪 我：你和GPT相比有什么独特的地方 星火：ChatGPT是由OpenAI开发的交互式AI大模型，我是科大讯飞自主研发的认知智能大模型
74230编辑于 2023-07-08 - 来自专栏机器之心
零一万物Yi-1.5来了，国产开源大模型排行榜再次刷新
机器之心报道 机器之心编辑部 在 OpenAI 发布会的前一天，来自中国的大模型公司零一万物，让开源大模型社区活跃了起来：Yi 大模型家族新成员「Yi-1.5」模型正式开源。 其中特别要提到的是发布会现场正式亮相的千亿参数 Yi-Large 闭源大模型。Yi-Large 面世的同时即正式进军全球 SOTA 顶级大模型之首。 在中文通用大模型综合性基准 SuperCLUE 的中文语言理解排名中，Yi-Large 一跃成为国产大模型 No. 1。 中文能力方面，SuperCLUE 更新的四月基准表现中，Yi-Large 也位列国产大模型之首，Yi-Large 的综合中英双语能力皆展现了卓越的性能。 大模型从训练到服务都很昂贵，算力紧缺是赛道的集体挑战，行业应当共同避免陷入不理性的 ofo 式流血烧钱打法，让大模型能够用健康良性的 ROI 蓄能长跑。
1.4K10编辑于 2024-05-14 - 来自专栏量子位
国产语音对话大模型来了：李开复零一万物参与，中英双语多模态，开源可商用
首个中英双语的语音对话开源大模型来了！ 这几天，一篇关于语音-文本多模态大模型的论文出现在arXiv上，署名公司中出现了李开复旗下大模型公司01.ai——零一万物的名字。 用上大模型，有网友已经在想象“躺着说话就能写代码”的场景了。 这项研究来自LinkSoul.AI、北大和零一万物，目前已经开源，也可以在抱抱脸中直接试玩。 一起来看看它的效果如何。 架构上，LLaSM将当前的语音识别模型和大语言模型做了个整合。 LLaSM由三个部分构成，分别包括自动语音识别模型Whisper、模态适配器和大模型LLaMA。 这也是目前最大的中英文语音文本指令遵循数据集，不过目前还在整理中，据研究人员表示，整理完后会进行开源。 不过，论文暂时没有对比它和其他语音模型或文本模型的输出效果。 LinkSoul.AI是一家AI初创公司，之前推出过首个开源Llama 2的中文语言大模型。 作为李开复旗下的大模型公司，零一万物也在这次研究中有所贡献。
94920编辑于 2023-09-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号