首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏Soul Joy Hub

    模型AIGC系列课程 3-2】国产开源模型:ChatGLM

    GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写,是一种通用的语言模型预训练框架。 这个图示说明了GLM预训练的过程,具体解释如下: a) 原始文本:给定一个原始文本,例如[x1, x2, x3, x4, x5, x6]。 在这个例子中,我们随机选择了两个连续的词片段[x3]和[x5, x6]作为样本。 b) 替换和洗牌:在Part A中,我们将被选择的词片段替换为[M](表示遮盖)。 在这个例子中,我们将[x3]和[x5, x6]洗牌为[x5, x6]和[x3]。 c) 自回归生成:GLM使用自回归的方式生成Part B。 在生成过程中,模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码:为了限制模型的注意力范围,

    88620编辑于 2023-08-28
  • 来自专栏AI科技评论

    别再说国产模型技术突破要靠 Llama 3 开源

    Meta还透露,Llama 3的 400B+ 模型仍在训练中。 Meta 顺利地保住了它在开源模型领域的王座。 开源本身是一件致力于打破技术垄断、有利于促进整个行业不断进步、带来创新的事情,但每次Meta一开源,从Llama 到 Llama 3国产模型都要经历一次来自国人的嘲讽和贬低。 但其实,经过一年的辛苦磨练和积累,如 Llama 这样的国外模型一直很强的同时,国产模型也可以后来者居上,变得很强,甚至在 Llama 3 发布之前,国产模型就已经进化到 Llama 3 的效果, 根据 SuperBench 标准测试结果可以发现,国产模型早已有能强过 Llama 3模型国产模型 GLM-4 和文心一言早就达到了 Llama 3 的实力,属于全球模型竞争第一梯队。 同样,经过过去一年的奋力追赶和学习,如GLM-4、文心一言这样的国产模型打败了最强开源模型Llama 3,跻身全球竞争第一梯队,为只会跟随、模仿的国产技术正名。

    87510编辑于 2024-05-06
  • 来自专栏开源项目搭建

    简单3步部署本地国产模型DeepSeek模型

    简单3步部署本地国产模型DeepSeek模型DeepSeek是最近非常火的开源模型国产模型 DeepSeek 凭借其优异的性能和对硬件资源的友好性,受到了众多开发者的关注。 本文将介绍如何通过简单 3 步在本地部署 DeepSeek 模型,让你能够轻松体验这一强大的 AI 工具。 deepseek-r1的哪个版本的模型? 什么是OllamaOllama是一个开源项目,旨在让用户能够轻松地在其本地计算机上运行大型语言模型(LLM),是一个开源的大型语言模型服务。 它支持各种LLM,包括Llama 3、Mistral和Gemma。提供了类似OpenAI的API接口和聊天界面,可以非常方便地部署最新版本的GPT模型并通过接口使用。

    6.8K33编辑于 2025-02-06
  • 来自专栏大龄程序员的人工智能之路

    国产系统上部署开源模型

    Ollama 模型框架 Ollama 是一个新兴的模型框架,旨在为机器学习和人工智能研究提供高效、灵活和可扩展的解决方案。 启动一个模型非常简单,比如我想运行 gemma2 27b 参数的模型: (base) alex@alex-deepin-os:~$ ollama run gemma2:27b pulling manifest 我使用的是 Google 的 Gemma2 9b 模型,速度还挺快。 如果你想尝试其它的模型,可以去 ollama 的模型仓库看看。 https://ollama.com/library 里面收录了很多大模型,比如 llama3、qwen2、deepseek-coder-v2 等。 小结 写到这里,是不是感觉到在 Deepin 系统上部署模型太简单了?

    95010编辑于 2024-07-18
  • 国产模型选型指南:避开这3个坑

    国产模型选型指南:避开这3个坑 这篇文章写给正在做AI应用落地、面临国产模型选型困惑的你。我见过太多团队,花了几周时间测试各种模型,最后发现成本超预算、效果不匹配,甚至被API计费坑了。 今天,我们直接切入核心问题:如何高效选对模型,避免走弯路。 为什么国产模型选型比想象的难? 我记得几年前,大家提到模型就是GPT-4。 但现在,国产模型生态已经爆发了——通义千问API、文心一言API、豆包模型API、讯飞星火API,还有DeepSeek-V3、Qwen-Max等,每个模型都有自己的强项和短板。 我遇到过一个客户,他们在智能写作API场景下,用了某国产模型,月消耗超过10万token,但后来切换到DeepSeek-V3,成本降了一半。 还有个小技巧:利用模型网关来缓存重复查询。 总结:选国产模型的三个原则 1. 按场景匹配,别跟风。通义千问API适合中文长文本,DeepSeek-V3适合代码,豆包模型适合多模态。2. 先测试再付费。

    11700编辑于 2026-07-04
  • 来自专栏机器之心

    Llama2开源后,国产模型在卷什么?

    这意味着,作为开源模型的代表,Llama2 第一次进入了大范围的商业考量决策之中,开发者们拥有了一个免费、开源且足够商用的模型底座。 开源与闭源模型的比赛从此刻开始正式打响。面对开源模型更低的成本、更快的迭代速度、更高的定制化上限,闭源模型的壁垒会由什么构建,成为一个问题。 在 Llama2 推出之前,开源社区最强的模型 Llama 在商用许可上具有限制,而 OpenAI 的接口在国内面临着不确定的监管风险,因此相比于两者,国产模型在市场竞争中的优势通常是「可商用」、「 Llama2 的释出削弱了国产模型创业公司在市场上的竞争力。「从许多公开的测试集上,我们可以看到,国内大部分的模型公司的水平距离 GPT-3.5 仍然有距离」,一位 AI 方向资深投资人称。 全球来看 GPT 的市场份额应当是最大的,而国内目前 Llama2 能够受影响的市场仅仅只是担心 GPT 受监管影响、且国产模型都不适用的这部分客户,是一个「暂存市场」。

    76560编辑于 2023-09-08
  • GLM-5.2 开源国产模型这几年走了多远?

    近期,智谱开源GLM-5.2的消息已经刷屏了! 说起来有点意思。前几年提到AI编程的第一梯队,大家默认就是Claude和OpenAI,偶尔加上谷歌的Gemini。 国产模型更多出现在国产替代的讨论里,而不是全球顶尖的榜单上。但GLM-5.2这次的表现,让这个格局出现了松动。 在Claude Fable 5之下,GLM-5.2拿下了开源界AI编程第一名,全球第二。 有个实测:让GLM-5.2处理一个88万token的Appsmith开源项目,覆盖Web前端、后端、插件、部署和权限模块。他全程在旁边观察,没有干预。 这个19分的跃升不是线性的,而是代表模型处理终端任务的能力从能跑变成了能打! 结语 写这篇文章的时候,我一直在想一个问题:国产模型这几年走了多远? 早期的国产模型,更多是在跟随和追赶。 开源、长上下文、面向真实工程任务的Coding Agent底座——这条路线的价值,不只在于国产模型也能写代码,更在于它给开发者和企业提供了一个闭源体系之外的选择。

    60200编辑于 2026-06-24
  • 来自专栏量子位

    国产模型已无公司可投

    再看开源领域,以LLaMA-2为代表,整体实力也在迅速增强。 纵向对比,相继奔赴模型创业的公司太多了。据不完全统计,包含通用与垂直、开源与闭源不同类型在内,国产模型数量已超百家。 如上文所言,资本集中押注,狩猎目标集中在3-5个选手身上,通往成功的机会被极限压缩。 马太效应的加剧,让有望突围的创业公司数量更进一步缩小,但纵观市场上叫得上名字的公司,要价都扶摇直上。 仍持观望态度 投资人们举着棋子不敢轻易尝试,还没买到入场券的,有的在观望,会不会在开源领域出现比LlaMA-2更厉害的模型,让大家都没得玩? 还有的在等应用层的机会。 8个月前,ChatGPT一石激起千层浪;6个月前,国内的模型赛道开始备受瞩目,热度逐渐如日中天。 到现在,想走模型路线通向AGI的人依旧络绎不绝。 大火热炒半年,模型身下燃烧的大火开始转向小火模式,在年初“宣布入局”和年底“模型/产品问世”之间的这段空隙,种种迹象表明,模型创投界渐渐迎来了第一波冷静期。

    44710编辑于 2023-09-08
  • 来自专栏新智元

    国产模型开源封神,谷歌Genie3紧急开源?蚂蚁AGI撕开世界模型闭源防线

    新智元报道 编辑:Aeneas 【新智元导读】世界模型迎来高光时刻:谷歌还在闭源,中国团队已经把SOTA级世界模型全面开源了,LingBot-World正面硬刚Genie 3,彻底打破了全球垄断 蚂蚁灵波科技发布的LingBot-World,刚刚成为开源SOTA级的世界模型。 可以说,它已经全面对标了谷歌Genie 3,甚至在一些性能指标上超越了Genie 3! 因此如果学术界和初创公司想训练一个高质量世界模型,门槛是极高的。 Genie 3仍处于闭源状态 但蚂蚁灵波的这次开源,直接就让大家拥有了SOTA级的物理仿真底座,根本无需从零造轮子。 而团队创新背后的三支柱,就是具备层级语义的可扩展数据引擎、多阶段的进化训练流程,以及具身人工智能的多功能应用。 蚂蚁灵波为何同时布局VLA和世界模型 巧的是,就在前两天,蚂蚁灵波刚刚发布了空间感知和VLA基座模型。全新开源的LingBot-VLA,刷新了具身智能开源SOTA。

    34110编辑于 2026-02-03
  • 来自专栏算法一只狗

    国产模型如何追上OpenAI

    目前看,算力其实不是一个比较大的瓶颈,数据的有效性才是模型能力提升的关键。比如最近的deepseek V3一发布,大家就发现其实能够用很低的成本就能够训练出一个媲美GPT-4o的模型。 用训练一个模型所花费的钱来说,训练一个DeepSeek V3只需要花费557.6万美元,相比之下,一个简单的7B Llama 3模型则需要花费76万美元。 目前看,算力其实不是一个比较大的瓶颈,数据的有效性才是模型能力提升的关键。比如最近的deepseek V3一发布,大家就发现其实能够用很低的成本就能够训练出一个媲美GPT-4o的模型。 用训练一个模型所花费的钱来说,训练一个DeepSeek V3只需要花费557.6万美元,相比之下,一个简单的7B Llama 3模型则需要花费76万美元。 比起动辄几百亿人民币都训练不出来一个好用的模型,DeepSeek V3的训练简直颠覆了大家的想象。

    43420编辑于 2025-01-06
  • 来自专栏数据小冰

    Claude Code接入国产模型

    前言 本文介绍在macOS环境中搭建Claude Code接入国产模型的详细步骤。 配置MiniMax国产模型 访问MINIMAX官网,注册并登录账号,申请API key。 登录Claude Code 配置上述连接地址后,在终端执行 claude login,即可成功连接上模型。 通过 claude -p 指令进行问答快速验证效果,参数-p表示不要进入交互式会话。 让它简要介绍下模型,测试效果如下。

    2.9K10编辑于 2026-03-04
  • 来自专栏学习

    开源模型与闭源模型

    一、开源模型 开源模型是指开发者将模型的代码和训练数据公开,使得任何人都可以访问、修改和使用这些资源。 3.教育和学习资源: 开源模型为学生和研究人员提供了宝贵的学习资源。他们可以通过实践来理解模型的内部工作原理,进行实验和探索,从而推动教育和研究的发展。 二、闭源模型 闭源模型是指模型的代码和数据不对外公开,通常由商业公司开发和维护。代表性的闭源模型包括OpenAI的GPT-3和Google的BERT。 三、开源模型与闭源模型的对比 1.透明性与可控性: 开源模型的透明性更高,任何人都可以查看和验证其代码和数据,确保模型的行为符合预期。这对于学术研究和技术验证非常重要。 3.资源共享与独占优势: 开源模型在资源共享方面表现突出,任何人都可以利用这些开源资源进行学习和研究,促进技术的普及和应用。

    2K10编辑于 2024-10-09
  • 来自专栏睡前机器学习

    开源模型到底开源什么?

    语言模型的“开源”完全不是这么一回事。先别管OpenAI现在名叫钮钴禄氏·CloseAI,就算哪天良心发现,真的要找回自己做一个名副其实的OpenAI,洗心革面把GPT-4给开源了。 那么,现在很多研究者在呼吁的开源,到底是要开源什么呢?开源模型,具体来说,是开源训练好的模型参数。模型参数拿到手,基本上就能完整复现能力了。 前面说过,模型这玩意距离能力复现就一步之遥,有很多人爱开源模型,也有很多人不爱开源模型,原因和上面差不多,还有一种是大公司机构才敢用,官方辞令很多,譬如“出于社会责任考虑”,或者“安全伦理存在巨大风险 这里为咱们的中文开源语言模型打个Call吧,能讲中文还开源语言模型真的不多,清华放出来的ChatGLM-6B应该是佼佼者,而是真·单卡就能运行。这里说的是消费级显卡。 最后就是开源数据集了,这项工作很重要,但也很容易被圈外忽视。现在中文语言模型缺的东西很多,抱怨的也很多,还有一票人天天平替这个平替那个,实在不知道怎么想。

    1.7K20编辑于 2023-09-09
  • 来自专栏AI

    最强开源模型Llama 3发布!

    最强开源模型Llama 3发布!我们看下重点: 今天,我们介绍Meta Llama 3,这是我们最先进的开源大型语言模型的下一代。 我们相信这些是同类中最优秀的开源模型。为了支持我们长期以来的开放式方法,我们将Llama 3交到了社区的手中。 我们对Llama 3的目标 通过Llama 3,我们致力于构建与当今最优秀的专有模型相媲美的最佳开源模型。 我们希望解决开发者的反馈,提高Llama 3的整体实用性,同时继续在负责任使用和部署LLM方面发挥领导作用。我们秉持着开源精神,提前释放模型,让社区在其开发过程中获得访问权。 我们的训练数据集比Llama 2使用的七倍,其中包含四倍的代码。为了准备即将到来的多语言用例,超过5%的Llama 3预训练数据集包含覆盖30多种语言的高质量非英语数据。

    1.3K10编辑于 2024-04-25
  • 来自专栏AI科技评论

    通义千问登顶 Hugging Face 榜首,国产开源模型赶超 Llama2

    国产开源模型,有戏! 这是一个激动人心的时刻,从Llama2开源可商用,迄今5个月,国产模型开源终于有一个能追上Llama2,模型开源领域终于不再是Llama2独领风骚的时代,国产模型开源也由此进入新时代。 国产开源模型势头正猛。 由于各大模型厂商选择了“小参数用来开源参数拿来商业化”的策略,导致国内模型开源一直停留在14B,所以国产开源模型看似越来越卷,实则中国大模型市场还没有出现足以对标Llama-2-70B的优质开源模型 不仅如此,国外一些网友也对Qwen-72B等国产模型表达了惊叹: 3 后记 通义千问还开源了18亿参数模型Qwen-1.8B和音频模型Qwen-Audio,至此,通义千问共开源了18亿、70亿、140

    2.7K10编辑于 2023-12-12
  • 来自专栏机器学习入门

    【AI模型】LLM主流开源模型介绍

    学习目标 了解LLM主流开源模型. 掌握ChatGLM、LLaMA、Bloom等基础模型的原理 LLM主流模型类别 随着ChatGPT迅速火爆,引发了模型的时代变革,国内外各大公司也快速跟进生成式AI市场,近百款模型发布及应用 目前,市面上已经开源了各种类型的语言模型,本章节我们主要介绍其中的三类: ChatGLM-6B:衍生的模型(wenda、ChatSQL等) LLaMA:衍生的模型(Alpaca、Vicuna 、BELLE、Phoenix、Chimera等) Bloom:衍生的模型(Bloomz、BELLE、Phoenix等) ChatGLM-6B模型 ChatGLM-6B 是清华大学提出的一个开源 小结 本小节主要介绍了LLM主流的开源模型,对不同模型架构、训练目标、优缺点进行了分析和总结。

    1.4K10编辑于 2024-09-24
  • 来自专栏技术人生黄勇

    国产开源模型 GLM-5.2 发布,能力又有突破还能免费用

    周末,卡着国内外都没有模型发布,已经发布又被禁止使用的空隙,智谱AI正式发布了GLM-5.2模型。 想想3年前刚开始学习人工智能还是从GLM2开始:ChatGLM2-6B 初体验。 那个时候GLM是国产之光,没有之一。 感慨当年好多模型不见了,不仅仅文章里提到的复旦的Moss,百川模型也放弃了通用基座模型的研发,转向医疗专用(估计将来也会被通用模型+数据工程吞噬)。 在代码能力方面,GLM-5.2在私有评测CodeV3中综合排名全球第三,这是国产模型首次在代码能力上与国际顶尖模型拉开代差。 你现在主力用哪个国产模型呢?欢迎评论区留言。

    43400编辑于 2026-06-23
  • 来自专栏睡前机器学习

    国产模型井喷的原因及收场

    这俩月我一直在想俩问题,一个是为什么这俩月突然多了这么多国产LLM,另一个是这么多国产LLM有什么区别。 这俩问题想的不少,说得好的不多,姑且说说。 一些以前分明不是搞AI的企业,居然这波也说要推自己的模型。 事实啪啪打脸。这脸打得怎么说呢?痛快。 当然了,大家第一个问题就是,为什么LLM的门槛忽然就降低了呢? 还没有最终定论,不过,我想主要是两个原因:开源模型开源数据。 LLM的门槛主要是就是人工智能的三要素:算法、算力和数据。 算法本身算不上门槛。 对于宣布搞自家LLM的企业来说,最不差的恐怕就是钱了。何况现在还有一堆LLM的预训练模型排着队的开源呢。 最后是数据。数据很容易被人忽略,但我从一开始就认为,数据才是真正的隐性门槛。 不过,OpenAI解决了鸡的问题,ChatGPT标注性能甚至超过了人类,再加上开源社区孜孜不倦地用爱发电,所以,问题现在依旧是问题,但已经没那么是问题。 最后说说国产LLM的区别,其实这才是关键。

    47120编辑于 2023-09-09
  • 国产模型选型,别再盲目跟风了

    国产模型选型,别再盲目跟风了 最近半年,我经常被同行问到同一个问题:国产模型到底怎么选? 后来我花了整整两周时间,把市面上的主流国产模型API全测了一遍,才明白选型这事,真不能光看名气。 国产模型API到底有哪些坑? 你可能会想,国产模型API不就是调个接口吗,能有多复杂?错! 比如DeepSeek-V3,价格适中,但推理精度在国产模型里排前三,尤其适合做RAG服务。 具体操作步骤是这样的:第一步,列出你的应用场景——是对话、写作还是客服? 国产模型vs国外模型,谁更香? 你可能还在纠结要不要用GPT-4o API或Claude API。我的看法是,看场景。 如果做英文内容生成,国外模型确实强;但做中文智能客服API,国产模型完胜。比如我测过,通义千问API对中文长文本的理解准确率比GPT-4o高15%,价格还便宜一半。

    8010编辑于 2026-07-05
  • 来自专栏腾讯开源的专栏

    腾讯混元宣布语言模型3D模型正式开源

    腾讯混元模型正在加快开源步伐‍ 11月5日,腾讯混元宣布最新的MoE模型“混元Large“以及混元3D生成大模型“ Hunyuan3D-1.0”正式开源,支持企业及开发者精调、部署等不同场景的使用需求 本次开源是腾讯混元继文生图模型后持续开放的一举措。 其中,腾讯混元Large是目前开源领域参数规模最大、效果最好的MoE模型,而腾讯混元3D生成大模型则是业界首个同时支持文字、图像生成3D的开源模型。 业界首个同时支持文字、图像生成3D的开源模型 腾讯混元3D生成大模型首批开源模型包含轻量版和标准版,轻量版仅需10s即可生成高质量3D资产,目前已在技术社区公开发布,包含模型权重、推理代码、模型算法等完整模型 随着自研模型技术强大的和应用实践经验的丰富,开源已经成为腾讯混元模型的一个战略选择,未来,腾讯混元也将继续带来更多模态、更多尺寸的开源模型,将更多经过腾讯业务场景打磨和检验的模型开源,促进模型技术进步和行业生态繁荣

    2K20编辑于 2025-02-05
领券