- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型应用
大模型应用：算力分层治理：基于大模型算力四层匹配体系的优化方案.72
今天我们一如既往对算力刨根问底，拆解算力三层核心构成与四层匹配体系，用通俗易懂的示例，和大家一起跳出加卡误区，掌握大模型算力分层治理的核心逻辑，让每一份硬件投入都转化为实实在在的落地效率。 算力的四层匹配体系三层算力是核心骨架，而四层匹配是落地执行方案，是让三层算力发挥最大价值的全链路保障，也是解决加卡无效的核心路径。 第三步：逐层匹配（四层匹配落地）按照 “计算层 → 存储层 → 通信层 → 业务层” 的顺序，逐一进行匹配优化：计算层：确定最优数据精度、模型并行拆分方案，避免计算算力浪费；存储层：优化显存、内存、硬盘的容量与带宽 第四步：监控优化（闭环迭代）部署算力监控工具（如 Prometheus + Grafana），实时监控三层算力的利用率、四层匹配的效率；针对出现的瓶颈（如通信开销过大、显存利用率过低）进行迭代优化，形成 四、总结 结合大模型产业化落地的实操经验，算力焦虑的核心从不是硬件不够，而是认知和方法跑偏，加卡不是唯一的解决问题的途径，往往是忽视了算力的协同本质，与其盲目加卡，不如先梳理清楚计算、访存
21643编辑于 2026-04-10 Coze玩转ChatGPT-4，存算解决大模型算力
2023年3月，ChatGPT-4正式发布，ChatGPT-4具有联网搜索、图片生成、自建GPTs等多项重磅功能，在各个方面吊打其他大语言模型，然而ChatGPT-4需要收费和极大的计算需求。 本篇文章将从费用和算力两个方面出发，先介绍一种免费使用ChatGPT-4的工具——Coze，再介绍可有效解决大模型算力需求的存算架构。 二．大模型算力及存算架构上一章节介绍了一种免费使用ChatGPT-4的工具，可以解决ChatGPT-4的费用问题，下面我将简单介绍ChatGPT-4引出的大模型算力需求，并介绍一种解决方案——存算架构。 如图44所示，大模型的算力需求增长速度约为750倍/2年，而芯片算力增长速度则仅为3.1倍/2年大模型算力需求与芯片算力的不匹配已经成为当前主要矛盾。 图 44 大模型训练算力需求与芯片算力增长速度的对比[5]大模型的训练和推理不仅计算密集，而且极度依赖数据传输效率。
2.5K10编辑于 2024-05-14- 来自专栏Triciaの小世界
力扣——四数之和
请你找出并返回满足下述全部条件且不重复的四元组 [nums[a], nums[b], nums[c], nums[d]] （若两个四元组元素一一对应，则认为两个四元组重复）： 0 <= a, b, c, 四数之和的双指针解法是两层for循环nums[j] + nums[i]为确定值，依然是循环内有left和right下表作为双指针，找出nums[j] + nums[i] + nums[left] + nums 代码 var fourSum = function (nums, target) { if (nums.length < 4) return [] let n1, n2, n3, n4 nums.sort((a, b) => (a - b)) let arr = [] for (let nums.length - 1 while (left < right) { n3 = nums[left], n4
25720编辑于 2023-04-12 - 来自专栏睡前机器学习
模型，奥力给！
也许机器学习的教材们也都这么认为，介绍任何模型，总是噼里啪啦，把算法原理和怎么训练风风火火过了一遍，然后就结尾了。 “那么......训练好的模型，要怎么用呢？” 偏差达到最小化，模型就训练好了。 那回到最开始的问题，怎样使用训练好的模型呢？ 也很简单，上面看出来了，模型无非就是一个喂点什么进去，然后就会吐点什么出来的玩意。 datasets.load_boston(return_X_y=True) X_train, X_test, y_train, y_test = train_test_split(X, y) 现在我们有了四套数据 记住，Y在机器学习里，都是代表有监督学习的参考答案，是要和模型的预测值比较的。 选一套模型吧。波士顿房价数据集是明码实价的回归问题，就选择用最最最基础的线性回归模型烹调好了。 首先是声明。 现在，可以使用这个模型了。
32720编辑于 2022-04-11 - 来自专栏机器之心
蚂蚁集团开 “卷” 金融大模型，“四力和一” 解决产业真命题
一、金融大模型：屹立在万亿 Token 上的「知识力」 通用大模型缺少金融领域的专业力、知识力、语言力以及安全力，金融大模型实现落地行业是一个复杂化的系统工程，需要将「四力」形成合力。 蚂蚁金融大模型具有「四力」，知识力、语言力、专业力和安全力 所谓知识力，主要是指金融大模型的底座能力，模型规模只有足够大（通常百亿以上），才会有「涌现」现象的出现。预训练大模型则需要海量数据。 四、「四力合一」的上与下：底层支持与产业应用 强大底层算力设施为蚂蚁金融大模型提供了一个好的基础和起点。 视频：http://mpvideo.qpic.cn/0bc3s4aaaaaai4acyfp4nnsfbf6daclqaaaa.f10002.mp4? 蚂蚁探索出了一条路： 以行业大模型为认知和交互的中枢，调用领域知识和专业服务，这是一个「大模型 + 知识 + 服务」驱动的架构，为消费者和产业应用，提供「四力」的支撑。
1.1K50编辑于 2023-09-19 - 来自专栏瓜大三哥
UVM模型（四）
UVM模型（四） 1.常用到的uvm_component uvm_driver:所有的driver都要派生自uvm_driver。
1.5K90发布于 2018-02-26 - 来自专栏自然语言处理(NLP)论文速递
GPT-4又被超？Inflection新一代大模型，40%算力直逼GPT-4
又一个媲美 GPT-4 的大模型出现了？ 本周四，美国 AI 创业公司 Inflection AI 正式发布新一代大语言模型 Inflection-2.5。 据介绍，Inflection-2.5 将强大的 LLM 能力与 Inflection 标志性的「同理心微调」结合在一起，兼具高情商与高智商，可联网获取事实信息，其性能可与 GPT-4、Gemini 等领先大模型相媲美 链接：https://pi.ai/talk 值得注意的是，Inflection-2.5 实现了接近 GPT-4 的性能，而训练过程却仅使用 GPT-4 40% 的算力。 Inflection-2.5 vs GPT-4 Inflection-1 训练使用的 FLOP 约为 GPT-4 的 4%，在各种「IQ 导向」型任务中，其平均性能约为 GPT-4 水平的 72%。 目前，Inflection AI 已成为全球第四大生成式 AI 创业公司。
30610编辑于 2024-03-11 - 来自专栏石云升
波特五力模型
波特五力模型是分析企业竞争环境的一个分析模型。 根据波特的观点，每家企业都受到“直接竞争对手、顾客、供应商、潜在新进公司和替代性产品”这五个“竞争作用力”的影响。 我们用波特五力模型试着分析下实体书店竞争是否激励。 直接竞争对手：如果直接对标卖书，那么其他书店是你的直接竞争对手，如果你定位是给一个线下的安静空间，享受书店的文化氛围。 你看，在思考这个模型的时候，可以帮助我们制定相应的竞争战略，同时也帮助我们想清楚了很多细节问题。这就是工具的价值。
61510编辑于 2022-08-25 - 来自专栏大模型应用
大模型应用：庖丁解牛：QKV机制详解，大模型的注意力之眼.4
基础介绍 我们先从理论角度来解释QKV机制，QKV机制是注意力机制的核心，尤其在Transformer模型中，注意力机制源于人类感知世界的方式：在处理信息时，我们会选择性地关注一部分信息， 在机器学习中，注意力机制允许模型在处理序列数据时，对不同的部分赋予不同的权重，从而更有效地利用信息。1. 多头注意力机制实际中大模型使用多头注意力，让模型同时从多个角度关注信息：比如在分析"我去银行取钱"时：头1关注："取"→"钱"（动作-对象关系）头2关注："银行"→"取钱"（地点-活动关系）头3关注：" 我"→"取"（主体-动作关系）四、代码实现推导import torchimport torch.nn as nnimport torch.nn.functional as Fimport numpy as """ # 创建模型 attention = SimpleSelfAttention(d_model=4, d_k=2, d_v=2) # 示例输入：3个词的序列，每个词用
86732编辑于 2026-02-01 - 来自专栏null的专栏
注意力FM模型AFM
如果将FM模型放入到神经网络的框架下，FM模型的结构可以由下图表示：图片对于每一个特征都赋予一个$k$维的向量，如上图中的第二个特征x_2 的k 维向量为\mathbf{v}_2 ，同理，第四个特征x_ 4 的k 维向量为\mathbf{v}_4 ，这里类似于对原始特征的Embedding，最终x_2 和x_4 的交叉特征可以表示为：\left ( \mathbf{v}_2\odot \mathbf{v }_4 \right )x_2x_4 ，其中，\odot 表示的是元素的乘积。 AFM的网络结构在注意力FM模型AFM（Attentional Factorization Machines）中，是在FM的基础上引入了Attention机制，通过Attention网络学习到每个交叉特征的权重 总结AFM模型在FM模型的基础上，引入了Attention机制，通过Attention的网络对FM模型中的交叉特征赋予不同的权重。参考文献[1] Rendle S.
88330编辑于 2023-01-16 - 来自专栏人工智能与演化计算成长与进阶
序列模型3.7-3.8注意力模型
3.7 注意力模型直观理解 Attention model intuition 长序列问题 The problem of long sequences 对于给定的长序列的法语句子，在下图中的网络中，绿色的编码器读取整个句子 而对于长句子，注意力模型 会和人类翻译一样，每次翻译句子中的一部分，从而提高句子翻译长句子的能力。 ? 注意力模型 Attention model intuition “Bahdanau D, Cho K, Bengio Y. 与普通的 RNN 不同的是，注意力模型不会看每一个输入的单词，而是对输入的每个单词选择一定的 注意力权重 用于 表示这个单词对于正在翻译的单词具有多大的影响 下图中的 分别表示前三个单词对第一个词语的翻译具有的影响力 ---- 3.8 注意力模型细节 Attention model 特征提取模型 使用的双向循环神经网络，这样其对于 前向传播 和 后向传播 分别有激活值 $\overrightarrow{a^{ 对于一个时间步
66610发布于 2020-08-14 - 来自专栏null的专栏
注意力FM模型AFM
AFM（Attentional Factorization Machines）[2]模型在FM模型的基础上，引入了Attention机制，通过Attention的网络对FM模型中的交叉特征赋予不同的权重 如果将FM模型放入到神经网络的框架下，FM模型的结构可以由下图表示： 对于每一个特征都赋予一个 k 维的向量，如上图中的第二个特征 x_2 的 k 维向量为 \mathbf{v}_2 ，同理，第四个特征 x_4 的 k 维向量为 \mathbf{v}_4 ，这里类似于对原始特征的Embedding，最终 x_2 和 x_4 的交叉特征可以表示为： \left ( \mathbf{v}_2\odot \ mathbf{v}_4 \right )x_2x_4 ，其中， \odot 表示的是元素的乘积。 AFM的网络结构 在注意力FM模型AFM（Attentional Factorization Machines）中，是在FM的基础上引入了Attention机制，通过Attention网络学习到每个交叉特征的权重
68140编辑于 2023-02-02 - 来自专栏AI研习社
Quora Question Pairs 竞赛冠军经验分享：采用 4 层堆叠，经典模型比较给力
2、模型 我们的 NNets 主要在两个架构上进行工作：孪生神经网络（Siamese neural networks）和注意力神经网络（Attention neural networks）。 带有预训练 Glove 嵌入的孪生 LSTM 具有预训练 FastText 嵌入的可分解注意力机制（https://arxiv.org/abs/1606.01933），这个模型在 cv 上取得了 ~0.3 4、堆叠（Stacking） 我们采用了四层的堆叠： 层 1：大约 300 个模型，Paul 和 Lam 的神经网络，以及像 XGB、LGBM 这样效果出众的经典算法，以及大量的 Scikit-learn 分类算法（ET、RF、KNN等等） 层 2：大约使用了 150 个模型： 所有输入特征 以上所有算法的预测结果 我们添加了最好的 L1 纯文本 ESIM 模型的隐藏层 层 3：2 个线性模型 以最小的 层 4：混合 55/45，基于公共 LB 得分（最佳的提交成绩）
1.4K110发布于 2018-03-16 四力PLUS商家增长平台产品介绍
三、应用框架和功能介绍 功能框架 四力经营看板： 商品诊断力：新增商品分类（明星/话题/高潜/低潜商品，基于吸引力<浏览PV/UV、加车人数>和业务贡献）与爆款识别（追踪头部爆款转化详情，如曝光量- 深度洞察看板-人群画像：结合方略标签产品化，支持省份/性别/年龄/学历/城市分布等画像洞察，开通需联系四力助理@罗芸冰（数据接入达标后开通）。 数据建模共创：人货匹配推荐、市场空间测算、异业合作匹配度等共创模型。 会员产品与服务：3大合作服务（战略规划、运营服务、数字化升级），3大权益（流量支持、数据能力、市场声望），含四力360°经营看板、知识库、战略咨询。 案例库分享（四力知识库） 某茶饮私域案例+联名营销干货； 某知名彩妆案例+干货推荐； 某商场相关案例与干货（原文信息不足，按最大信息量呈现）。
9610编辑于 2026-03-31- 来自专栏【腾讯云开发者】
鹅厂发布的这个算力集群，最快4天训练万亿参数大模型
大模型要成功，算力是关键。 这是腾讯云面向大模型训练场景，发布的全新一代的HCC高性能计算集群性能参数： “算力性能和上一代相比提升3倍，服务器接入带宽从1.6T提升到3.2T。” 去年10月，腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下，将训练时间由50天缩短到11天。如果基于新一代集群，训练时间将进一步缩短至4天。 01 单纯堆卡，算力并不能线性增长 模型热度持续高涨，但要训练一个成功的大模型，算力，算法、数据三者缺一不可。 越强的大模型，越需要更强的算力来完成训练。拥有强大的算力是AI大模型成功的关键。 针对大模型训练场景，腾讯云星星海服务器采用6U超高密度设计，相较行业可支持的上架密度提高30%； 利用并行计算理念，通过CPU和GPU节点的一体化设计，将单点算力性能提升至更高； 全面升级第四代英特尔至强扩展处理器 2.3 存储：TB级吞吐能力和千万级IOPS，减少计算节点等待 近5年，模型参数量增长十万倍，而GPU显存只增长了 4 倍。理论上，云上的池化资源能解决这一问题。
3.4K51编辑于 2023-04-19 - 来自专栏新智元
【谷歌大脑力作】RNN最新技术：注意力增强 RNN，四大模型
【新智元导读】谷歌大脑团队的Chris Olah & Shan Carter 整理了 2016 年递归神经网络（RNN）的发展，总结了神经图灵机、注意力界面、自适应计算时间和神经编程器这四个使用注意力对常规 他们认为，这四大模型会对接下来 RNN 发展产生重大影响。新智元提供本文中文翻译，可访问原始页面查看更多。图片均来自原文。 其中，以下 4 种方向尤其让人激动： ? 单独看，这些技巧都足以用作 RNN 的扩展，但更惊人的是，它们还可以结合起来适用于更广的范畴。不仅如此，它们都依赖于同样的底层技巧——注意力。 在 RNN 之间使用注意力的一大应用是翻译（Bahdanau, et al., 2014）。传统的序列到序列模型必须将整个输入全部转换为单一的一个向量后，再反向扩展。 还有 Vinyals 和 Le 2015 年写的论文，让模型在生成回应时，关注之前的一部分对话，通过这种方式建立对话模型。 ? 注意力还能用于卷积神经网络和 RNN 之间的界面。
1.3K50发布于 2018-03-23 - 来自专栏量子位
鹅厂发布大模型计算集群！算力提升3倍，4天就能训完万亿规模大模型
明敏 发自 凹非寺 量子位 | 公众号 QbitAI 没想到，就在大家争相发大模型的时候，鹅厂另辟蹊径在算力上下手了。 实测结果显示，腾讯云新一代集群的算力性能较前代提升高达3倍。 以训练自家大模型效果为例——万亿参数的混元NLP大模型训练。在同等数据集下，将训练时间由50天缩短到11天。 如果基于新一代集群，训练时间将进一步缩短至4天。 在这波AIGC热潮下，行业内算力需求空前增加，各种与智能算力相关的硬件软件都变得更加火热。 鹅厂这波突然放送，又带来哪些新进展？ 带来3.2T超高通信带宽 据了解，腾讯云新一代集群通过对单机算力、网络架构和存储性能进行协同优化，能够为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。 底层架构之上，针对大模型训练场景，新一代集群集成了腾讯云自研的TACO Train训练加速引擎，对网络协议、通信策略、AI框架、模型编译进行大量系统级优化，大幅节约训练调优和算力成本。
73220编辑于 2023-05-06 - 来自专栏前端小吉米
学好 MP4，让直播更给力
MP4 实际代表的含义是 MPEG-4 Part 14。它只是 MPEG 标准中的 14 部分。它主要参考 ISO/IEC 标准来制定的。MP4 主要作用是可以实现快进快放，边下载边播放的效果。 然后和 MP4 相关的文件还有：3GP，M4V 这两种格式。 MP4 的格式稍微比 FLV 复杂一些，它是通过嵌的方式来实现整个数据的携带。 symbolValue.FTYP 为某一个具体的 BufferMP4.box(MP4.types.ftyp, MP4.symbolValue.FTYP); 接下来，我们就要正式的来看一下，MP4 中真正用到的一些 正常播放的 MP4 文件其实还可以分为 unfragmented MP4（简写为 MP4） 和 fragmented MP4（简写为 FMP4)。那这两者具体有什么区别呢？ 可以说，完全不同。 MP4 格式 基本 box 为： ? 上面这是最基本的 MP4 Box 内容。 较完整的为： ?
3K40发布于 2018-07-03 2021智慧零售私域增长指南：四力模型驱动私域增长新范式
2021智慧零售私域增长指南 •发布机构：腾讯智慧零售 •发布时间：2021年 •行业标签：零售,电商,餐饮,技术服务,生活服务,通用工具,通用SaaS •产品标签： #腾讯智慧零售四力增长模型 报告旨在以四力增长模型为核心，为零售企业提供私域建设方法论与实战案例，推动全渠道数字化增长。 •核心分析模型：腾讯智慧零售四力增长模型（组织力、运营力、商品力、产品力），架构图关键要素包括四力协同、公私域联动、数据驱动。 第五章：核心观点 •核心发现：私域是企业增长关键，四力增长模型是私域建设方法论。 结论：腾讯云以“四力模型”为核心，通过技术赋能与生态协同，为企业提供可落地的私域增长路径，助力实现“有效私域”与GMV可持续增长。
10510编辑于 2026-05-07- 来自专栏肘子的Swift记事本
Swift Playgrounds 4 娱乐还是生产力
Swift Playgrounds 4 娱乐还是生产力 访问我的博客 www.fatbobman.com[1] ，获得更好的阅读体验。 本文将对 Swift Playgrounds 4 的新功能做以介绍，并探讨将其作为开发工具的可行性。 本文中的 Swift Playgrounds 4 特指 iPad 版本。 Swift Playgrounds 是典型的寓教于乐型产品，最初的设计目标并不涉及专业开发所需的生产力方面需求。 Swift Playgrounds 4 的适用人群或场景 既然 Swift Playgrounds 4 已经提供了如此多针对专业开发需求的功能，是否可以将其作为严肃的生产力工具来对待呢？ Swift Playgrounds 在保留了快乐教育的功能前提下，满足了部分场景下的生产力需求。 希望本文能够对你有所帮助。
1.2K20编辑于 2022-07-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号