- 综合排序
- 最热优先
- 最新优先
- 来自专栏量子位
AI的大模型时代 ≠ 只有大模型的AI时代
所以，AI不是只有大模型。AI的大模型时代也 ≠ 只有大模型的AI时代。 成熟的AI，早就已经上岗了 或许你还不敢相信，现在哪怕小小的快递背后，都已经有AI技术在加持了。 这就要说回大模型了。 当红大模型，也在被加速 目前大语言模型正被全球各大科技公司竞相追逐，毕竟现在科技圈都将它视为未来发展的趋势所在。 因此，英特尔就祭出了一款增强型的“减（量）重（化）神（工）器（具）”，可以让一个十亿参数的大语言模型瘦身3/4，增强其准确性，还能有效地提升大模型在英特尔®️ 平台上的推理性能。 这便是英特尔在AI大模型时代中的“加速之道”了。 还会带来怎样的变革？ 纵观AI技术的发展之路，不难发现英特尔在其中履行着一条非常清晰的准则——用起来才是硬道理。 更多《英特尔平台上的行业AI实战与大模型优化》相关内容，可扫描下方海报中的二维码获取。点击原文链接，阅读英特尔《最“in”大模型》专栏的所有文章。 — 完 —
66510编辑于 2023-09-27 - 来自专栏腾讯云TVP
大模型时代，安全如何洗牌？
3 月 30 日，「大模型时代：安全如何洗牌」TVP AI 与安全高峰论坛将在北京启幕。论坛汇聚安全领域的顶尖专家和行业领袖，直击大模型时代安全领域的真问题、硬挑战。 从技术突破、产业实践、风险治理多个维度，共同探索大模型时代的安全破局之道。 精彩亮点抢先看 直击AI与安全热点，议题全面多元 本次论坛聚焦大模型时代下 AI 与安全的热点话题，上午场围绕 “AI 赋能安全”，深入探讨 AI 如何推动安全能力升级，解析大模型赋能带来的新机遇。 即可报名，快来线上和顶尖大咖一同交流，共同探寻属于大模型时代的安全新图景。 我们希望通过本次「大模型时代：安全如何洗牌」TVP AI 与安全高峰论坛，携手行业顶尖专家，在思想碰撞中预见未来，在价值对齐中锚定航向，共同绘制 AI 与安全共生的新蓝图。
35810编辑于 2025-03-24 - 来自专栏大模型系列
Transformer 架构：大模型时代的基石
注：如今大多数大语言模型（如 GPT 系列）只使用 Decoder；而 BERT 等双向模型则只使用 Encoder。 三、核心组件详解 1. 五、为什么 Transformer 能成为大模型基石？ 总结Transformer 不是一种模型，而是一种范式。它用“注意力”重新定义了序列建模的方式，打破了循环与卷积的统治，开启了大模型时代的大门。 无论你是想微调模型、设计 Agent，还是探索 AGI 路径，这座“基石”都值得你深入掌握。 相关链接 大模型技术专栏：欢迎您到访 「大模型系列」。 在这个由参数驱动、以数据为燃料的新智能时代，大语言模型（LLM）已不再是实验室里的前沿概念，而是正在重塑搜索、办公、编程、教育、医疗乃至整个数字世界的底层引擎。
59520编辑于 2026-03-25 - 来自专栏NewBeeNLP
Instruction Tuning 时代的大模型
，为训练自定义小型化（7B）模型提供点知识储备。 FLAN 论文：FINETUNED LANGUAGE MODELS ARE ZERO-SHOT LEARNERS 背景：GPT-3 zero-shot performance 和 few shot 差距大， 模型：LaMDA-PT，即 LaMDA 预训练后的模型。137 B，decoder 架构模型。 数据：在 60+ 个 NLP 数据集上进行 instruction tune。 猜测：insturction tuning 仅针对 3B 以上模型？ FLAN-PLAM 论文： Scaling Instruction-Finetuned Language Models 虽然叫 FLAN，但数据集以及模型似乎和 FLAN 模型没啥关系。
98210编辑于 2023-08-29 - 来自专栏素质云笔记
大模型时代的模型运维与部署：LLMops
LLM（大型语言模型）是可以生成人类语言输出的深度学习模型（因此称为语言模型）。这些模型有数十亿个参数，并接受了数十亿个单词的训练（因此被称为大型语言模型）。 模型隐私和安全性 确保模型的安全性对于防止未经授权的访问和潜在的攻击非常重要。对模型进行加密、访问控制和审计跟踪是维护模型安全的关键措施。 测试和训练数据分布差异大：实际使用的数据分布总是不同于训练数据的分布。 难以用一个核心指标去衡量：指标不那么直接，可能无法捕捉模型的不同行为。语言模型需要对行为和定性输出测量有更多样化的理解。 ---- 3 参考文献 LLMOps（Large Language Model Operations）简介 了解一下新领域 LLMOps: 大模型运维 LLM训练营课程笔记之 LLMOps: Deployment and Learning in Production 生成式AI时代的AI Infra—从DevOps->MLOps->LLMOps
7.5K21编辑于 2023-07-09 - 来自专栏NewBeeNLP
Instruction Tuning 时代的大模型（下）
，下文总结部分笔记，为训练自定义小型化（7B）模型提供点知识储备。 Instruction Tuning 时代的大模型。今天继续，包括模型论文 LLAMA, PaLM, BLOOM, BLOOMZ-mT。 数据：约 1.4 T token 预训练，多语言但就是没有中文； 模型： 经典的大模型 Pre-normalization，采用 RMSNorm normalizing。 模型： Vocab size 比 LLAMA 等其他模型大很多。位置编码采用了 ALiBi Positional Embeddings。 模型：实验的都是多语言模型，文中使用了 BLOOM 和 mT5 数据：仍然采用公开数据集 prompt finetuning 采用的 prompt 也被分成三种形式进行测试： 结果： 对照上图文中对比了三种模型的结果
71030编辑于 2023-08-29 大模型网关：大模型时代的智能交通枢纽｜得物技术
一、导语在人工智能技术快速演进的时代，大型语言模型和AI智能体已成为各类应用的核心组件，引发AI相关API流量的指数级增长。而大模型网关，正是这场变革中应运而生的智能交通枢纽。 大模型网关的核心能力主要体现在几个维度：模型市场、模型体验、模型调度、模型成本和稳定性（可观测性、容量管理、模型流控、服务告警）。其中稳定性是大模型网关的“压舱石”，确保服务高可用、可管理、可追溯。 四、行业实践：大模型网关的多元解决方案大模型网关作为大模型应用的关键中间层，近年来随着企业级AI应用部署的加速而快速发展，以实现AI能力的统一、高效、可控管理。 模型调度与路由建设分钟级实时观测能力在AI规模化应用时代，没有分钟级观测体系的模型网关，就像没有仪表盘和刹车的F1赛车——速度越快，风险越大，毁灭性越强。 八、未来展望：从大模型网关向AI网关演进大模型网关的未来发展将向如下几个方向演进：首先，模型网关继续承担大模型成本管控主体责任，继续通过强化数据分析能力推进精细化降本，落地Qwen系列自建模型通过云商托管方式降本
52710编辑于 2026-02-03- 来自专栏腾讯云存储
面向大模型时代的云存储架构
本次沙龙汇聚行业顶尖架构师，多角度深入解析 AI 时代架构设计的技术发展、落地应用，共同探寻 AI 时代架构师的进阶路径。 沙龙活动中腾讯云存储研发总监严俊明分享了《面向大模型时代的云存储架构》的主题演讲。 据 OpenAI 研究显示，大模型的智能程度与算力、参数规模呈正相关。训练大模型所需的基础设施已达万卡级别，参数从亿级跃升至万亿级，大模型为存储带来巨大的机遇与挑战。 在大模型采集、清洗、训练、推理、“智”理等环节，对存储基础设施提出规模、性能、稳定等多维度的要求。 其中，核心矛盾是大模型的海量数据需求和极致性能需求之间的矛盾。 模型训练阶段，自研 GooseFS-X 高性能存储，提升大模型预训练效率；在分发阶段，通过 GooseFS AZ 加速器来提升大模型分发效率。 此外，腾讯云还提供一站式安全解决方案来保障数据内容安全。
46410编辑于 2025-04-30 - 来自专栏个推技术实践
AI大模型迈入应用时代，每日互动推动“可控大模型”落地
ChatGPT的推出引爆了一场波及全球科技领域的“AI飓风”，越来越多的企业入局大模型赛道，推动AI全面迈进应用时代。 通过与行业知识结合，大模型能从海量的数据中提取出有价值的信息，为业务决策提供智能支持，但现阶段大模型缺乏对价值观的判断。在实际的业务场景中，垂直行业更需要“可控大模型”。 面对大模型热度的持续狂飙，很多企业跃跃欲试，希望在发展和应用大模型的道路上抢占先机。 这是当下大模型发展需要重视和解决的命题。推动大模型实现安全可控作为一家数据智能企业，每日互动更多的是推动大模型在“算法”和“算料”这两个层面实现可控。 每日互动的可控大模型探索在推动大模型实现可控的前提下，每日互动也积极探索将大模型与自身数智能力结合，帮助垂直领域客户更好地解决具体的业务问题。
66920编辑于 2023-06-20 - 来自专栏后台技术汇
浅谈大模型时代的后台技术发展
图片 1、前言 随着互联网的快速发展，大数据、人工智能、大模型等技术的兴起，大模型时代已经到来，也让后台工程面临着新的挑战和机遇： 大模型时代下，AI 对后台的计算能力和存储能力提出了更强要求，以满足更高的性能和效率 ； 下面我从一名后台开发工程师的角度，浅析一下在大模型时代下，后台工程技术将面临哪些变革、挑战和机遇。 我想从云计算架构和底层技术、LLM 工程化技术，浅谈一下，在大模型时代下的后台工程化技术发展。 6、总结 以上是我从后台开发工程师，结合后台技术架构，对大模型技术栈的一点理解，另外也说说自己一些心得： 大模型短期内确实可以平替局部编程，但仍替代不了工程架构思维 在这个充满机遇和挑战的时代，要经常关注新兴技术发展 ，然后耐心学习，才可能适应时代的变化，迎接挑战。
1.8K30编辑于 2023-09-18 腾讯发布大模型时代的AI十大趋势：走进“机器外脑”时代
日前，在2024世界人工智能大会•腾讯论坛上，腾讯研究院、上海交通大学、腾讯优图实验室、腾讯云智能联合发布了《2024大模型十大趋势——走进“机器外脑”时代》报告。 报告基于科技行业发展、以及腾讯在AI领域的实践，从技术、应用、社会三个方面预测AI给经济社会带来的影响，通过10个关键性趋势勾勒出一个由大模型驱动的新未来。报告指出，我们正在进入一个“机器外脑”时代。 伴随个体创作的门槛在降低，越来越多的个体还将借助大模型的“机器外脑”成为“斜杠青年”、“超级生产者”，甚至开启自己的“一人企业”。可以预见，我们将迎来一个更加多元、开放和创新的新时代。 走进“机器外脑”时代司晓 腾讯副总裁 腾讯研究院院长 继ChatGPT开启大语言模型引领的新一轮人工智能革命以来，我们持续见证了人工智能领域技术的加速迭代，在过去的一年里众多公司如Google、Midjourney 我们正在进入一个“机器外脑”时代。加速技术为大模型行业的发展提供了算力的保障。
1.2K10编辑于 2024-07-09- 来自专栏AI科技时讯
大模型时代开发者新机遇
大模型与我们有什么关系 大模型能力能到哪些场景？ * 以游戏领域为例 * * AI写作助手、校准工具 * 语言学习平台
20320编辑于 2023-09-01 - 来自专栏X#(XSharp)
大模型时代的先有鸡还是先有蛋
所以，对于现在的大模型来说，喂养它的原始数据已经足够多了，但是，也就是这一两年，大模型在 VFP 方面，对问题的反馈倒好像比我第一次使用时效果好了不少。 我知道有些 AI IDE 在使用大模型时有开关来限制所提交的问题是否可以用于训练大模型，但似乎并不是所有的 AI IDE 都这样，甚至有些都不愿意告诉用户自己使用的到底是哪个大模型，例如 Qoder 。 也难怪在我提到的帖子中有人称大模型为“小偷”。 AI 和人类，正在借助人类之手斗法，神仙打架，我却连个小鬼都不是......
17410编辑于 2025-11-13 - 来自专栏云原生技术社区
大模型时代已来，Meta发布LLaMA 2
在人工智能和机器学习领域，语言模型的发展一直是企业关注的焦点。然而，由于硬件成本和资源需求的挑战，许多企业在应用大模型时仍然面临着一定的困难。 关于LLaMA 2 Meta LLaMA 是一款由Meta公司开发的开源超大规模语言模型。一直以来，LLaMA 系列模型在AI社区内被誉为最强大的开源大模型之一。 LLaMA 2发布了不同体量的模型，以满足不同的硬件部署成本，为企业提供了更多选择和灵活性。 相比于直接使用开源模型，企业通过采用AML，可以获得更多优势： ● 一键私有化模型发布 企业可以轻松将训练好的LLaMA 2模型一键发布为私有化API，保护数据安全。 ● 非侵入式模型微调训练流水线构建 AML提供非侵入式的模型微调训练流水线，帮助企业根据特定需求快速构建定制化的语言模型。 通过将AML与LLaMA 2相结合，企业可以在不同场景下快速构建智能应用。
50110编辑于 2023-08-09 - 来自专栏CreateAMind
大模型时代重访组合几何问题全局优化
大模型时代重访组合几何问题全局优化 Global Optimization for Combinatorial Geometry Problems Revisited in the Era of LLMs 与此同时，基于大语言模型（LLMs）的算法设计新进展，重新引起了人们对一系列可表述为非线性优化模型的长期存在的几何与组合问题的关注。 更广泛地看，过去几年中，将生成模型与结构化搜索及自动化评估或验证相结合的大语言模型驱动发现工作流取得了快速进展。 基于大语言模型的代码生成所具备的与求解方法无关的原型设计能力，是探索新问题与构建新求解思路的有力工具。 此外，将大语言模型作为优化模型编写辅助工具的概念（如 [12,13,21] 所示）亦极具前景。
15010编辑于 2026-03-11 - 来自专栏机器学习AI算法工程
大模型时代下智能文档处理核心技术大揭秘
针对这些篡改内容也有一套完整的系统架构: 大模型时代思考 随着chatGpt和Gpt4的到来，大模型时代已悄悄走进我们的生活，看过GPT4发布会的朋友有没有被一个场景震惊到，主持人在笔记本上简单的画出了他对一个网站的需求 除此之外，GPT4还可以解释漫画： 以此来看，大模型识别中OCR模型的设计仍然很重要，同时也带来了一些机遇： 大模型仍有很多不足 要充分利用大模型特征表示和语言能力从而可以解决更多智能识别场景 不同任务的专用模型和学习算法仍大有可为 智能文档处理的契机在于，随着信息化时代的到来，文档数量和复杂度不断增加，传统的文档处理方法已经无法满足用户的需求。 而人工智能技术的发展，为文档处理提供了更加高效、精准的解决方案，使得文档处理可以更好地适应信息化时代的需求。 大模型时代已经不仅仅局限于文档对文档的识别，还可以做到对图像进行解释。文档分析与识别快速进步，但仍有很大研究空间，同时给了我们一些新方向，如：语义信息提取，跨模态的融合，面向应用的推理决策等。
85010编辑于 2023-11-22 - 来自专栏AI SPPECH
大模型进入“推理成本时代“
2026年，AI行业已经从"训练为王"的时代过渡到"推理成本主导"的时代。根据GitHub最新数据，全球AI基础设施支出中，推理成本占比已超过80%，而训练成本仅占不到20%。 这一转变的核心原因在于： 大模型规模爆炸：GPT-5、Qwen-2 720B等超大规模模型的出现，使得单次推理的计算资源需求呈指数级增长。 在这一背景下，vLLM作为当前GitHub上最热门的大模型推理框架之一，其PagedAttention技术成为解决推理成本问题的关键。 2. 推理即服务（IaaS）的普及：云厂商将推出更成熟的推理即服务平台，提供按需付费的大模型推理服务，进一步降低企业的部署成本和技术门槛。 混合专家模型（MoE）将成为大模型的主流架构，vLLM的MoE优化支持将成为其核心竞争力之一。
92010编辑于 2026-01-19 - 来自专栏Rust 编程
大模型时代的系统语言：Rust vs Mojo
“9.3 号在 QCon 2023 北京现场，我演讲了 《大模型时代的编程语言：Rust vs Mojo 对立还是融合》议题，给现场的朋友分享了我对于大模型时代编程语言的观点。 时代在不断变化，编程语言是推动时代齿轮的抓手。当新的时代到来时，有些语言是必须要学习的。让我们从 Rust 和 Mojo 语言的特性、生态和其在 LLM 大模型时代的角色来探索这两门语言的未来。 而 Rust 语言，2023年之前确实在 AI 生态上进展缓慢，但今年大语言模型时代开启，资本大量涌入 AI 生态。 大模型时代开启，商业竞争激烈，资本推动下，Rust 将在 Mojo 成长的这段时间差内抢占一定比例的 AI 生态位。 以上就是我对于大模型时代编程语言的一些观点，不知道读者您有什么看法，欢迎留言讨论。
3.4K22编辑于 2023-09-13 - 来自专栏《C++与 AI：个人经验分享合集》
人工智能大模型：开启智能新时代
随着科技的飞速发展，人工智能大模型正逐渐成为当今时代的热点话题。这些强大的模型具备极高的语言理解和生成能力，为各个领域带来了前所未有的创新和变革。 本文将深入探讨人工智能大模型的热点，包括其在智能教育和智能家居领域的应用，以及未来的发展趋势与挑战。 一、人工智能大模型的崛起 人工智能大模型是基于深度学习技术构建的大型语言模型。 二、人工智能大模型在智能教育中的应用 个性化学习：人工智能大模型可以根据学生的学习情况和特点，为其提供个性化的学习计划和资源，提高学习效果。 四、人工智能大模型的未来发展趋势 更加通用化：未来的人工智能大模型将更加通用，能够适应各种不同的任务和领域。 多模态融合：结合图像、音频等多模态信息，实现更加全面和深入的理解。 六、结论 人工智能大模型作为人工智能领域的重要突破，正引领着智能新时代的发展。在智能教育和智能家居等领域的应用已经展现出了巨大的潜力，为人们的生活带来了诸多便利和创新。
30910编辑于 2024-12-09 - 来自专栏绿盟科技研究通讯
洞见RSAC 2024｜大模型时代的隐私防护
一、背景信息 随着人工智能技术的飞速发展，大语言模型（LLM）在各个领域的应用日益增多。从简单的写作辅助，到复杂的任务如编辑简历、优化代码，LLM服务正逐渐成为人们日常生活和工作中不可或缺的一部分。 总的来说，LLM服务存在着一个需要权衡的矛盾，即既需要大模型的能力，也需要对用户的隐私财产进行保护。 图1 大模型能力排名 使用商业LLM 在大部分情况下，用户更倾向于使用能力较强的LLM以便于更好地完成任务，因此依然选择使用主流的商业模型，但是这就导致用户不得不将自己的知识财产隐私置于风险之中。 在服务器侧，用户输入的数据会被解密成明文后再交由大模型处理并生成相应的回复，意味着无论是输入还是输出，数据中用户的所有隐私对于LLM供应商来说都是透明的。 图3 应用全同态加密后的LLM服务 三、在大模型中利用全同态加密 LLM所依赖的Transformer结构远比普通的加法与乘法要复杂，因此，要分析在LLM服务中应用FHE的可行性需要对Transformer
1.4K10编辑于 2024-05-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号