- 综合排序
- 最热优先
- 最新优先
- 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
作为一个语言模型集成框架，LangChain 的用例与一般语言模型的用例有很大的重叠。 重叠范围包括文档分析和总结摘要, 代码分析和聊天机器人。 Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强 小结： - 研发&测试环境：为了方便部署和测试，使用云服务 - 大客户生产环境：安全审核严格，大多数采用自建大模型的方式 总结 LangChain 是什么？
95110编辑于 2025-08-04 - 来自专栏大模型成长之路
【大模型学习 | MINIGPT-4原理】
MINIGPT-4: ENHANCING VISION-LANGUAGE UNDERSTANDING WITH ADVANCED LARGE LANGUAGE MODELS在GPT4未开源的情况下，作者认为其表现优越是因为采用了最为先进的 LLM模型，因此，作者在BLIP2的基础上，将LLM模型替换为了Vicuna，同样也是通过一个线性映射层将图像表征映射为LLM的输入。 开源代码：https://minigpt-4.github.io/一、预训练方法预训练方法几乎和BLIP2模型一致，可以参考：【大模型学习 | BLIP2原理】-腾讯云开发者社区-腾讯云1.1 Q-Former ； MINI-GPT4表现比BLIP2要强上许多？ ① MiniGPT-4 使用的是 Vicuna（基于 LLaMA 的开源 ChatGPT 对话模型），具有更强的自然语言表达和指令理解能力；而BLIP-2 使用的 LLM 主要是 Flan-T5 或 OPT
81210编辑于 2025-07-02 - 来自专栏技术趋势
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large Language Model Meta AI是由meta（原facebook）开源的一个聊天对话大模型。 Linux图： 下载羊驼模型（有点大） 先建一个文件夹：path_to_original_llama_root_dir 在里面再建一个7B文件夹并把tokenizer.model挪进来。 /zh-models/7B/ggml-model-q4_0.bin 2 生成量化模型文件路径为zh-models/7B/ggml-model-q4_0.bin 运行模型 cd D:\ai\llama /alpaca.txt -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.3 结果 最后 我知道很多同学可能觉得学习大模型需要懂python
1.7K30编辑于 2023-09-12 - 来自专栏AI及人工智能
腾讯云DeepSeek大模型应用搭建指南
2月8日，腾讯云宣布上线DeepSeek-R1及V3原版模型API接口，通过强大的公有云服务，腾讯云可以为用户提供稳定优质的服务。 同时，腾讯云旗下大模型知识应用开发平台知识引擎也接入了DeepSeek-R1及V3这两款模型，并率先支持联网搜索，结合知识库、RAG等能力，随着人工智能技术的不断发展，腾讯云的DeepSeek大模型为开发者提供了强大的自然语言处理能力 本文将带领你从零开始，教你如何搭建一个基于腾讯云-DeepSeek的智能应用，帮助你快速实现AI技术的应用场景。一、前期准备在开始搭建腾讯云-DeepSeek应用之前，你需要进行一些准备工作。1. 端口和9091端口是否被占用接下来根据MD文档，修改一下js文件中的秘钥API密钥管理从这里新建秘钥，腾讯云默认最多只有两个，创建好记得保存上，因为后面就看不到了修改代码中的secret等参数appid是大模型中 static.js标识ws模式还是sse模式链接对话，可选值ws和sseconst ACCESS_TYPE = 'sse';体验机器人的appkey，同上服务配置项中appIdconst APP_KEY = '在大模型
2.5K50编辑于 2025-02-17 - 来自专栏token的技术分享
从0开始搭建免费大模型平台
下面我们讲解从0开始搭建我们的免费大模型管理平台，接入其他的免费大模型，然后加入到我们自己的平台当中，然后进行监控和管理。 部署大模型管理平台 下面我们将在拥有docker的环境下部署我们的大模型管理平台。 打开我们的服务器。 使用默认密码登录到系统当中 账号：admin 密码：admin 注册腾讯大模型 点击这里[1] 进混元大模型，然后登录， 然后接入控制台腾讯云 - 控制台 (tencent.com)[2] 然后点击创建密钥 ，创建完成以后得到密钥， 添加模型渠道 下面我们打开大模型管理平台，然后进入渠道菜单，然后点击右上角的操作展开的创建渠道 渠道名称 测试模型 渠道类型腾讯混元大模型 代理地址 空 资源地域 （看个人情况定 根据上面的测试，我们给我们的平台接入了腾讯大模型的免费模型hunyuan-lite 然后我们试试看用semantic-kernel进行对话操作。
1.3K10编辑于 2024-06-18 - 来自专栏算法一只狗
LLama4 原生多模态大模型
Meta最新发布了原生多模态大模型 Llama 4，一经亮相即登上LMSYS大模型排行榜第二名，仅次于Google的Gemini-2.5-pro，分差仅为22分，实力可见一斑。 在模型规模方面，Llama 4系列的确非常庞大，尤其是Behemoth模型，远超业内主流，例如DeepSeek R1参数量仅为6710亿，只有Behemoth的约三分之一。 当前行业趋势多偏向小而高效的模型，Llama 4如此庞大的规模实属少见。 总结与展望Llama 4的发布，意味着Meta正式进入原生多模态大模型竞争核心领域。 相比Gemini系列、GPT-4o、Claude 3、DeepSeek等主流模型，Llama 4以务实高效的技术路线，突出计算成本、推理效率与多模态能力的平衡。
97100编辑于 2025-05-01 小林 coding 大模型训练：从零搭建专属大模型的完整技术路线
当通用大模型无法满足垂直业务需求时，自训练专属模型成为必然选择。 这正是自训练垂直领域模型的典型适用场景。本文将以训练一个名为“小林 coding”的代码辅助大模型为实战案例，基于腾讯云TI平台和GPU云服务器，完整呈现从零搭建专属大模型的技术路线。 指令数据构建为提高模型的指令遵循能力，我们采用Self-Instruct方法，利用已有的大模型（如混元大模型）从种子指令集扩展生成50万条多轮对话数据，覆盖代码生成、代码解释、Bug修复、性能优化等典型场景 硬件配置基于腾讯云GPU云服务器搭建训练集群：节点数：4台GN7实例GPU：每台8 × NVIDIA A100 (80GB)网络：通过腾讯云高性能计算集群HCC，节点间采用RoCE网络互联，带宽达到3.2Tbps （TKE）的完整基础设施，大幅降低了自训练大模型的技术门槛。
22900编辑于 2026-06-23谷歌Gemma 大模型 部署搭建本地详细教程
特点速度快速：Gemma 使用 TensorFlow Lite 模型，可以快速运行在移动设备上。准确性：Gemma 使用预训练的模型，可以实现准确的物体检测和分类。 谷歌Gemma是一系列轻量级、最先进的开放模型，由Google AI构建并开源。Gemma模型旨在为各种自然语言处理任务提供卓越的性能，同时保持较低的资源需求和部署灵活性。 Gemma模型可以通过以下方式使用：在本地计算机上使用：可以下载Gemma模型的代码和权重，并在本地计算机上运行。 来自Gemma官网：Gemma 模型与 Gemini 共享技术和基础设施组件，Gemini 是我们当今广泛使用的最大、功能最强大的 AI 模型。 Gemma 模型能够直接在开发人员笔记本电脑或台式计算机上运行。值得注意的是，Gemma 在关键基准上超越了更大的模型，同时遵守我们关于安全和负责任的输出的严格标准。
3.4K10编辑于 2024-04-07- 来自专栏Java技术进阶
书生·浦语大模型图文对话Demo搭建
前言 本节我们先来搭建几个Demo来感受一下书生浦语大模型 InternLM-Chat-7B 智能对话 Demo 我们将使用 InternStudio 中的 A100(1/4) 机器和 InternLM-Chat -7B 模型部署一个智能对话 Demo 环境准备 在 InternStudio 平台中选择 A100(1/4) 的配置，如下图所示镜像选择 Cuda11.7-conda，如下图所示： 接下来打开刚刚租用服务器的进入开发机 (1/4) 机器、InternLM-Chat-7B 模型和 Lagent 框架部署一个智能工具调用 Demo。 Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。 浦语·灵笔图文理解创作 Demo 我们将使用 InternStudio 中的 A100(1/4) * 2 机器和 internlm-xcomposer-7b 模型部署一个图文理解创作 Demo 。
56710编辑于 2024-02-28 - 来自专栏啄木鸟软件测试
多模态大模型技术原理与实战(4)
多模态大模型核心技术 1多模态的困难 困难 数据集标志困难 人工标注生成 COCO Visual Genome ... OpenAl的DALL-E2和GPT4 谷歌大脑的 lmaen和Stable Diffusion 百度的文心一言 文本生成图像 基于GAN的文本生成图像方法 AlignDRAW:第一个现代文本生成图像模型 图像解码器 把隐信息还原成图像 4语音多模态技术 文本生成语音 以前技术：拼接法和参数法 基于非深度学习的文本生成语音技术 隐马尔可夫模型 (HMM) 文本信息提取模块 声学特征提取模块 可调整的低秩适配(Adaptive Low-Rank Adaptation，AdaLoRA)技术和量化压缩远程注意力(Quantized Long-Range Attention，QLoRA)技术 8 GPT-4多模型核心技术介绍 Transformer：编码器-解码器框架 编码器：衍生出了自编码大模型，如BERT、RoBERT和ALBERT 解码器：衍生出了自回归大模型,如GPT-1和GPT-2 整体衍生出：T5和GLM
56010编辑于 2024-09-10 - 来自专栏技术汇总专栏
基于腾讯云智能体开发平台的DeepSeek满血版模型搭建【法律大模型专家模型搭建实战】
基于腾讯云智能体开发平台的DeepSeek满血版模型搭建【法律大模型专家模型搭建实战】一.AI普惠时代的开发者机遇随着腾讯云智能体开发平台（LKE）正式接入DeepSeek-R1和V3两大模型，开发者与企业可借助其 无论是低代码搭建还是API深度开发，腾讯云均提供稳定、安全的技术底座。为激发创新场景落地，本次征文活动旨在挖掘大模型与行业结合的标杆案例，推动技术普惠。 高效搭建：提供多种应用开发方式，完成企业级Agent、RAG（检索增强生成）、工作流应用创建及发布，预置优质官方插件，降低大模型应用落地门槛。 二.法律大模型应用搭建实战腾讯云智能体开发平台内置DeepSeek-R1、V3模型，通过DeepSeek 模型+联网搜索+行业领先RAG能力，分钟级快捷搭建并发布联网应用，且可实现与现有业务系统的无缝对接 在法律领域的人工智能应用中，基于腾讯云智能体开发平台的DeepSeek满血版模型无疑是一个突破性进展。这一模型的搭建，标志着法律大模型专家系统的专业化和智能化取得了质的飞跃。
2.3K11编辑于 2025-02-24 - 来自专栏山行AI
如何基于OpenAI大模型搭建提示词工程
前言：这是一篇很好地讲解了提示词工程的文章，提示词是fine tune大模型的一种比较经济适用的方式，基于提示词搭建一套agent可能是能形成未来生产力的关键一环。 我将介绍的方法有： •少样本提示•思维链提示[2]•自一致提示[3]•ReAct - 推理与行动提示[4]•PAL - 程序辅助语言模型[5]•MRKL 系统 - 模块化推理、知识和语言[6]•自问自答搜索 以下是一个示例： 模版 = 这个组中的奇数加起来是一个偶数：4, 8, 9, 15, 12, 2, 1. A: 把所有奇数相加（9, 15, 1）得到25. 答案是False. > cindy_pets = 4 > marcia_pets = cindy_pets + 2 > jan_pets = marcia_pets * 3 > total_pets = cindy_pets 本文由山行翻译整理自：https://medium.com/cloudcraftz/an-introduction-to-prompt-engineering-for-openai-gpt-llms-f109ca4f1739
1.5K10编辑于 2023-09-08 - 来自专栏往期博文
深度学习基础：4.Pytorch搭建基础网络模型
正向传播结构 下面就用Pytorch搭建一个简单的正向传播结构。 首先导库，这里需要三个库，torch基本库不必说，nn即neural network，包含了神经网络结构的基本元素。 ), dtype=torch.float32) y = torch.randint(low=0,high=3,size=(500,1), dtype=torch.float32) 接下来就到了最核心的搭建网络结构模块 4、构造Linear线性层，注意一个线性层输出和下一个线性层的输入个数需相等，否则无法计算(原理上就是矩阵相乘) 5、构造forward函数，实现前向传播过程，指定每一层的输入输出和激活函数。 之前输入模型的数据和标签是分开的，但是在后面的数据加载器DataLoader中，需要输入数据和标签的整体。 TensorDataset的使用示例如下： from torch.utils.data import TensorDataset a = torch.randn(500,3,4,5) #四维数据 -
1.3K60编辑于 2022-07-14 〔从零搭建〕大模型应用开发平台部署指南
:5173/ui_moat/ 请联系市场总监获取账号密码 一、大模型应用开发平台基于开源项目BISHENG建设 AllData数据中台商业版集成BISHENG开源项目为大模型应用平台，BISHENG --构建高可用基础设施 1.1 硬件配置： GPU服务器： 推荐NVIDIA A100/A10 80GB显存，支持千亿参数模型推理；若资源有限，可使用T4或RTX 4090（需验证FP16精度） 存储 解决：检查模型文件完整性： 重新下载模型： 1、会话 会话功能支持多轮交互与上下文记忆，可自然理解用户意图，实现智能问答、任务连续处理等场景化对话 2、构建 提供可视化低代码工具，支持拖拽组件快速搭建 AI应用，无缝集成多模型与数据源，实现高效开发 3、构建-自定义工作流 支持拖拽式编排复杂逻辑，灵活集成多模型与工具，实现个性化AI应用开发 4、大模型工作流开发-智慧医疗分诊场景 可智能识别用户意图并自动路由至对应处理模块 ，支持企业快速构建与部署大模型驱动的智能应用 8、创建工作流-大模型竞技场 9、工作流拖拉拽开发 可以可视化拖拽形式，灵活组合模型、工具与数据流，助力快速构建高效智能业务处理流程 10、流程编排
1.1K10编辑于 2025-09-15- 来自专栏muller的测试分享
搭建企业内部的大语言模型系统
大纲开源大语言模型大语言模型管理私有大语言模型服务部署方案开源大语言模型担心安全与隐私？ 可私有部署的开源大模型商业大模型，不支持私有部署ChatGPTClaudeGoogle Gemini百度问心一言开源大模型，支持私有部署MistralMeta LlamaChatGLM阿里通义千问常用开源大模型列表开源大模型分支大语言模型管理大语言模型管理工具 HuggingFace 全面的大语言模型管理平台Ollama 在本地管理大语言模型，下载速度超快llama.cpp 在本地和云端的各种硬件上以最少的设置和最先进的性能实现 LLM 推理GPT4All 一个免费使用 无需 GPU 或互联网Ollama 速度最快的大语言模型管理工具Ollama 的命令ollama pull llama2ollama listollama run llama2 "Summarize this } ]}'大语言模型的前端大语言模型的应用前端开源平台 ollama-chatbot、PrivateGPT、gradio开源服务 hugging face TGI、langchain-serve开源框架
75010编辑于 2024-09-10 - 来自专栏科学最Top
近期值得关注的4个时序大模型研究
前言 梳理了近期几篇时间序列大模型研究文章（后台回复：“论文合集”获取），时间序列大模型的研究正在迅速发展，并且在多个领域和应用中展现出巨大的潜力。 随着技术的不断进步，预计未来会有更多创新的方法和应用出现，但我感觉目前可以重点关注以下三方面： 基础模型的构建：研究者们正在尝试构建时间序列预测的基础模型，这些模型可以在不同的时间序列数据集上进行预训练 特定领域的应用：大模型正在被应用于特定领域的时间序列预测，如金融、医疗、交通等，以解决特定问题并提供可解释的预测。 这一模型采用了一个创新的统一网络架构，结合了序列和变量注意力机制、动态线性算子，并作为一个统一模型进行训练。在38个跨领域的数据集上，UniTS展现了超越特定任务模型和基于自然语言的LLMs的性能。 4、Lag-Llama 论文标题：Lag-Llama: Towards Foundation Models for Probabilistic Time Series Forecasting 在过去的几年中
1.8K10编辑于 2024-09-18 - 来自专栏AI分享
大模型有关信息（2025年4月8日 - 4月14日）
Meta发布Llama 4大模型引发争议发布情况：4月13日，Meta平台公司推出了Llama大语言模型新一代版本——Llama 4 Scout和Llama 4 Maverick。 专业评估机构LMArena把Llama 4 Maverick的某个版本评为当下性能最强的开源大语言模型，但开发者亲自测试发现，通过不同方式访问时效果差异巨大，Meta高管也承认其表现“参差不齐”“质量不稳定 独特优势：Llama 4拥有超大的上下文窗口，一次能处理1000万个token，大约相当于800万个单词，相比OpenAI的GPT-4的上下文窗口优势明显。 嘀嗒出行公布大模型应用于客服的进展应用成果：4月14日，嘀嗒出行公布其AI大模型在客服领域的应用进展。基于大模型的智能判责准确率已超过80%，智能工单生成效率提升50%，准确率达98%。 小鹏汽车训练物理大模型何小鹏表态：4月14日，小鹏汽车创始人何小鹏在社交平台发帖称，小鹏坚持全栈自研，去年率先在自动驾驶领域引入强化学习、模型蒸馏的路线，并且训练了一个超大规模的物理世界大模型，国内还没有第二家车企可以做到
3.9K20编辑于 2025-04-15 - 来自专栏自然语言处理(NLP)论文速递
猛犸象大模型！MAmmoTH：目前最好的开源、通用数学大模型，现已超过GPT-4！
引言 大型语言模型 (LLM)的数学推理能力是评估大模型能力的一项关键指标。 尽管目前很多大型语言模型(LLMs)在该领域取得了一定的进展，但与闭源的大模型相比，开源大模型的数学推理能力仍然有很大差距。 (LLM)的数学推理能力是评估大模型能力的一项关键指标。 尽管该领域取得了一定的进展，但是开源大模型和闭源大模型之间仍然存在明显的差距。 目前一些比较流行的闭源LLM主要包括：GPT-4、PaLM-2、 Claude2，它们在主流的GSM8K、MATH数据集上面占据着了主导地位；而Llama、Falcon、OPT等开源大模型在所有基准上都大幅落后
1.8K20编辑于 2023-09-21 - 来自专栏技术杂记
ELK 搭建4
安装kibana 准确来说，只用解压就可以了 [root@h102 ELK]# ls elasticsearch-2.1.1.rpm GPG-KEY-elasticsearch kibana-4.3.1-linux-x64.tar.gz logstash-2.1.1-1.noarch.rpm [root@h102 ELK]# tar -zxvf kibana-4.3.1-linux-x64.tar.gz kibana-4.3.1-linux-x64/ kibana-4.3.1-linux-x64/b
45220编辑于 2022-02-11 - 来自专栏【腾讯云开发者】
腾讯混元大模型·4月产品动态
作为腾讯全链路自研的大模型，自2023年9月公开亮相以来，腾讯混元大模型共经历了数十次迭代，支持内部超过400个业务和场景接入，并通过腾讯云面向企业和个人开发者全面开放（API个人权益与企业客户一致，已实名腾讯云账号提供累计
64740编辑于 2024-04-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号