- 综合排序
- 最热优先
- 最新优先
- 来自专栏韩曙亮的移动开发专栏
【AI 大模型】Meta Llama 3 大模型 ( Llama 3 大模型简介 | Ollama 软件下载安装 | Llama3 模型下载 | Llama 3 大模型 在线 离线 使用 )
首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ; 然后 , 运行 ollama run llama3 命令 , 即可开始使用 Llama3 大模型 ; 一 、Meta Llama 3 大模型安装 1、Llama 3 大模型简介 Llama 3 大模型 是 Meta 公司 发布的 大模型 , Meta 公司 就是 Facebook ; Llama 3 大模型 Llama3 大模型 ; 下载的模型放在了 C:\Users\用户名.ollama 目录中 , 在我的电脑上的路径是 C:\Users\octop.ollama ; 这个模型很大 , 有 4.7 G 安装完成后的效果 for help) 二、Meta Llama 3 大模型使用 1、Llama 3 大模型在线使用 在命令行中 , 可以直接进行对话 , 下面是对话内容 : D:\Llama>ollama run llama3 for help) 2、Llama 3 大模型离线使用 Llama 3 大模型 联网时 , 可以访问云端服务 , 可以生成更加丰富的文本 ; Llama 3 大模型 在 断网后也可以使用 , 下面是断开网络后
1.7K12编辑于 2024-08-09 - 来自专栏自然语言处理(NLP)论文速递
港大 | 发布 “点云” 大模型：PointLLM，旨在实现大模型在3D对象上的应用！
这些模型已成为多功能工具，可以充当通用接口来执行一系列复杂任务。然而，在文本任务上的应用只是大语言模型（LLMs）应用众多应用场景中的一个。 就像钢铁侠电影场景中，托尼在制造钯替代元素的时候，对城市模型进行建模。这些应用程序需要LLMs对3D结构有细致而准确的理解。 PointLLM 基于以上背景，本文主要的工作是将大型语言模型应用在点云理解上，旨在实现LLMs在3D对象上的应用。 然而，构建能够理解物体点云的多模态大模型，存在三个特别关键的问题：1)缺乏模型训练数据；2)构建合适的模型架构；3)缺乏全面的评估标准和方法。 模型架构如下图所示： 对于PointLLM模型训练采用两阶段策略：点云编码器和大语言模型之间的潜在空间进行初始对齐，然后对统一模型进行指令调整。
3K20编辑于 2023-09-14 - 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 ，这对于获取数据作为模型推理的一部分进行推理的应用程序非常重要，例如检索增强生成或RAG。 1️⃣根据与字符串查询的相似性返回文档： # 接受一个文本字符串作为输入，并返回与该文本最相似的向量 results = vector_store.similarity_search( "大模型的发展和繁荣既是当前 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
57021编辑于 2024-12-04 大模型应用开发实战
模型下载 目前国内外的通用大模型可以用密密麻麻来形容，gitee上面已经收录了1万多个了：https://ai.gitee.com/models 。 Net有WebAPI + IIS，java有spring boot+tomcat，大模型有FastAPI+Uvicorn：FastAPI 用于构建应用的业务逻辑，Uvicorn 是运行这些应用的服务器。 不得不吐槽下，大模型也搞前后端分离这套！. 怎么着也得个应用程序APP之类，再不济也得有个Web吧！好吧，安排！为了搞大模型的人能安心研究模型，不用花精力在界面上。 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.2K36编辑于 2024-09-01- 来自专栏深度学习与python
LangChain：简化大模型应用
PaLM）的应用。 虽然 LangChain 提供了许多工具，但其最核心的功能包括以下 3 项：一个抽象层，使开发人员能够使用一组标准化的命令与不同的 LLM 提供者进行交互；一套工具，通过实施一组最佳实践来形式化提示工程的过程 通常，比较复杂的应用程序会使用多个组件来生成所需的结果。 我们将用 SimpleSequentialChain 做个演示，它会按顺序运行多个提示。 今日好文推荐 爱奇艺VR公司业务停滞，员工或被欠薪；阿里云开源通义千问 70 亿参数模型，免费可商用；华为正式发布鸿蒙 4，接入大模型｜Q资讯 年薪超 600 万，比技术总监还高：电影行业 AI 产品经理的崛起 大模型竞争突然升级！亚马逊 CEO 亲自监督、组建新的核心技术团队，集中优势资源打造“最具野心”的大语言模型
43230编辑于 2023-09-08 - 来自专栏xiaosen
大模型应用框架-LangChain
LangChain自身并不开发LLMs，它的核心理念是为各种LLMs实现通用的接口，把LLMs相关的组件“链接”在一起，简化LLMs应用的开发难度，方便开发者快速地开发复杂的LLMs应用。 LLMs: 大语言模型接收文本字符作为输入，返回的也是文本字符. 聊天模型: 基于LLMs, 不同的是它接收聊天消(一种特定格式的数据)作为输入，返回的也是聊天消息. 2.1.1 LLMs (大语言模型) LLMs使用场景最多，常用大模型的下载库：https://huggingface.co/models： 接下来我们以「文心一言」模型为例, 使用该类模型的组件： 第一步 第二步：借助百度智能云–千帆大模型平台：申请API Key 以及Secret Key 想请见附件手册 第三部：代码实现 import os from langchain.llms import 因为大模型虽然非常强大，但是也具备一定的局限性，比如不能回答实时信息、处理数学逻辑问题仍然非常的初级等等。因此，可以借助第三方工具来辅助大模型的应用。
1.1K10编辑于 2024-06-04 - 来自专栏AIGC新知
浅谈宇宙最强开源大模型Llama3如何应用
北京时间4月19日凌晨，Meta公司通过其官方网站宣布了Llama系列的最新开源大模型：Llama-3。 从Llama-1到Llama-3，每一代模型都在性能和应用范围上实现了显著的飞跃。 02、Llama3技术特性 Llama3模型是Meta公司在2024年发布的最新开源大模型，它继承并发展了前代模型的技术优势，同时引入了模型架构、预训练数据、扩展预训练和指令微调： 01、模型架构 05、Llama3部署与应用 01、Meta AI，使用 Llama 3 构建 更好的助手：Meta AI 现在是可以免费使用的最智能的 AI 助手，可以应用在各种场景。 ollama pull llama3:8b 运行Llama3模型：通过Ollama启动Llama3模型，进行测试或应用。 输入：你好！
1.1K10编辑于 2024-10-08 - 来自专栏后台技术汇
大模型应用之概念篇（3）：模型分类、不可能三角
性能与成本构成线性约束（Proposition 3）：追求更高的性能基准必然需要更大的资源投入，这种关系在云计算资源配置方案中表现得最为典型。 ：性能强，适合科研或复杂决策，专为复杂推理、数学运算、代码生成等高难度任务设计 商用大模型选型对比： 维度 基础大模型 指令微调大模型 量化大模型 蒸馏大模型 核心目标 最大化性能 任务专业化 加速推理与降本 -6% 5%-15% 硬件门槛 需GPU集群 较高，视微调方法而定 低精度硬件 单卡消费级显卡 小结：客户会根据商业化的应用场景，单独或组合使用模型优化手段，比如：指令微调（Instruction Tuning 选型案例： 序号 大模型 分类 1 DeepSeek-R1-671B-bf16 基础大模型 2 DeepSeek-R1-W8A8-671B-W8A8 量化版大模型 3 QWQ-32B-bf16 基础大模型 内地客户由于国产大模型的快速迭代，已形成稳定的使用习惯，对本地化解决方案接受度较高。 关键结论：用户习惯是技术选型的长期影响因素，短期内难以改变，需在商业策略中予以重点考量。 3.
50310编辑于 2025-07-31 - 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
背景 LangChain 是一个用于开发由大型语言模型（Large Language Model，LLM）驱动的应用程序的框架。 旨在简化使用大型语言模型的应用程序。 Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 S3DirectoryLoader/S3FileLoader Youtube YoutubeLoader 上面只是简单的进行列举了几个，官方提供了超级的多的加载器供你使用。 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强
70810编辑于 2025-08-04 - 来自专栏澜舟科技 NLP
大模型落地实践：同花顺大模型技术应用及优化
文内从业务角度介绍了大模型技术在同花顺业务上的应用以及未来探索的方向。众所周知，大模型参数量大，通用能力强，综合性能好。 这个问句量和用户量在问答系统中应该算非常大的。图片问财对话系统在大模型的应用上有几个难点。首先，它偏重金融业务知识，并且对于时效性要求很高。 这里特别说明一下“时效性”的问题。 确实在我们的业务模型里，规则占比非常大，也是因为涉及用户财产问题，技术上会比较保守。下面具体介绍问答系统里大模型应用的经验和取得的成果。 3. 信息抽取信息抽取应用场景主要是知识图谱构建和金融数据库构建两个方面。 大模型的参数增加会带来效果的提升，但是在实际应用的经济角度考虑，宁可损失一些效果，尽量减少对资源的占用，所以我们投入了很大的精力做“模型轻量化”工作。
3K20编辑于 2022-08-11 - 来自专栏开源项目搭建
简单3步部署本地国产大模型DeepSeek大模型
简单3步部署本地国产大模型DeepSeek大模型DeepSeek是最近非常火的开源大模型，国产大模型 DeepSeek 凭借其优异的性能和对硬件资源的友好性，受到了众多开发者的关注。 本文将介绍如何通过简单 3 步在本地部署 DeepSeek 大模型，让你能够轻松体验这一强大的 AI 工具。 影响社会文化领域改变工作生活方式：在自然语言处理等方面的能力，可提高翻译、写作、代码生成等工作效率，在制定旅行攻略、翻译外语等日常生活场景中也广泛应用。 deepseek-r1的哪个版本的大模型？ 这些不同规模的模型在模型能力、资源需求和应用场景上有所不同。
6.3K33编辑于 2025-02-06 基于大语言模型的应用
在AI领域，大语言模型已成为备受瞩目的焦点，尤其在自然语言处理（NLP）领域，其应用愈发广泛。BLM作为一种多任务语言建模方法，旨在构建一个具备多功能的强大模型。 NLP中的文本生成任务通常需要使用大规模预训练模型进行训练，例如 BERT、GPT-2等。在预训练阶段，这些模型将使用大量语料库对其进行训练。 悦数图数据库凭借其前沿的图技术，为大语言模型注入了万亿级的丰富上下文，显著提升了模型的回答准确度，为企业级应用提供了强大的支持。 通过引入悦数图数据库，企业能够以更低的费用成本和更短的时间成本，实现大模型落地应用。这不仅优化了企业的运营效率，还提高了决策的准确性，为企业在激烈的市场竞争中赢得了宝贵的时间和资源。 未来，随着技术的不断进步和应用的深入拓展，悦数图数据库将继续为大语言模型领域注入新的活力，推动企业级应用走向更加智能、有效的新时代。
43010编辑于 2024-04-30图解大模型与实战应用
而如果你想真正理解这些改变背后的技术逻辑，亲手构建属于自己的 LLM 应用，那么这本 《图解大模型》 将是一本不可错过的实战之书。 如果你觉得吃力，可以先快速浏览；后面的第 2、3 章会对这些内容进行更细致的讲解。 3. 重新认识 embedding 的价值 嵌入模型在该领域的重要性不言而喻，因为它们是众多应用背后的核心驱动力。 大模型在搜索引擎中的应用 第 8 章还探讨了语义搜索在 Google、Bing 等搜索引擎中的应用，讲解了 reranking（重排序）优化搜索结果的工程机制，内容很硬核。 图片 微调后的 BERT 模型能够识别人名和地点等命名实体 10. 模型训练与微调 这一部分是我最期待的内容之一——将大模型（LLM）适配到特定的应用场景，展现了它们的灵活性和广泛的适用性。 图片 专门用于特定任务的适配器可以被替换到相同的架构中，前提是它们共享原始模型架构和权重---- 300 幅全彩插图，以极致视觉化的方式呈现大模型的核心原理与工程实现，覆盖从底层机制、应用开发到性能优化的完整链条
18110编辑于 2026-03-13- 来自专栏喔家ArchiSelf
大模型应用的能力分级
对大模型应用的能力分级就像给学生打分一样，能让我们更清楚它的本事有多大。能力分级能帮我们设定目标，知道AI现在能干什么，未来还要学什么。 大模型的应用主要有两种常见模式：RAG 和 Agent。选哪种 RAG 架构，得看具体要解决什么问题，确保它适合任务需求。 关于RAG 的更多资料，可以参考《大模型系列——解读RAG》、《RAG的10篇论文-2024Q1》、《Chunking：基于大模型RAG系统中的文档分块》、《解读GraphRAG》和《在大模型RAG系统中应用知识图谱 》、《基于大模型（LLM）的Agent 应用开发》和《当你问代理机制的时候？ 小结 将大模型应用的能力进行分级，不仅有助于推动技术发展，还能更好地匹配实际应用场景，同时也让公众更容易理解其价值。
1.8K20编辑于 2025-03-31 - 来自专栏AI技术应用
AI教育大模型及其应用
人工智能在教育领域的应用日益深入，涌现出许多AI教育大模型，它们致力于提升教学效率、优化学习体验、推动教育公平。 以下是一些国内外知名的AI教育大模型及其应用：国内AI教育大模型：科大讯飞星火语伴： 基于科大讯飞星火认知大模型，主要应用于语言学习领域。 好未来MathGPT： 好未来（学而思）自研的数学学习大模型，专注于数学学科的学习。网易有道子曰教育大模型： 国内首个教育大模型，已率先推出六大应用，并在词典笔等学习硬件上实现全科辅导。 天工大模型（昆仑万维）： 国内首个对标ChatGPT的双千亿级大语言模型，也是AI搜索引擎和对话式AI助手。EmoGPT（华东师范大学）： 自研大模型，主要应用于心理疏导。 国外AI教育大模型：Khanmigo（可汗学院）： 基于ChatGPT-4，应用于多学科学习，为学生提供个性化问答和深度思考支持。
94110编辑于 2025-06-19 - 来自专栏muller的测试分享
大语言模型应用框架介绍
大语言模型的局限性随着 ChatGPT 的出现，LLM（大型语言模型）的开发受到越来越多的关注，吸引了众多企业的参与，包括 OpenAI 的 GPT-3、Google 的 LaMDA 和 PaLM、以及清华大学的 大语言模型应用框架针对上述限制，直接调用大语言模型似乎并不是最佳选择，因此出现了基于大语言模型的应用框架，旨在解决这些问题。 大语言模型的应用框架通常指的是使用已有的大模型进行各种自然语言处理任务时所采用的软件架构或工具集，这些应用框架提供了一种便捷的方式，使得开发者能够利用大语言模型的强大能力解决特定的问题。 包括 LangChain 的设计理念，兼具易用性（LCEL）与很强的拓展性，都成为学习大语言模型应用框架的首选如何学习大语言模型应用框架学习大语言模型应用框架应当循序渐进，所以本课程主要分为 5 个模块 总结了解什么是大语言模型应用框架。了解大语言模型应用框架的应用场景。了解常见的大语言模型应用框架。了解大语言模型的学习路线。
50710编辑于 2024-09-04 - 来自专栏AI
AI语音大模型的应用
AI语音大模型的应用已渗透到日常生活、行业服务及社会发展的多个领域，凭借“自然交互、智能理解、多场景适配”的核心优势，重构了人机交互方式并推动效率革新。以下从典型场景出发，梳理其核心应用价值。 3. 娱乐与社交在内容消费领域，语音大模型可生成个性化语音播客（将文字脚本转为有声书）、为视频/动画配音（支持多角色音色切换），甚至通过哼唱旋律辅助音乐创作（生成歌词或伴奏）。 此外，结合可穿戴设备数据（如心率、睡眠），语音大模型能主动反馈健康建议（如“您昨晚深睡不足，建议今晚提前1小时休息”），部分系统还支持用药提醒（“上午9点的降压药还未服用”）。3. 四、技术融合趋势：从单一功能到生态协同当前，AI语音大模型正与视觉（图像识别）、触觉（传感器数据）等多模态技术融合，进一步拓展应用边界。 总结AI语音大模型的应用本质是通过“自然语言交互”降低技术使用门槛，同时以强大的智能理解能力解决实际问题。
69011编辑于 2025-09-29 - 来自专栏AIGC新知
应用洞察 | 从大模型数据，看大模型的前瞻应用场景在哪里？
对比海外AI独角兽Anthropic旗下claude和国内字节旗下的豆包大模型使用数据，可以找出相关规律。 从上面这张图，可以看到，不同语言的人，对AI应用的方面也大相径庭。 豆包家族模型 继大语言模型之后，字节将视觉理解模型价格降低，视觉理解模型也迎来“厘时代”。 更低的价格，仍有合理的毛利，对于用户来说，不仅仅实惠，而且更加好用，真正的普惠于民。 C端，豆包模型表现特别优异，模型token使用量暴增。 截至12月中旬，豆包通用模型的日均tokens使用量已超过4万亿，较七个月前首次发布时增长了33倍之多。 这些数据，力证豆包大模型能力之强。 B端，豆包已经与国内汽车、手机、PC终端厂商进行合作，已经覆盖了3亿设备，这些智能终端的大模型调用量半年时间增长100倍！！
60710编辑于 2024-12-24 - 来自专栏大模型应用
大模型应用：LangChain核心组件深度解析：llms与embeddings.3
LangChain 简介 LangChain 是一个用于构建大语言模型（LLM）应用程序的框架。 它提供了一套工具和组件，使得开发者可以轻松地将LLM与其他数据源和工具连接起来，构建复杂的应用程序。2. LLM生成：将构建好的提示输入给大语言模型（LLM），生成答案。13. 答案输出：将LLM生成的答案返回给用户界面，展示给用户。处理过程：1. 二、LLMs 组件详解1、LLMs介绍 在LangChain中，LLMs组件是核心之一，它是对各种大语言模型的抽象。通过LLMs组件，我们可以以统一的方式调用不同的模型。 Prompt模板 -> LLM模型：将构建好的Prompt输入给LLM模型。3. LLM模型 -> 输出解析：LLM模型生成文本，然后通过输出解析器处理。4.
34032编辑于 2026-01-31 - 来自专栏大模型应用
大模型应用：多卡集群跑满14B模型：大模型推理算力应用实践.66
算力核心概念TFLOPS/PFLOPS：算力基础单位：1 TFLOPS=10¹² 次 / 秒浮点运算，1 PFLOPS=1000 TFLOPS；大模型推理算力需求 = 模型参数量 ×Token 数 × 整合监控、模型加载、调度推理全流程，对接“算力效能公式”；2. 后台运行+日志输出，适配企业级部署；3. 请求分配与推理： 将调整后的批大小应用到GPU批池执行批推理计算更新GPU利用率指标6. 是真真正正能落地的企业级大模型推理算力优化方案！ 整套流程把监控、部署、调度全流程都做了工程化封装，拿来就可以调整应用，不用自己从头造轮子。
20632编辑于 2026-04-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号