- 综合排序
- 最热优先
- 最新优先
- 来自专栏深度学习与python
云原生 AI 工程化实践：FasterTransformer 加速 LLM 推理
OpenAI 在 3 月 15 日发布了备受瞩目的 GPT4，它在司法考试和程序编程领域的惊人表现让大家对大语言模型的热情达到了顶点。人们纷纷议论我们是否已经跨入通用人工智能的时代。与此同时，基于大语言模型的应用也如雨后春笋般出现，为我们带来了协同办公、客服对话、语言翻译、内容生成等方面前所未有的畅快体验。
70660编辑于 2023-09-08 AI 工程化实战：不学算法也能用好的 LLM 指南
这一次 LLM 的输出就很稳定：负面。 为什么？因为写法 A 模棱两可，LLM 不知道你想要什么格式；写法 B 明确了角色、任务和输出要求。 但一旦要把 LLM 接入业务系统，问题就来了：程序需要解析 LLM 的返回结果，一个格式不对的 JSON 就能让整个系统崩溃。 因此，PE 的核心目标是从“自由对话”转向“工程化协议”，就像调用 API 需要构造请求参数、定义返回格式一样，Prompt 就是这个"人机接口的协议" 。 如何写好 PE？ # 任务 请判断用户反馈的情感倾向，只返回"正面"或"负面"： （2）给出模板：让 LLM 照着做 直接下指令，LLM 有时仍会“放飞自我”。 工程化鲁棒性（事后纠错） 在实际业务中，单靠 Prompt 依然会有概率遇到非法格式。
15610编辑于 2026-04-14- 来自专栏Hank’s Blog
3-4 列表的子集
#列表的子集 Subsetting List #[[]] / $ / [[]][] / [[]][[]] #嵌套列表 /不完全匹配(partial matching) > x <- list(id=1:4,height=170,gender="male") > x[1] #找第1列的元素 $`id` [1] 1 2 3 4 > x["id"] #两个函数作用相同 $`id` [1] 1 2 3 4 > x[[1]] [1] 1 2 3 4 > x[["id"]] [1] 1 2 3 4 > x
86910发布于 2020-09-16 - 来自专栏python3
3-4 文件读写例子(4)
/*******************************************************
49630发布于 2020-01-14 - 来自专栏python3
3-4 文件读写例子
n学习通过文件流FileStream打开文本文件、写入文本文件、设置文件属性、实施对文件的目录操作管理的基本方法
1.1K30发布于 2020-01-14 - 来自专栏phodal
当大模型不是问题时，如何应对 LLM 的工程化落地挑战？
而在模型不是问题之后，作为架构师、开发人员，我们应该致力于：将 LLM 以工程化的方式落地。 LLM 应用的技术架构 与常规的应用开发相比，LLM 应用并没有什么太大的区别。只是我们需要考虑 LLM 带来的影响，以及在不同的场景下，如何去管理这些架构。 构建适合于获取业务上下文的应用架构，以生成更精准的 prompt，并探索高响应速度的工程化方式。 原子能力映射。分析 LLM 所擅长的原子能力，将其与应用所欠缺的能力进行结合，进行能力映射。 探索和寻找合适的新一代 API ，以便于 LLM 对服务能力的理解、调度与编排。 而从实践的情况而言，引导用户、完善上下文是我们工程化落地的最大难点。 转换不确定性的语言 API 在与 LLM 进行交互时，需要由自然语言作为 API。总体上可以分为两大类场景： LLM + Workflow。由 LLM 分析用户的意图，来选择合适的工具、API。
2.9K21编辑于 2023-09-10 告别确定性法则：LLM应用工程化的实验科学范式
LLM应用工程化不再是传统意义上靠确定性规则实施的工程，而是建立在不确定性之上的工程。它的实践路径不再是精确方程，而是类似于生物学、材料学——通过对要素与结构进行反复实验，寻求最优方案。 然而，大语言模型（LLM）的崛起彻底颠覆了这一范式。LLM原生携带三大不确定性根源：概率生成机制、上下文敏感性和涌现能力。 这种不确定性并非缺陷，而是LLM的本质特征。试图用传统工程的确定性思维去"驯服"LLM，如同用牛顿力学解释量子现象——注定徒劳。 LLM应用工程化正需要这样的实验科学范式。我们面对的不是可编程的确定性机器，而是具有复杂行为的智能系统。 可观测性从被动测量工具转变为主动改进驱动力，确保LLM应用在动态生产环境中保持强健、可靠且以用户为中心。展望未来——走向自适应的智能系统LLM应用工程化正从被动优化转向主动进化。
27310编辑于 2026-04-27- 来自专栏python3
3-4 文件读写例子(3)
//==============================第二部分：类设计============================
49310发布于 2020-01-08 - 来自专栏python3
3-4 文件读写例子(2)
向项目中添加名为FileOption.cs的类文件，并准备填写关于文件操作的各种方法，如图3－8所示：
52530发布于 2020-01-14 - 来自专栏python3
3-4 文件流类FileStream
nFileMode和FileAccess，FileShare方法基本介绍及注意事项
93720发布于 2020-01-07 - 来自专栏爬虫资料
用LLM自动化生成解析器：从Prompt到Parser的工程化落地
直到大语言模型（LLM）出现，这个念头才突然有了点现实的味道。 毕竟，这玩意能写代码、能理解上下文， 那为什么不能让它写出“能解析网页的代码”呢？ 而LLM给了我们一个全新的视角：不如让机器自己理解网页结构，然后自动产出解析逻辑。换句话说， 我们不再告诉程序“从第几个div开始找标题”， 而是告诉模型：“帮我提取新闻标题、作者、时间和正文。” LLM让我们第一次有机会，把“解析网页”变成一件语言层面的事。 LLM层：模型根据指令生成解析逻辑，比如XPath、CSS选择器或者BeautifulSoup代码。执行层：把生成的代码跑一遍，输出结果。听上去很抽象，但其实实现起来并不复杂。 解析逻辑可解释：LLM生成的代码往往带注释，你能看懂模型的思路。可自学习：解析错了？换个Prompt就能修正，甚至能让模型自己总结失败原因。
34910编辑于 2025-10-20 - 来自专栏用户画像
4.4 文件系统疑难点 3-4
为了创建一个文件，应用程序调用逻辑文件系统。逻辑文件系统知道目录结构形式。它将分配一个新的FCB给文件，把相应目录读入内存，用新的文件名更新该目录和FCB，并将结果写回到磁盘。
68210发布于 2018-08-24 AI 工程化项目实战营（完结）
AI工程化项目介绍与适合人群一、什么是AI工程化？AI工程化是指将AI模型从实验原型转化为生产级系统的一系列工程实践，涵盖整个AI应用生命周期。 核心范畴┌─────────────────────────────────────────────────┐│ AI工程化全景图 工作流编排 (Airflow/Flyte)├─ 监控体系 (Prometheus/Jaeger)高阶 ████████████████▓▓├─ GPU优化 (CUDA/Triton)├─ 数据血缘/治理├─ LLM ：AI工程工具链半年一更新五、学习路线图阶段一：基础工程化（2-3个月）# 实践项目：模型API服务1. 添加prometheus指标 + Grafana看板阶段二：全链路工程化（3-4个月）项目: 新闻推荐系统- 特征存储: Redis/Feast- 模型版本: MLflow + DVC- 在线推理: BentoML
12610编辑于 2026-04-27智能体来了：从 0 到 1：企业级 LLM Agent 的工程化落地实践
作者：Agentcometoo｜首席分析师undefined关键词： LLM Agent / ReAct / 工程化 / Python / AI 应用落地一、背景与挑战（Why Agent 很难真正落地 核心思想是：通过 System Prompt 强约束 LLM 输出结构，而不是依赖自然语言猜测。 class SimpleAgent: def __init__(self, llm_client, tools, model_name): self.client = llm_client 本文更适合以下读者：正在做 AI 应用工程化 的后端 / 架构师对 Agent 稳定性、可控性 有要求的团队不满足于 Demo，希望真正上线的开发者如果你对 企业级 AI Agent 的设计与落地 感兴趣
25920编辑于 2026-01-23- 来自专栏叽叽西
lagou 爪哇 3-4 spring cloud 问答笔记
熔断即断路保护。微服务架构中，如果下游服务因访问压⼒过⼤⽽响应变慢或失 败，上游服务为了保护系统整体可⽤性，可以暂时切断对下游服务的调⽤。这种牺 牲局部，保全整体的措施就叫做熔断。
57620编辑于 2022-05-17 - 来自专栏AI工程落地
TensorRT LLM vs OpenPPL LLM
支持模型和功能对比PPL LLM只支持baichuan、chatglm、llama三个模型，Tensor-LLM支持几乎所有大模型。 TensorRT-LLM使用起来更方便模型量化TensorRT-LLM是离线量化，支持更多的量化方法，smooth quant、weight only、AWQ等PPL LLM是实时量化（i8i8），支持整个网络一起量化 模型DeployTensorRT-LLM量化结束，不需要deploy中间模型，直接进入编译器。部分模型可以支持onnx可视化PPL LLM不需要deploy以及编译，直接用onnx调算子。 /docs/llama_guide.md at master · openppl-public/ppl.llm.serving (github.com)TensorRT LLM原模型-->量化-->编译 两个框架都是tensor并行框架依赖Tensor-LLM需要依赖tensorrt，但主要是一些单算子（卷积、激活函数、gemm等），融合算子都是Tensor-LLM自带的。PPL LLM没有依赖
1.2K30编辑于 2023-11-21 CSS工程化
样式、公共样式可以单独抽离，这样就形成了不同于过去的css文件结构：文件更多、拆分的更细 而同时，在真实的运行环境下，我们却希望文件越少越好，这种情况和JS遇到的情况是一致的，因此，对于css，也需要工程化管理 从另一个角度来说，css的工程化会遇到更多的挑战，因为css不像JS，它的语法本身经过这么多年并没有发生多少的变化（css3也仅仅是多了一些属性而已），对于css语法本身的改变也是一个工程化的课题 如何解决 CSS工程化面临着诸多问题，而解决这些问题的方案多种多样。如果把CSS单独拎出来看，光是样式本身，就有很多事情要处理。 既然有这么多事情要处理，何不把这些事情集中到一起统一处理呢？ 最后 若本文对于 CSS工程化 阅读有任何错误的地方，欢迎大家给我提意见，一定虚心听取你们的指正，若觉得不错的，也可以点个「star」 支持一下我。
1.2K31编辑于 2022-08-11- 来自专栏iOS小生活
工程化（三）
DumpHeaderMap就是一个工具，其作用就是将.hmap文件中的内容解析展示出来。
2.5K40编辑于 2023-09-01 - 来自专栏js笔记
webpack工程化
⼤家⼀开始使⽤ npm 安装依赖包时，肯定感受过那挤⽛膏般的下载速度，上⽹⼀查只需要将 npm 源设 置为淘宝镜像源就⾏，在控制台执⾏⼀下以下命令： npm config set registry https://registry.npm.taobao.org
53820编辑于 2022-10-25 - 来自专栏人工智能与演化计算成长与进阶
16推荐系统3-4协同过滤算法
和这个用户对此影片的评价，理论上我们能够通过用户对电影类型的喜好，和用户对此电影的评价来推断出电影的特征向量的
90511发布于 2020-08-14
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号