- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI系统
【AI系统】AI系统架构的组成
AI 系统组成如图所示，大致可以将 AI 系统分为以下几个具体的方向：AI 训练与推理框架AI 框架不仅仅是指如 PyTorch 等训练框架，还包括推理框架。 就像传统的软件工程中调试器，可视化，类型系统等工具链的支撑，让整个开发过程中，跨平台，跨平台，问题诊断，缺陷验证等得以高效实现，目前 AI 系统领域也不断有类似工具产生，以支持整个 AI 工程化实践。 AI 编译与计算架构负责 AI 模型在真正运行前的编译和系统运行时的动态调度与优化。 但是我们将在后续章节中，将会围绕核心系统软硬件，如 AI 训练和推理框架，AI 编译器，AI 芯片，部分涉及更广泛的 AI 系统生态中的重要内容如算法等展开介绍。 AI 系统生态除了以上重要的 AI 系统构成之外，随着人工智能应用越来越广泛，我们还可以看到更广泛的 AI 系统生态的构成。
1.4K11编辑于 2024-11-26 转载：【AI系统】AI系统架构的组成
AI 系统组成 如图所示，大致可以将 AI 系统分为以下几个具体的方向： AI 训练与推理框架 AI 框架不仅仅是指如 PyTorch 等训练框架，还包括推理框架。 就像传统的软件工程中调试器，可视化，类型系统等工具链的支撑，让整个开发过程中，跨平台，跨平台，问题诊断，缺陷验证等得以高效实现，目前 AI 系统领域也不断有类似工具产生，以支持整个 AI 工程化实践。 AI 编译与计算架构负责 AI 模型在真正运行前的编译和系统运行时的动态调度与优化。 但是我们将在后续章节中，将会围绕核心系统软硬件，如 AI 训练和推理框架，AI 编译器，AI 芯片，部分涉及更广泛的 AI 系统生态中的重要内容如算法等展开介绍。 AI 系统生态 除了以上重要的 AI 系统构成之外，随着人工智能应用越来越广泛，我们还可以看到更广泛的 AI 系统生态的构成。
2.1K10编辑于 2024-12-11- 来自专栏AI系统
【AI系统】AI系统概述与设计目标
AI 系统全栈架构 通过对 AI 的发展、以及模型算法、硬件与数据的趋势介绍，我们已经了解了 AI 系统的重要性。 本文将介 AI 系统的设计目标、组成和生态，让读者形成 AI 系统的知识体系，为后续展开每篇文章的内容做好铺垫。 接下来将从不同的维度和技术层面展开 AI 系统的全景图。 AI 系统概述 AI 系统基本概念 从类比的角度理解 AI 系统：AI 时代连接硬件和上层应用的中间层软硬件基础设施。 AI 系统。 所介绍的 AI 全栈相关内容中则是指 AI 系统（AI System），是围绕深度学习而衍生和设计的系统，因此也叫做深度学习系统（Deep Learning System）。
62810编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】AI 框架作用
本文将从深度学习的原理开始，进而深入地讨论在实现深度学习的计算过程中使用到的 AI 框架，看看 AI 框架具体的作用和目的。 这种模拟生物神经元的数学计算，能够很好地对大规模独立同分布的数据进行非线性映射和处理，使得其能够应对到 AI 的不同任务。函数逼近现在，如果把神经网络看做一个复杂函数，那么这个函数可以逼近任何函数。 AI 框架的作用AI 框架与微分关系根据深度学习的原理，AI 框架最核心和基础的功能是自动求导（后续统一称为自动微分，AutoGrad）。 AI 框架与程序结合下面左图的公式是神经网络表示的复合函数表示，蓝色框框表示的是 AI 框架，AI 框架给开发者提供构建神经网络模型的数学操作，AI 框架把复杂的数学表达，转换成计算机可识别的计算图。 这一过程，只要你定义好网络 AI 框架都会主动地帮我们完成。
45110编辑于 2024-12-06 - 来自专栏AI系统
【AI系统】AI 框架之争
因此，一个能够商用版本的 AI 框架，需要系统性梳理每一层中遇到的具体问题，以便提供相关更好的开发特性：前端（面向用户）：如何灵活的表达一个神经网络模型？ AI 框架的目的是为了在计算加速硬件（GPU/NPU）和 AI 集群上高效训练神经网络而设计的可编程系统，需要同时兼顾以下互相制约设计目标可编程性与性能。Ⅰ. AI 框架的发展AI 框架作为智能经济时代的中枢，是 AI 开发环节中的基础工具，承担着 AI 技术生态中操作系统的角色，是 AI 学术创新与产业商业化的重要载体，助力 AI 由理论走入实践，快速进入了场景化应用时代 国内百度则率先布局了 PaddlePaddle 飞桨 AI 框架并于 2016 年发布。在 AI 框架的爆发阶段，AI 系统也迎来了繁荣，而在不断发展的基础上，各种框架不断迭代，也被开发者自然选择。 TensorFlow 和 PyTorch 代表了现今 AI 框架框架的两种不同的设计路径：系统性能优先改善灵活性，和灵活性易用性优先改善系统性能。
49711编辑于 2024-12-06 - 来自专栏AI系统
【AI系统】推理系统架构
推理系统架构是 AI 领域中的一个关键组成部分，它负责将训练好的模型应用于实际问题，从而实现智能决策和自动化。 多框架支持：兼容 TensorFlow、PyTorch、ONNX 等主流 AI 框架。模型优化：集成 TensorRT 等优化工具，进一步提升模型推理性能。 作为一个强大的推理框架，Triton 能够满足多样化的 AI 应用需求，帮助企业和开发者构建高效、可靠的推理服务。 此外，Triton 还能自动利用硬件加速特性，如 FP16、INT8 量化，进一步提升吞吐量和降低延迟。 这一功能基于其动态模型发现与加载机制，使得 AI 应用能够迅速适应市场需求变化，如模型精度提升、新功能上线等。配合版本控制和滚动更新策略，可确保服务连续性不受影响。
1.6K10编辑于 2024-12-02 转载：【AI系统】AI系统概述与设计目标
AI 系统全栈架构 通过对 AI 的发展、以及模型算法、硬件与数据的趋势介绍，我们已经了解了 AI 系统的重要性。 本文将介 AI 系统的设计目标、组成和生态，让读者形成 AI 系统的知识体系，为后续展开每篇文章的内容做好铺垫。 接下来将从不同的维度和技术层面展开 AI 系统的全景图。 AI 系统概述 AI 系统基本概念 从类比的角度理解 AI 系统：AI 时代连接硬件和上层应用的中间层软硬件基础设施。 AI 系统。 所介绍的 AI 全栈相关内容中则是指 AI 系统（AI System），是围绕深度学习而衍生和设计的系统，因此也叫做深度学习系统（Deep Learning System）。
86121编辑于 2024-12-11- 来自专栏AI系统
【AI系统】AI 系统与程序代码关系
模型算法的开发者一般会通过使用 AI 框架提供 Python 等高级语言的 API，来编写对应的 AI 算法，而 AI 算法的底层系统问题被当前层抽象隐藏。 到底在代码背后 AI 系统的每一层发生和执行了什么？有哪些有意思的系统设计问题？ 本文我们将从一个具体的 PyTorch 实现一个 LeNet5 神经网络模型作为实例开始，启发读者和后面 AI 系统的每一层和各篇文章构建起桥梁与联系。 底层通过层层抽象，提升了开发效率，但是对系统研发却隐藏了众多细节，需要 AI 系统开发的工程师进一步探究。 如果没有 AI 框架、AI 编译器和算子库的支持，算法工程师进行简单的神经网络模型设计与开发都会举步维艰，所以应该看到 AI 算法本身飞速发展的同时，也要看到底层系统对提升整个算法研发的生产力起到了不可或缺的作用
56410编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】推理系统介绍
推理系统是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。 AI 生命周期在日常生活中，深度学习的相关方法已经广泛的部署到各类的应用当中。 其中，对于关键点的检测可以通过如 Faster R-CNN、YOLO 等 AI 模型进行输入到输出的映射与转换。 根据上图示的 AI 框架、推理系统与硬件之间的关系，可以看到，除了应对应用场景的多样化需求，推理系统还需克服由不同训练框架和推理硬件所带来的部署环境多样性挑战，这些挑战不仅增加了部署优化和维护的难度，而且易于出错 需要考虑到 AI 框架的不断更新，特别是针对训练优化的迭代，而某些框架甚至不支持在线推理，系统需要具备足够的兼容性。为了支持多种框架，可以利用模型转换工具，将不同框架的模型转换为一种通用的中间表示。
1.4K10编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】推理系统引言
推理的最终目标，便是将训练好的模型部署到实际的生产环境中，使 AI 真正运行起来，服务于日常生活。推理系统，是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。 它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。推理系统会加载模型到内存，并进行版本管理，确保新版本能够顺利上线，旧版本能够安全回滚。 推理引擎，则是推理系统中的重要组成部分，它主要负责 AI 模型的加载与执行。 低比特量化是一种将模型权重和激活值从浮点数转换为低比特整数（如 8 位、4 位甚至更低）的技术。通过减少表示每个数值所需的比特数，可以显著减少模型的大小和内存占用，同时加速推理过程。 人工客服应用推理引擎或推理系统在人工客服和 AI 对话方面有广泛的应用。以下是一些相关的内容：智能客服：推理引擎可以用于实现智能客服系统，能够理解用户的问题并提供准确的答案。
1.1K10编辑于 2024-12-02 - 来自专栏开源部署
安装CentOS 8 linux 系统
，所以从可靠性，硬件兼容性，以及生命周期上来讲无疑是最好的选择，而且CentOS还是一个免费的软件，接下来我们看一下CentOS如何安装 二、CentOS的安装流程 安装前的准备：CentOS8光盘镜像 2、安装源：系统安装方式，有网络、光盘等，这里本地介质代表光盘安装。 3、系统安装目的地：系统安装在哪块硬盘 4、语言支持：系统语言，这里默认中文，如果喜欢英文或者其他，这里可以设置。 7、时间和日期：设置时区、日期、时间的地方 8、网络和主机名：设置网卡信息和计算机名称的地方 9、安全策略：安全访问策略 step 5： 安装信息设置 键盘：默认即可 软件：安装源设置，默认即可，本地介质代表本地光盘安装 点击根密码选项来设置密码，如果有需求的可以通过创建用户选项来建立一个新用户 step 7: 设置root密码，两遍输入要一致，如果是弱密码需要点击两次完成，也可以设置大小写字母+数字+特殊符号的这种强密码 step 8: 完成安装之后我们来重启 step 10: 重启完成之后我们可以看到有一个初始设置，在这里面我们能看到有一个授权 step 11: 接受许可协议，点击完成 step 12: 结束配置 以上就是CentOS8的安装流程
10.8K30编辑于 2022-09-15 - 来自专栏AI系统
【AI系统】MobileFormer
nn.Module): def __init__(self, in_channel, expand_size, out_channel, d_model, stride=1, k=2, head=8,
28810编辑于 2024-12-05 AI质控系统
这些痛点倒逼行业寻求智能化解决方案，而AI质控系统的出现恰逢其时，为制造业质量管控带来革命性突破。 一、传统质检与AI方案的场景化对比在核心检测维度上，传统方式与AI增强方案呈现显著差异：视觉识别精度方面，传统人工检测受疲劳度影响，精度≤85%，而AI方案依托深度学习模型，精度可达≥99.2%；响应速度上 二、核心技术架构解析现代AI质控系统采用多模态融合感知技术，整合工业相机、激光测距仪、红外热成像等设备采集的数据流。 三、实施路径规划建议企业导入AI质控系统应遵循三步走战略：首先是局部试点阶段，选择标准化程度高的单一工序进行验证，快速验证技术可行性与业务适配性；其次是横向拓展期，打通上下游工序的数据链路，形成质量闭环管控 五、未来演进方向与创新应用延伸随着边缘计算与5G技术的普及，下一代AI质控系统将呈现三大趋势：一是轻量化部署，通过模型压缩技术实现终端设备的本地化推理，降低对云端算力的依赖；二是跨域协同能力增强，支持多工厂间的联合质量建模
38710编辑于 2025-10-16- 来自专栏PyQt+YOLO
【AI加持】基于PyQt5+YOLOv8+DeepSeek的老鼠检测系统（详细介绍）
@[toc]本系统功能强大！支持对图片、视频、视频流、摄像头中的老鼠进行检测，支持多种数据数据源输入并且接入了AI实现了对当前分析结果的评估，欢迎了解！ 本项目基于PyQt5、YOLOv8和DeepSeek构建了一套老鼠检测系统。PyQt5为系统提供了图形化交互界面，使用户能够直观地操作和查看监测结果，提高了使用便利性和操作效率。 4.AI（DeepSeek）智能分析将YOLOv8球体检测系统与DeepSeek等AI大模型深度融合，能够实现从“单纯检测”到“智能认知”的跨越式升级。 这里是软件的另外一个核心：AI智能分析，我们的目标检测系统接入了DeepSeek大模型，支持对当前检测结果数据进行AI分析，AI会通过不同维度对当前检测结果进行多角度分析，最后生成检测结果分析报告，用户可以根据这个结果对系统进行调整 本次给大家介绍了我使用PyQt5+YOLOv8+DeepSeek的老鼠检测测系统，本系统功能强大，支持多种数据源输入，包含多种用户交互按钮以及模式，内置数据可视化方案、大模型AI加持，是您学习、工作使用的不错选择
57131编辑于 2025-12-13 - 来自专栏PyQt+YOLO
【AI加持】基于PyQt5+YOLOv8+DeepSeek的钢筋点数系统（详细介绍）
本系统功能强大！支持对图片、视频、视频流、摄像头中的支持对钢筋数量进行统计，支持多种数据数据源输入并且接入了AI实现了对当前分析结果的评估，欢迎了解！ 2.本系统相对传统钢筋点数的优势基于PyQt5+YOLOv8+DeepSeek的钢筋点数系统相比传统人工点数方式具有显著优势。 4.AI（DeepSeek）智能分析将YOLOv8球体检测系统与DeepSeek等AI大模型深度融合，能够实现从“单纯检测”到“智能认知”的跨越式升级。 这里是软件的另外一个核心：AI智能分析，我们的目标检测系统接入了DeepSeek大模型，支持对当前检测结果数据进行AI分析，AI会通过不同维度对当前检测结果进行多角度分析，最后生成检测结果分析报告，用户可以根据这个结果对系统进行调整 本次给大家介绍了我使用PyQt5+YOLOv8+DeepSeek的钢筋点数系统，本系统功能强大，支持多种数据源输入，包含多种用户交互按钮以及模式，内置数据可视化方案、大模型AI加持，是您学习、工作使用的不错选择
40810编辑于 2025-12-14 转载:【AI系统】AI 框架之争
因此，一个能够商用版本的 AI 框架，需要系统性梳理每一层中遇到的具体问题，以便提供相关更好的开发特性：前端（面向用户）：如何灵活的表达一个神经网络模型？ AI 框架的目的是为了在计算加速硬件（GPU/NPU）和 AI 集群上高效训练神经网络而设计的可编程系统，需要同时兼顾以下互相制约设计目标可编程性与性能。Ⅰ. AI 框架的发展AI 框架作为智能经济时代的中枢，是 AI 开发环节中的基础工具，承担着 AI 技术生态中操作系统的角色，是 AI 学术创新与产业商业化的重要载体，助力 AI 由理论走入实践，快速进入了场景化应用时代 国内百度则率先布局了 PaddlePaddle 飞桨 AI 框架并于 2016 年发布。在 AI 框架的爆发阶段，AI 系统也迎来了繁荣，而在不断发展的基础上，各种框架不断迭代，也被开发者自然选择。 TensorFlow 和 PyTorch 代表了现今 AI 框架框架的两种不同的设计路径：系统性能优先改善灵活性，和灵活性易用性优先改善系统性能。
31510编辑于 2024-12-13转载：【AI系统】推理系统介绍
推理系统是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。 AI 生命周期在日常生活中，深度学习的相关方法已经广泛的部署到各类的应用当中。 其中，对于关键点的检测可以通过如 Faster R-CNN、YOLO 等 AI 模型进行输入到输出的映射与转换。 根据上图示的 AI 框架、推理系统与硬件之间的关系，可以看到，除了应对应用场景的多样化需求，推理系统还需克服由不同训练框架和推理硬件所带来的部署环境多样性挑战，这些挑战不仅增加了部署优化和维护的难度，而且易于出错 需要考虑到 AI 框架的不断更新，特别是针对训练优化的迭代，而某些框架甚至不支持在线推理，系统需要具备足够的兼容性。为了支持多种框架，可以利用模型转换工具，将不同框架的模型转换为一种通用的中间表示。
94310编辑于 2024-12-12转载：【AI系统】推理系统架构
推理系统架构是 AI 领域中的一个关键组成部分，它负责将训练好的模型应用于实际问题，从而实现智能决策和自动化。 多框架支持：兼容 TensorFlow、PyTorch、ONNX 等主流 AI 框架。 模型优化：集成 TensorRT 等优化工具，进一步提升模型推理性能。 作为一个强大的推理框架，Triton 能够满足多样化的 AI 应用需求，帮助企业和开发者构建高效、可靠的推理服务。 此外，Triton 还能自动利用硬件加速特性，如 FP16、INT8 量化，进一步提升吞吐量和降低延迟。 这一功能基于其动态模型发现与加载机制，使得 AI 应用能够迅速适应市场需求变化，如模型精度提升、新功能上线等。配合版本控制和滚动更新策略，可确保服务连续性不受影响。
1.4K11编辑于 2024-12-12转载：【AI系统】推理系统引言
推理的最终目标，便是将训练好的模型部署到实际的生产环境中，使 AI 真正运行起来，服务于日常生活。推理系统，是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。 它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。推理系统会加载模型到内存，并进行版本管理，确保新版本能够顺利上线，旧版本能够安全回滚。 推理引擎，则是推理系统中的重要组成部分，它主要负责 AI 模型的加载与执行。 低比特量化是一种将模型权重和激活值从浮点数转换为低比特整数（如 8 位、4 位甚至更低）的技术。通过减少表示每个数值所需的比特数，可以显著减少模型的大小和内存占用，同时加速推理过程。 人工客服应用推理引擎或推理系统在人工客服和 AI 对话方面有广泛的应用。以下是一些相关的内容：智能客服：推理引擎可以用于实现智能客服系统，能够理解用户的问题并提供准确的答案。
85410编辑于 2024-12-12- 来自专栏Go语言学习专栏
8 - AI 服务化 - AI 超级智能体项目教程
本节重点 AI 服务化是指将原本只能本地运行的 AI 能力转化为可远程调用的接口服务，使更多人能够便捷地访问 AI 能力。 通过本节学习，你将掌握如何将 AI 智能体转变为可供他人调用的服务 具体内容包括： AI 应用接口开发 AI 智能体接口开发 在开始之前，先给大家提个醒，Spring AI 版本更新飞快，有些代码的写法随时可能失效 一、AI 应用接口开发 我们平时开发的大多数接口都是同步接口，也就是等后端处理完再返回。 一般 Linux 和 Mac 系统自带了 CURL 工具，打开终端，输入下列命令： curl 'http://localhost:8123/api/ai/interview_app/chat/sse? 点击接口旁边的绿豆就能自动生成测试代码： 二、AI 智能体接口开发 由于智能体执行过程通常包含多个步骤，执行时间较长，使用同步方法会导致用户体验不佳。
14710编辑于 2026-03-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号