- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI系统
【AI系统】AI系统架构的组成
AI 系统组成如图所示，大致可以将 AI 系统分为以下几个具体的方向：AI 训练与推理框架AI 框架不仅仅是指如 PyTorch 等训练框架，还包括推理框架。 就像传统的软件工程中调试器，可视化，类型系统等工具链的支撑，让整个开发过程中，跨平台，跨平台，问题诊断，缺陷验证等得以高效实现，目前 AI 系统领域也不断有类似工具产生，以支持整个 AI 工程化实践。 AI 编译与计算架构负责 AI 模型在真正运行前的编译和系统运行时的动态调度与优化。 但是我们将在后续章节中，将会围绕核心系统软硬件，如 AI 训练和推理框架，AI 编译器，AI 芯片，部分涉及更广泛的 AI 系统生态中的重要内容如算法等展开介绍。 AI 系统生态除了以上重要的 AI 系统构成之外，随着人工智能应用越来越广泛，我们还可以看到更广泛的 AI 系统生态的构成。
1.6K11编辑于 2024-11-26 - 来自专栏h5
vue3-deepseek-webai网页版AI Chat系统|vite7+arco+deepseek流式ai模板
2026/1開年最新实战vite7.x+vue3.5+arco+deepseek从0-1纯手搓网页端ai对话系统。 finish_reason === 'stop') { // ... }}Okay，以上就是vue3接入deepseek搭建网页版ai对话系统的一些项目分享。希望对大家有点帮助~
57520编辑于 2026-01-07 转载：【AI系统】AI系统架构的组成
AI 系统组成 如图所示，大致可以将 AI 系统分为以下几个具体的方向： AI 训练与推理框架 AI 框架不仅仅是指如 PyTorch 等训练框架，还包括推理框架。 就像传统的软件工程中调试器，可视化，类型系统等工具链的支撑，让整个开发过程中，跨平台，跨平台，问题诊断，缺陷验证等得以高效实现，目前 AI 系统领域也不断有类似工具产生，以支持整个 AI 工程化实践。 AI 编译与计算架构负责 AI 模型在真正运行前的编译和系统运行时的动态调度与优化。 但是我们将在后续章节中，将会围绕核心系统软硬件，如 AI 训练和推理框架，AI 编译器，AI 芯片，部分涉及更广泛的 AI 系统生态中的重要内容如算法等展开介绍。 AI 系统生态 除了以上重要的 AI 系统构成之外，随着人工智能应用越来越广泛，我们还可以看到更广泛的 AI 系统生态的构成。
2.3K10编辑于 2024-12-11Signal #7：前沿 AI Coding 的分水岭，开始从 Agent 转向系统
Info 本周 Signal 是我持续记录 AI 与软件工程变化的栏目。 不追热点，只记录那些正在发生、且值得长期跟踪的变化。 欢迎交流和关注～ 最近一个越来越明显的感受是，前沿 AI Coding 的讨论，正在慢慢从“Agent 会不会做”，转向“系统能不能支撑 Agent 稳定做完”。 它们表面上谈的是不同能力，底层其实都在回答一个越来越现实的问题：当 Agent 开始承担更长链路的任务，什么样的系统，才能让它持续工作，而不是中途漂移、失控或者反复重来。 这意味着，前沿 AI Coding 的差距，正在不只是体现在模型会不会生成代码。 收敛一点说： 前沿 AI Coding 的下一阶段，拼的可能已经不只是 Agent 能做多少， 而是谁先把围绕任务表达、执行推进与结果验证的系统能力，组织成一个可持续运行的整体。
14100编辑于 2026-05-18- 来自专栏AI系统
【AI系统】AI系统概述与设计目标
AI 系统全栈架构 通过对 AI 的发展、以及模型算法、硬件与数据的趋势介绍，我们已经了解了 AI 系统的重要性。 本文将介 AI 系统的设计目标、组成和生态，让读者形成 AI 系统的知识体系，为后续展开每篇文章的内容做好铺垫。 接下来将从不同的维度和技术层面展开 AI 系统的全景图。 AI 系统概述 AI 系统基本概念 从类比的角度理解 AI 系统：AI 时代连接硬件和上层应用的中间层软硬件基础设施。 AI 系统。 所介绍的 AI 全栈相关内容中则是指 AI 系统（AI System），是围绕深度学习而衍生和设计的系统，因此也叫做深度学习系统（Deep Learning System）。
73210编辑于 2024-12-02 - 来自专栏各类技术文章~
Centos 7 升级系统内核
Centos 7 升级系统内核 我们使用 Linux 来表示整个操作系统，但严格地来说，Linux 只是个内核。 各种发行版（RedHat、ubuntu、CentOS等）是一个完整功能的系统，它建立在内核之上，具有各种各样的应用程序工具和库。 在正常操作期间，内核负责执行两个重要任务： 1、作为硬件和系统上运行的软件之间的接口。 2、尽可能高效地管理系统资源。 为此，内核通过内置的驱动程序或以后可作为模块安装的驱动程序与硬件通信。 为了展示当前系统中已安装的版本，我们可以使用以下命令： uname -sr uname -a cat /proc/version 复制代码 大多数现代发行版提供了使用 yum 等包管理系统和官方支持的仓库升级内核的方法 default/grub [root@vm1 ~]# grub2-mkconfig -o /boot/grub2/grub.cfg [root@vm1 ~]# reboot 复制代码 1、查看当前系统内核
1.9K00编辑于 2021-12-24 - 来自专栏java后端
centos7系统安装
今日主题:Centos7安装 安装过程 1.自定义安装 2.下一步 3.选择稍后安装操作系统 4.操作系统的选择 5.虚拟机位置与命名 虚拟机名称就是一个名字，在虚拟机多的时候方便自己找到。 下一步 自定义硬件 系统安装 首先设置时间，时区选择上海 选择需要安装的软件 开始安装 设置密码 设置完成之后等待就安装完成了。
68310发布于 2021-05-13 - 来自专栏ShowMeAI研究中心
NLP教程(7) - 问答系统
[NLP中的问答系统] ShowMeAI为CS224n课程的全部课件，做了中文翻译和注释，并制作成了 GIF动图！点击 第10讲-NLP中的问答系统 查看的课件注释与带学解读。 本篇笔记对应斯坦福CS224n自然语言处理专项课程的知识板块：问答系统。主要针对NLP中的问答系统场景，介绍了一些模型和思路。 QA 系统不需要用户通读整个文档，而是倾向于给出一个简短的答案。 现在， QA 系统可以很容易地与其他 NLP 系统(如聊天机器人)结合起来，有些 QA 系统甚至超越了文本文档的搜索，可以从一组图片中提取信息。 通过阅读文档或一组指令，智能系统应该能够回答各种各样的问题。 我们可以要求句子的 POS 标签，我们可以要求系统用不同的语言来响应。 因此，很自然地，我们想设计一个可以用于一般 QA 的模型。
1.2K21编辑于 2022-05-11 - 来自专栏ClearSeve
Windows7 系统优化
加速了固态硬盘的寿命损耗禁用, 机械键盘自动 Windows Defender 禁用 Windows Update 禁用 Windows Search 文件索引 修改 虚拟内存 环境变量的用户变量和系统变量的
3.4K50编辑于 2022-02-11 - 来自专栏青灯古酒
Windows 7 操作系统
2.2.1Windows7的基础知识 Windows 7 的主要特性有： 更简单 更安全 更好的连接 更低的成本 安装Windows7操作系统所需的硬件配置 Windows 7系统的软件需求只是指对硬盘系统的要求 安装Windows 7系统的硬盘分期必须采用NTFS结构，要确保至少有16GB的可用空间，最好能提供40GB可用空间的分区供安装使用。 3.窗口 Windows7操作系统及其应用程序采用图形化界面，只要运行某个应用程序或打开某个文档，就会对应出现一个矩形区域，这个矩形区域称为窗口。 Windows 7是一个多任务操作系统，允许多个程序同时运行，但是在某一时刻，只能有一个窗口处于活动状态。 2）“开始”菜单 “开始”菜单中存放着Windows 7 的绝大多数命令和安装到系统里面的所有程序，是操作系统的中央控制区域。
6.7K30编辑于 2023-10-16 - 来自专栏John Wong's Blog
Centos7系统巡检
这周闲得慌，就根据需求写了差不多20个脚本（部分是之前分享过的做了一些改进），今天主要分享一个给平时运维人员用的centos7系统巡检的脚本，或者排查问题检查系统情况也可以用.. 实用脚本 #! getSystemStatus(){ echo "" echo -e "\033[33m****************************************************系统检查 *up \([^,]*\), .*/\1/') echo " 系统：$OS" echo " 发行版本：$Release" echo " 内核：$Kernel" =$(free -m | awk 'NR==2' | awk '{print $2}') #获得占用内存（操作系统 角度） system_memery_used=$(free -m | awk 'NR -56.el7.noarch 2018年05月07日 星期一 11时32分42秒 iwl6000g2a-firmware-17.168.5.3-56.el7.noarch 2018年05月07日
1.1K41编辑于 2021-12-23 - 来自专栏开源部署
CentOS 7 系统部署 RabbitMQ
Linux系统：CentOS7 1、安装系统 基础设施服务器：Java平台、Linux远程管理、开发工具 2、打开网络连接： （1）cd /etc/sysconfig/network-scripts/ selinux 把里边的一行改为 SELINUX=disabled 4、安装Erlang su -c 'rpm -Uvh http://download.Fedoraproject.org/pub/epel/7/ x86_64/e/epel-release-7-5.noarch.rpm' sudo yum install erlang 检查是否安装好： [root@localhost /]# erl Erlang rabbitmq_management 6、启动RabbitMQ chkconfig rabbitmq-server on /sbin/service rabbitmq-server start 7、
67010编辑于 2022-07-08 - 来自专栏用户8015575的专栏
win7系统怎么瘦身 win7电脑系统怎么瘦身
来源：yunqishi.net win7系统怎么瘦身？今天跟大家分享下方法，希望能帮到大家。 打开控制面板，点击“系统” 点击左侧“高级系统设置” 在打开的“系统”属性对话框中，点击第一个设置按钮 打开“高级”选项卡，在虚拟内存处点击“更改” 开始设置虚拟内存了，首先关闭C盘的虚拟内存，选择无分页文件并点击
4.5K20发布于 2020-12-21 - 来自专栏AI系统
【AI系统】AI 框架作用
本文将从深度学习的原理开始，进而深入地讨论在实现深度学习的计算过程中使用到的 AI 框架，看看 AI 框架具体的作用和目的。 这种模拟生物神经元的数学计算，能够很好地对大规模独立同分布的数据进行非线性映射和处理，使得其能够应对到 AI 的不同任务。函数逼近现在，如果把神经网络看做一个复杂函数，那么这个函数可以逼近任何函数。 AI 框架的作用AI 框架与微分关系根据深度学习的原理，AI 框架最核心和基础的功能是自动求导（后续统一称为自动微分，AutoGrad）。 AI 框架与程序结合下面左图的公式是神经网络表示的复合函数表示，蓝色框框表示的是 AI 框架，AI 框架给开发者提供构建神经网络模型的数学操作，AI 框架把复杂的数学表达，转换成计算机可识别的计算图。 这一过程，只要你定义好网络 AI 框架都会主动地帮我们完成。
51710编辑于 2024-12-06 分享一个小白可用的宝藏AI建站系统，7大 AI 场景，建站效率提升200%
3年前ChatGPT的横空出世，让AI技术席卷全球。而今天，当你还在用传统方式建站时，很多人已经开始用AI建站系统开始做网站了！ 今天分享一个宝藏AI建站系统——腾讯云官网建站，他们不是简单地在系统中加入AI功能哦，而是让AI助手成为您的24小时建站团队，从视觉设计到网站搭建、再到网站文章更新，全程智能辅助你！ 三、AI自动发文：建站系统会根据你提前设定的网站推广词，每天自动更新一篇含有配图的原创文章。比起单独的纯文字，百度或谷歌其实更喜欢这一类含有图文的文章，有利于提高网站的收录。 五、AI翻译：升级当前主流的AI大模型翻译接口，帮您提高网站页面、产品、文章的翻译精准度。 七、AI智能客服：升级【AI智能客服】，支持回复图片和文字。让你的网站7×24h不打烊，自动回复客户的问题，不错过客户的任何一条留言，提高公司的专业形象。
96520编辑于 2025-07-23- 来自专栏AI系统
【AI系统】推理系统架构
推理系统架构是 AI 领域中的一个关键组成部分，它负责将训练好的模型应用于实际问题，从而实现智能决策和自动化。 多框架支持：兼容 TensorFlow、PyTorch、ONNX 等主流 AI 框架。模型优化：集成 TensorRT 等优化工具，进一步提升模型推理性能。 作为一个强大的推理框架，Triton 能够满足多样化的 AI 应用需求，帮助企业和开发者构建高效、可靠的推理服务。 这一功能基于其动态模型发现与加载机制，使得 AI 应用能够迅速适应市场需求变化，如模型精度提升、新功能上线等。配合版本控制和滚动更新策略，可确保服务连续性不受影响。 因此，自定义的后端推理引擎必须实现上述 7 个 API。接下来，我们将详细讲解如何开发自定义的后端推理引擎。Ⅰ.
2K10编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】AI 框架之争
因此，一个能够商用版本的 AI 框架，需要系统性梳理每一层中遇到的具体问题，以便提供相关更好的开发特性：前端（面向用户）：如何灵活的表达一个神经网络模型？ AI 框架的目的是为了在计算加速硬件（GPU/NPU）和 AI 集群上高效训练神经网络而设计的可编程系统，需要同时兼顾以下互相制约设计目标可编程性与性能。Ⅰ. AI 框架的发展AI 框架作为智能经济时代的中枢，是 AI 开发环节中的基础工具，承担着 AI 技术生态中操作系统的角色，是 AI 学术创新与产业商业化的重要载体，助力 AI 由理论走入实践，快速进入了场景化应用时代 国内百度则率先布局了 PaddlePaddle 飞桨 AI 框架并于 2016 年发布。在 AI 框架的爆发阶段，AI 系统也迎来了繁荣，而在不断发展的基础上，各种框架不断迭代，也被开发者自然选择。 TensorFlow 和 PyTorch 代表了现今 AI 框架框架的两种不同的设计路径：系统性能优先改善灵活性，和灵活性易用性优先改善系统性能。
58311编辑于 2024-12-06 - 来自专栏AI系统
【AI系统】AI 系统与程序代码关系
模型算法的开发者一般会通过使用 AI 框架提供 Python 等高级语言的 API，来编写对应的 AI 算法，而 AI 算法的底层系统问题被当前层抽象隐藏。 到底在代码背后 AI 系统的每一层发生和执行了什么？有哪些有意思的系统设计问题？ 以 Conv2D 转换为如下 7 层循环进行 Kerenl 计算的代码： # 批尺寸维度 batch_size for n in range(batch_size): # 输出张量通道维度 output_channel 底层通过层层抽象，提升了开发效率，但是对系统研发却隐藏了众多细节，需要 AI 系统开发的工程师进一步探究。 如果没有 AI 框架、AI 编译器和算子库的支持，算法工程师进行简单的神经网络模型设计与开发都会举步维艰，所以应该看到 AI 算法本身飞速发展的同时，也要看到底层系统对提升整个算法研发的生产力起到了不可或缺的作用
66110编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】推理系统引言
推理的最终目标，便是将训练好的模型部署到实际的生产环境中，使 AI 真正运行起来，服务于日常生活。推理系统，是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。 它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。推理系统会加载模型到内存，并进行版本管理，确保新版本能够顺利上线，旧版本能够安全回滚。 推理引擎，则是推理系统中的重要组成部分，它主要负责 AI 模型的加载与执行。 人工客服应用推理引擎或推理系统在人工客服和 AI 对话方面有广泛的应用。以下是一些相关的内容：智能客服：推理引擎可以用于实现智能客服系统，能够理解用户的问题并提供准确的答案。 对话管理：在 AI 对话中，推理引擎可以帮助系统理解用户的意图和需求，并根据这些信息来引导对话的流向。它可以根据用户的输入和历史对话记录，预测用户可能的问题和需求，并提供相应的回答和建议。
1.3K10编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】推理系统介绍
推理系统是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。 AI 生命周期在日常生活中，深度学习的相关方法已经广泛的部署到各类的应用当中。 由于 HMS Core 需要为全球用户提供服务，因此它必须保持 7 \times 24 小时不间断运行，类似于传统的在线服务模式。 根据上图示的 AI 框架、推理系统与硬件之间的关系，可以看到，除了应对应用场景的多样化需求，推理系统还需克服由不同训练框架和推理硬件所带来的部署环境多样性挑战，这些挑战不仅增加了部署优化和维护的难度，而且易于出错 需要考虑到 AI 框架的不断更新，特别是针对训练优化的迭代，而某些框架甚至不支持在线推理，系统需要具备足够的兼容性。为了支持多种框架，可以利用模型转换工具，将不同框架的模型转换为一种通用的中间表示。
1.8K10编辑于 2024-12-02
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号