- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI系统
【AI系统】谷歌 TPUv3 POD 形态
我们可以看到，左下角的 TPU v2 板卡上面有着四个芯片，散热全部依赖风冷，而 TPU v3 则使用水冷系统去管理四张芯片的温度，也就是这歌水冷系统为 TPU v3 提供了 1.6x 的功率。 在集群环境中，由于大规模的神经网络模型需要处理大量的数据，并且需要进行复杂的计算，因此往往是设备资源受限制，这就使得 AI 应用在集群环境中更倾向于 Device Bound。 AI 框架通过 RPC 远程连接到 TPU Host，基于 CPU 去控制 TPU 去实现真正的互联运作执行。 该服务器采用水冷系统，功率提升高达 1.6 倍，而模具尺寸仅比 TPU v2 增加 6%。 系统的性能受到最慢计算节点和网络中最慢消息传递速度的限制。因此，一个快速的网络连接对于实现快速训练至关重要。
66110编辑于 2024-11-27 转载：【AI系统】谷歌 TPUv3 POD 形态
我们可以看到，左下角的 TPU v2 板卡上面有着四个芯片，散热全部依赖风冷，而 TPU v3 则使用水冷系统去管理四张芯片的温度，也就是这歌水冷系统为 TPU v3 提供了 1.6x 的功率。 在集群环境中，由于大规模的神经网络模型需要处理大量的数据，并且需要进行复杂的计算，因此往往是设备资源受限制，这就使得 AI 应用在集群环境中更倾向于 Device Bound。 AI 框架通过 RPC 远程连接到 TPU Host，基于 CPU 去控制 TPU 去实现真正的互联运作执行。 该服务器采用水冷系统，功率提升高达 1.6 倍，而模具尺寸仅比 TPU v2 增加 6%。 系统的性能受到最慢计算节点和网络中最慢消息传递速度的限制。因此，一个快速的网络连接对于实现快速训练至关重要。
66510编辑于 2024-12-11- 来自专栏AI系统
【AI系统】AI系统架构的组成
AI 系统组成如图所示，大致可以将 AI 系统分为以下几个具体的方向：AI 训练与推理框架AI 框架不仅仅是指如 PyTorch 等训练框架，还包括推理框架。 就像传统的软件工程中调试器，可视化，类型系统等工具链的支撑，让整个开发过程中，跨平台，跨平台，问题诊断，缺陷验证等得以高效实现，目前 AI 系统领域也不断有类似工具产生，以支持整个 AI 工程化实践。 AI 编译与计算架构负责 AI 模型在真正运行前的编译和系统运行时的动态调度与优化。 但是我们将在后续章节中，将会围绕核心系统软硬件，如 AI 训练和推理框架，AI 编译器，AI 芯片，部分涉及更广泛的 AI 系统生态中的重要内容如算法等展开介绍。 AI 系统生态除了以上重要的 AI 系统构成之外，随着人工智能应用越来越广泛，我们还可以看到更广泛的 AI 系统生态的构成。
1.9K11编辑于 2024-11-26 转载：【AI系统】AI系统架构的组成
AI 系统组成 如图所示，大致可以将 AI 系统分为以下几个具体的方向： AI 训练与推理框架 AI 框架不仅仅是指如 PyTorch 等训练框架，还包括推理框架。 就像传统的软件工程中调试器，可视化，类型系统等工具链的支撑，让整个开发过程中，跨平台，跨平台，问题诊断，缺陷验证等得以高效实现，目前 AI 系统领域也不断有类似工具产生，以支持整个 AI 工程化实践。 AI 编译与计算架构负责 AI 模型在真正运行前的编译和系统运行时的动态调度与优化。 但是我们将在后续章节中，将会围绕核心系统软硬件，如 AI 训练和推理框架，AI 编译器，AI 芯片，部分涉及更广泛的 AI 系统生态中的重要内容如算法等展开介绍。 AI 系统生态 除了以上重要的 AI 系统构成之外，随着人工智能应用越来越广泛，我们还可以看到更广泛的 AI 系统生态的构成。
2.7K10编辑于 2024-12-11- 来自专栏智药邦
AI+DEL｜X-Chem推出新AI系统XD3加速药物发现
2022年4月19日，小分子药物发现DEL技术和AI技术公司X-Chem宣布推出XD3，这是X-Chem的动态药物发现系统，供生物制药合作伙伴和客户使用。 "大型数据集和人工智能的产生正在改变药物发现"，X-Chem首席执行官Matt Clark博士说，"我们相信我们的XD3动态药物发现生态系统将最大限度地利用我们最先进的技术，为新型和困难的疾病靶点开发创新药物 通过XD3，X-Chem的科学家将DEL、药物化学和人工智能无缝结合，以这些组合提供增强的小分子药物发现服务。 AI + DEL将ArtemisAI平台应用于DEL筛选数据的深度分析；我们可以预测新的hit，并扩大hit生成的化学空间的范围。 Med Chem + AI通过使用ArtemisAI的关键药理参数预测模型，加速了药物化学的发展。
50610编辑于 2022-06-08 - 来自专栏h5
2026新春之作跨端AI Chat系统|uniapp+vue3+deepseek流式ai模板
2026/2迎接新年实战uniapp+vue3+mphtml+deepseek从0-1纯手搓【h5+小程序+安卓】ai对话系统。 uni-vue3-deepseek新增深度思考链、代码复制、katex公式。支持运行到小程序+Web+安卓端。 技术知识点开发工具：HbuilderX 4.87技术框架：uni-app+vue3+pinia2+vite5大模型框架：DeepSeek-V3.2UI组件库：uni-ui+uv-ui高亮插件：highlight.jsmarkdown
53520编辑于 2026-02-10 AI客流分析系统技术架构：从3D感知到边缘AI数据输出
AI客流分析系统本质上是一套实时目标检测与时空数据处理系统。输入端是传感器数据，输出端是结构化客流数据，中间经过人体检测、深度计算、目标跟踪、轨迹判断、属性识别和数据聚合。 如果只从“统计人数”理解系统，很容易忽略真正决定性能的技术环节。本文按照系统架构拆解AI客流分析的完整数据链路。1. 系统总体架构典型AI客流分析系统可以划分为：┌──────────────────────────┐│ Sensor Layer ││ RGB / Stereo / Depth 轨迹分析Tracking之后，系统可以记录目标的位置序列：P1 → P2 → P3 → P4 → P5这条轨迹可以用于判断：EntryExitTurn-backDwellPass-byRe-entry例如设置一条虚拟线 L：Outside ↓ P1 ↓ P2--- L --- ↓ P3 ↓Inside只有目标轨迹真正穿越L，系统才产生Entry事件。
4200编辑于 2026-09-24- 来自专栏AI系统
【AI系统】推理系统架构
推理系统架构是 AI 领域中的一个关键组成部分，它负责将训练好的模型应用于实际问题，从而实现智能决策和自动化。 多框架支持：兼容 TensorFlow、PyTorch、ONNX 等主流 AI 框架。模型优化：集成 TensorRT 等优化工具，进一步提升模型推理性能。 作为一个强大的推理框架，Triton 能够满足多样化的 AI 应用需求，帮助企业和开发者构建高效、可靠的推理服务。 云模型仓库云模型仓库指的是将模型文件存储在云服务提供商的存储服务上，如谷歌 Cloud Platform (GCP)的 Cloud Storage 或 Amazon Web Services (AWS) 的 S3。 这一功能基于其动态模型发现与加载机制，使得 AI 应用能够迅速适应市场需求变化，如模型精度提升、新功能上线等。配合版本控制和滚动更新策略，可确保服务连续性不受影响。
2.6K10编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】AI 系统与程序代码关系
模型算法的开发者一般会通过使用 AI 框架提供 Python 等高级语言的 API，来编写对应的 AI 算法，而 AI 算法的底层系统问题被当前层抽象隐藏。 到底在代码背后 AI 系统的每一层发生和执行了什么？有哪些有意思的系统设计问题？ 如图中所示，输入张量形状（Tensor Shape）为 3 \times 32 \times 32 （3 代表通道数，32 代表张量高度和宽度），经过 2 \times 3 \times 5 \times 底层通过层层抽象，提升了开发效率，但是对系统研发却隐藏了众多细节，需要 AI 系统开发的工程师进一步探究。 如果没有 AI 框架、AI 编译器和算子库的支持，算法工程师进行简单的神经网络模型设计与开发都会举步维艰，所以应该看到 AI 算法本身飞速发展的同时，也要看到底层系统对提升整个算法研发的生产力起到了不可或缺的作用
91010编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】AI 框架作用
例如，第 2 层神经网络的神经元输出是第 3 层神经元的输入，输入的数据通过神经元上的激活函数（非线性函数如 tanh、sigmod 等），来控制输出的数值。 直观地看下一个简单的例子：假设 1 个圆圈代表一个神经元，那么一个神经元可模拟“与或非”3 种运算，3 个神经元组成包含 1 个隐层的神经网络即可以模拟异或运算。 AI 框架的作用AI 框架与微分关系根据深度学习的原理，AI 框架最核心和基础的功能是自动求导（后续统一称为自动微分，AutoGrad）。 假设用 3 组复合函数来表示一个简单的神经网络：现在定义深度学习中网络模型的损失函数，即优化目标：根据链式求导法则可以得到： 假设神经网络为上述公式 L_1,L_2, L_3 ，对损失函数求神经网络中各参数求偏导 AI 框架与程序结合下面左图的公式是神经网络表示的复合函数表示，蓝色框框表示的是 AI 框架，AI 框架给开发者提供构建神经网络模型的数学操作，AI 框架把复杂的数学表达，转换成计算机可识别的计算图。
67910编辑于 2024-12-06 - 来自专栏AI系统
【AI系统】AI系统概述与设计目标
AI 系统全栈架构 通过对 AI 的发展、以及模型算法、硬件与数据的趋势介绍，我们已经了解了 AI 系统的重要性。 本文将介 AI 系统的设计目标、组成和生态，让读者形成 AI 系统的知识体系，为后续展开每篇文章的内容做好铺垫。 接下来将从不同的维度和技术层面展开 AI 系统的全景图。 AI 系统概述 AI 系统基本概念 从类比的角度理解 AI 系统：AI 时代连接硬件和上层应用的中间层软硬件基础设施。 AI 系统。 所介绍的 AI 全栈相关内容中则是指 AI 系统（AI System），是围绕深度学习而衍生和设计的系统，因此也叫做深度学习系统（Deep Learning System）。
93710编辑于 2024-12-02 转载：【AI系统】AI系统概述与设计目标
AI 系统全栈架构 通过对 AI 的发展、以及模型算法、硬件与数据的趋势介绍，我们已经了解了 AI 系统的重要性。 本文将介 AI 系统的设计目标、组成和生态，让读者形成 AI 系统的知识体系，为后续展开每篇文章的内容做好铺垫。 接下来将从不同的维度和技术层面展开 AI 系统的全景图。 AI 系统概述 AI 系统基本概念 从类比的角度理解 AI 系统：AI 时代连接硬件和上层应用的中间层软硬件基础设施。 AI 系统。 所介绍的 AI 全栈相关内容中则是指 AI 系统（AI System），是围绕深度学习而衍生和设计的系统，因此也叫做深度学习系统（Deep Learning System）。
1.3K21编辑于 2024-12-11- 来自专栏机器之心
AI系统能否理解3D现实世界？Facebook做了这些研究
选自Facebook AI 作者：Georgia Gkioxari、Shubham Tulsiani、David Novotny 参与：魔王 Facebook 的博客详细介绍了其在 3D 内容理解领域的研究进展 要想解释现实世界，AI 系统必须理解三维视觉场景。而这需要机器人学、导航，甚至增强现实应用等等。 计算机视觉领域覆盖大量任务，而 3D 理解将对推进 AI 系统更准确地理解、解释现实世界并在其中运行起到核心作用。 当 AI 系统与其他感官结合起来时，如触觉和自然语言理解，这些系统（如虚拟助手）可以更加无缝地发挥作用。这一前沿研究帮助我们向着构建和人类一样更直观理解三维世界的 AI 系统更进了一步。 原文链接：https://ai.facebook.com/blog/pushing-state-of-the-art-in-3d-content-understanding/ 本文为机器之心编译，转载请联系本公众号获得授权
1.1K10发布于 2019-12-31 - 来自专栏AI系统
【AI系统】MobileFormer
Mobile（指 MobileNet）采用图像作为输入（X\in R^{HW \times 3} ），并应用反向瓶颈块提取局部特征。 其中所有块的 depth-wise 卷积的核大小为 3×3。 = nn.Conv2d(self.expand_size, self.out_channel, kernel_size=1, stride=1).cuda() self.bn3 = self.conv3(x))Former 子块：Former 子块是一个标准的 Transformer 块，包括一个多头注意力（MHA）和一个前馈网络（FFN）。 它以一个 3×3 的卷积作为 stem 和第一阶段的轻量瓶颈块，首先膨胀，然后通过 3×3 depth-wise 卷积和 point-wise 卷积压缩通道数。
41410编辑于 2024-12-05 - 来自专栏E条咸鱼
Linux系统入门-3
Linux文件权限 在Linux系统中，使用 ls-al命令查看文件的时候，通常会看到这排东西 ? 其中，第一个 elapse的位置，写着的是该文件所有者的名字，后一个 elapse记的是所有组的名字，除了这个人和这个组外的，文件权限管理中就属于 other，其他人（当然root用户在这个系统是为所欲为的 w w呢，就是 write，也就是文件写入的操作，如果没有此权限，则无法对文件内容进行修改 x x就是执行，在Linux系统中，如果该可执行文件，如 .sh文件等，没有对应的x权限，则无法使用，使用的时候会提示权限不足 那么问题来了 如果说，我有x权限，但是没有rw权限咋整，答案是执行失败，如果想执行程序，至少得有r-x（可读可执行）这两个权限 那么看完了“单词版”的权限，现在说一说“数字版”的权限 在Linux系统中 常见的数字有 7（rwx 可读可写可执行) 6（rw- 可读可写不可执行） 5（r-x 可读不可写可执行） 4（r-- 可读不可写不可执行） 3（-wx 不可读可写可执行） |并不可以执行，也不可以写，
94431发布于 2020-08-17 - 来自专栏AI系统
【AI系统】推理系统引言
推理的最终目标，便是将训练好的模型部署到实际的生产环境中，使 AI 真正运行起来，服务于日常生活。推理系统，是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。 它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。推理系统会加载模型到内存，并进行版本管理，确保新版本能够顺利上线，旧版本能够安全回滚。 推理引擎，则是推理系统中的重要组成部分，它主要负责 AI 模型的加载与执行。 人工客服应用推理引擎或推理系统在人工客服和 AI 对话方面有广泛的应用。以下是一些相关的内容：智能客服：推理引擎可以用于实现智能客服系统，能够理解用户的问题并提供准确的答案。 对话管理：在 AI 对话中，推理引擎可以帮助系统理解用户的意图和需求，并根据这些信息来引导对话的流向。它可以根据用户的输入和历史对话记录，预测用户可能的问题和需求，并提供相应的回答和建议。
1.9K10编辑于 2024-12-02 - 来自专栏AI系统
【AI系统】推理系统介绍
推理系统是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。 AI 生命周期在日常生活中，深度学习的相关方法已经广泛的部署到各类的应用当中。 引擎 with open("resnet50.trt", "wb") as f: # 将引擎保存到文件 f.write(engine.serialize())# 步骤 3： 根据上图示的 AI 框架、推理系统与硬件之间的关系，可以看到，除了应对应用场景的多样化需求，推理系统还需克服由不同训练框架和推理硬件所带来的部署环境多样性挑战，这些挑战不仅增加了部署优化和维护的难度，而且易于出错 需要考虑到 AI 框架的不断更新，特别是针对训练优化的迭代，而某些框架甚至不支持在线推理，系统需要具备足够的兼容性。为了支持多种框架，可以利用模型转换工具，将不同框架的模型转换为一种通用的中间表示。
2.6K10编辑于 2024-12-02 - 来自专栏h5
Electron-DeepSeek-Chat流式AI系统|electron39+vue3+deepseek手搓ai聊天助手
2026年最新跨平台AI实战 - Electron39.2+Vue3+DeepSeek-V3.2+Arco搭建桌面端ai模板。 ai编辑器<template>
<! -- 编辑器 --><a-textarea v-model="editorText" :auto-size="autoSize -- 操作栏 --> <div class="v3ai__tools flexbox flex-alignc">AI对话系统的一些项目分享，希望对大家有所帮助！56820编辑于 2026-01-13转载：【AI系统】推理系统介绍
推理系统是一个专门用于部署神经网络模型，执行推理预测任务的 AI 系统。它类似于传统的 Web 服务或移动端应用系统，但专注于 AI 模型的部署与运行。 AI 生命周期在日常生活中，深度学习的相关方法已经广泛的部署到各类的应用当中。 引擎 with open("resnet50.trt", "wb") as f: # 将引擎保存到文件 f.write(engine.serialize())# 步骤 3： 根据上图示的 AI 框架、推理系统与硬件之间的关系，可以看到，除了应对应用场景的多样化需求，推理系统还需克服由不同训练框架和推理硬件所带来的部署环境多样性挑战，这些挑战不仅增加了部署优化和维护的难度，而且易于出错 需要考虑到 AI 框架的不断更新，特别是针对训练优化的迭代，而某些框架甚至不支持在线推理，系统需要具备足够的兼容性。为了支持多种框架，可以利用模型转换工具，将不同框架的模型转换为一种通用的中间表示。
1.7K10编辑于 2024-12-12转载：【AI系统】推理系统架构
推理系统架构是 AI 领域中的一个关键组成部分，它负责将训练好的模型应用于实际问题，从而实现智能决策和自动化。 多框架支持：兼容 TensorFlow、PyTorch、ONNX 等主流 AI 框架。 模型优化：集成 TensorRT 等优化工具，进一步提升模型推理性能。 作为一个强大的推理框架，Triton 能够满足多样化的 AI 应用需求，帮助企业和开发者构建高效、可靠的推理服务。 云模型仓库指的是将模型文件存储在云服务提供商的存储服务上，如谷歌 Cloud Platform (GCP)的 Cloud Storage 或 Amazon Web Services (AWS) 的 S3。 这一功能基于其动态模型发现与加载机制，使得 AI 应用能够迅速适应市场需求变化，如模型精度提升、新功能上线等。配合版本控制和滚动更新策略，可确保服务连续性不受影响。
2.4K11编辑于 2024-12-12腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059
粤公网安备44030502008569号腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号