- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI机器学习与深度学习算法
机器学习入门 6-8 如何确定梯度计算的准确性 调试梯度下降
本小节主要介绍梯度的调试，应用梯度下降法最主要的就是计算梯度，但很有可能计算梯度程序没有错但是求得的梯度是错误的，这个时候就需要使用梯度调试的方式来发现错误。 但是在计算机实际实现的时候，完全可以取一个特别小的值来真正的把这两个点他们连线的斜率给算出来，然后作为红色点导数的一个取代值，这种计算方法也是非常容易，其实就是这两个蓝色点在纵方向的差除上横方向的差，相应的我们可以写出下面的式子 当然了这种计算梯度的方法同样适用于高维的场景： ? ? 以此类推，对每一个维度都使用上面的方式进行求解。 ： 先使用dJ_dubug这个函数作为梯度的求法，通过这个方式先得到机器学习算法正确的结果； 然后推导公式求出来这个梯度计算相应的数学解； 之后将我们实现的数学解代入机器学习算法中，可以通过最终得到的结果和使用 def dJ_debug(theta, X_b, y, epsilon = 0.01): """使用调试梯度的方式计算梯度""" res = np.empty(len(theta))
1.2K00发布于 2019-11-13 - 来自专栏全栈开发那些事
6-8 求二叉树高度 (20分)
本题要求给定二叉树的高度。 函数接口定义： int GetHeight( BinTree BT ); 其中BinTree结构定义如下： typedef struct TNode *Position; typedef Position BinTree; struct TNode{ ElementType Data; BinTree Left; BinTree Right; }; 要求函数返回给定二叉树BT的高度值。 裁判测试程序样例： #include <stdio.h> #inclu
25510编辑于 2023-02-27 - 来自专栏开发经验
云计算未来展望：边缘计算、量子计算与AI
文章目录 边缘计算：数据处理的新时代 应用领域 挑战与机遇 量子计算：超越传统计算的新范式 量子比特 应用前景 挑战与机遇 人工智能：云计算的动力 云中的AI 应用领域 挑战与机遇 结语 欢迎来到云计算技术应用专栏 ~云计算未来展望：边缘计算、量子计算与AI ☆* o(≧▽≦)o *☆嗨~我是IT·陈寒 ✨博客主页：IT·陈寒的博客 该系列文章专栏：云计算技术应用 其他专栏：Java学习路线 Java面试技巧 人工智能：云计算的动力 人工智能（AI）一直是云计算的重要驱动力，它将继续引领云计算的未来。AI技术已经在图像识别、自然语言处理、语音识别和推荐系统等领域取得了巨大成功。 云中的AI 云计算提供了强大的计算能力和大规模数据存储，这对于训练和部署AI模型至关重要。云提供商如亚马逊、微软和谷歌都提供了AI服务，开发者可以轻松地在云上构建和部署AI应用程序。 此外，AI模型的训练和部署也需要大量的计算资源，这为云提供商提供了商机。 云计算将继续推动AI的发展，而AI也将进一步推动云计算的创新。这两者之间的相互作用将塑造未来技术的面貌。
2K10编辑于 2023-12-13 - 来自专栏申龙斌的程序人生
如何在6-8小时之内读完300页的书？
Michigan大学的一位老师Paul N. Edwards写了一篇学术文章《How to Read a Book》，当前已经更新到v5.0版本，个人感觉好过另外一本非常著名的、厚厚的同名书《如何阅读一本书》，英文版原文并不难，链接地址（微信中不让加链接，点击无效，自行下载阅读）： http://pne.people.si.umich.edu/PDF/howtoread.pdf 该书的重要观点： 小说需要按顺序读，但对于非虚构类的书不需要从头到尾按顺序去阅读，而是要跳读、略读、标记，对重点的地方还要仔细地
922100发布于 2018-03-06 - 来自专栏AI系统
【AI系统】微分计算模式
上一篇文章简单了解计算机中常用几种微分方式。本文将深入介绍 AI 框架离不开的核心功能：自动微分。 前向梯度累积会指定从内到外的链式法则遍历路径，即先计算 dw_1/dx ，再计算 dw_2/dw_1 ，最后计算 dy/dw_2 。即，前向模式是在计算图前向传播的同时计算微分。 前向模式 Foward Mode 前向模式从计算图的起点开始，沿着计算图边的方向依次向前计算，最终到达计算图的终点。它根据自变量的值计算出计算图中每个节点的值以及其导数值，并保留中间结果。 反向模式的缺点： 需要额外的数据结构记录正向过程的计算操作，用于反向使用； 带来了大量内存占用，为了减少内存操作，需要 AI 框架进行各种优化，也带来了额外限制和副作用。 因此，目前大部分 AI 框架都会优先采用反向模式，但是也有例如 MindSpore 等 AI 框架同事支持正反向的实现模式。
42010编辑于 2024-12-13 - 来自专栏CSDNToQQCode
软考中级(软件设计师)——操作系统(占6-8分)
软考中级(软件设计师)——操作系统(占6-8分) ---- 目录 软考中级(软件设计师)——操作系统(占6-8分) 主要考点： 1、进程管理 进程的同步与互斥 进程管理-PV操作【******】(超重点 ) 死锁问题 形成死锁的是个必要条件 2、存储管理 页式存储组织 段式存储组织 段页式存储 页面置换算法 磁盘管理 磁盘调度算法 存储管理-读取磁盘数据时间计算 作业管理·考的比较少 作业的调度算法 进程的同步与互斥 进程管理-PV操作【******】(超重点) 这里主要会涉及到资源的计算 P是申请资源的操作，V是释放资源的操作。下图中的S代表信号量。 磁盘调度算法 存储管理-读取磁盘数据时间计算 有公式可得202*100=20200，选择D 作业管理·考的比较少 作业的调度算法 作业的相应比=作业的等待时间/作业的执行时间 3、文件管理 索引文件结构
54520编辑于 2022-11-30 - 来自专栏AI系统
【AI系统】计算图原理
在前面的文章曾经提到过，目前主流的 AI 框架都选择使用计算图来抽象神经网络计算表达，通过通用的数据结构（张量）来理解、表达和执行神经网络模型，通过计算图可以把 AI 系统化的问题形象地表示出来。 本文将会以 AI 概念落地的时候，遇到的一些问题与挑战，因此引出了计算图的概念来对神经网络模型进行统一抽象。接着展开什么是计算，计算图的基本构成来深入了解诶计算图。 最后简单地学习 PyTorch 如何表达计算图。AI 系统化问题遇到的挑战在真正的 AI 工程化过程中，我们会遇到诸多问题。 因此派生出了目前主流的 AI 框架都选择使用计算图来抽象神经网络计算。计算图的定义我们会经常遇到有些 AI 框架把统一的图描述称为数据流图，有些称为计算图，这里可以统称为计算图。 ，需要加上损失函数：根据正向的神经网络模型定义，AI 框架中的计算图如下：上面 (a) 中计算图具有两个节点，分别代表卷积 Conv 计算和激活 ReLU 计算，Conv 计算接受三个输入变量 x 和权重
68910编辑于 2024-12-06 - 来自专栏AI系统
【AI系统】计算与调度
计算与调度计算与调度的来源图像处理在当今物理世界中是十分基础且开销巨大的计算应用。图像处理算法在实践中需要高效的实现，尤其是在功耗受限的移动设备上。 于 AI 框架而言，所开发的算子是网络模型中涉及到的计算函数。 AI 编译器优化的目的在于通过对算子进行最佳调度，使得算子在特定硬件上的运行时间达到最优水平。这种优化涉及到对算子调度空间的全面搜索和分析，以确定最适合当前硬件架构的最佳调度方案。 Reorder(交换)、Split(拆分)、Fuse(融合)、Tile(平铺)、Vector(向量化)、展开(Unrolling)、并行(Parallelizing)等，以 Halide 思想为指导的 AI 计算节点：调度树的叶子，表示正在执行的计算。计算节点可以有其他计算节点作为子节点，以表示内联函数而不是从中间存储加载。
62110编辑于 2024-11-29 - 来自专栏AI系统
【AI系统】CPU 计算本质
CPU 算力 算力(Computational Power)，即计算能力，是计算机系统或设备执行数值计算和处理任务的核心能力。 操作与数据加载的平衡点 为了平衡计算和数据加载，每从内存中加载一个数据，需要执行 80 次计算操作。这种平衡点确保了计算单元和内存带宽都能得到充分利用，避免了计算资源的浪费或内存带宽的瓶颈。 超级计算机算力计算 假设有一个超级计算机，有 10000 个 CPU，每个 CPU 有 8 个核心，每个核心的时钟频率为 2.5 GHz，每个时钟周期可以执行 16 次浮点运算。 这一概念在计算机科学中至关重要，尤其在高性能计算领域。操作强度衡量的是计算与内存访问之间的关系。操作强度越高，意味着处理器在处理数据时进行更多计算操作，而不是频繁访问内存。 图片 训练 AI 大模型的变化趋势 这张图展示了训练 AI 大模型所需时间随模型参数数量的变化趋势，纵轴表示训练时间，单位从“天”（Days）到“周”（Weeks）再到“月”（Months）；横轴表示模型参数的数量
91410编辑于 2024-12-04 jvm入门3：6-8 本地方法接口+本地方法栈+堆
一旦堆区中的内存大小超过了-Xmx所指定的最大内存时，将抛出outofmemoryerror异常；3通常将-Xms，-Xmx两个参数配置相同的值，为了能够在java垃圾回收机制清理堆区后不需要再重新分配计算堆区大小
24600编辑于 2025-02-24- 来自专栏AI系统
【AI系统】CPU 计算时延
CPU（中央处理器）是计算机的核心组件，其性能对计算机系统的整体性能有着重要影响。CPU 计算时延是指从指令发出到完成整个指令操作所需的时间。 理解 CPU 的计算时延对于优化计算性能和设计高效的计算系统至关重要。在本文中我们将要探讨 CPU 的计算时延组成和影响时延产生的因素，并深入讨论 CPU 计算的时延产生。 CPU 计算时延 下面将介绍 CPU 计算延时的组成和影响计算时延的相关因素。 这些传播延迟就是 CPU 的时钟周期，也是 CPU 计算的时延。 计算速度因素 计算速度由多个因素决定，包括内存时延、缓存命中率、计算操作效率和数据写回速度。 直到数据加载完成，CPU 无法进行后续的计算操作。 计算过程的阻滞 高内存时延显著延缓了整个计算过程的启动。
74410编辑于 2024-12-04 - 来自专栏云社区活动
量子计算 + AI：科幻照进现实？
量子计算 + AI：科幻照进现实？说到量子计算，很多人第一反应可能是：“这玩意儿离我们还远着呢吧？” 确实，量子计算现在还处于早期发展阶段，但如果你是个AI开发者，或者对计算加速有需求，那你真的应该关注它。量子计算可能成为未来AI训练和推理的“加速器”，帮助我们在海量数据中找到最优解。 今天，我就来带大家初探量子计算如何加速AI算法，不仅讲理论，还动手写点代码，让大家感受一下量子的魅力！为什么AI需要更快的计算能力？在AI领域，尤其是深度学习模型，训练时间是一个大问题。 量子计算利用量子纠缠和叠加，可以在一次计算中同时处理多个状态的数据。这就意味着，量子计算可能在某些AI任务上实现指数级加速！量子计算如何加速AI？1. 实战演示：用量子计算优化AI训练我们来用量子计算模拟一个简单的AI优化任务，看看它能否比传统方法更快收敛。
75910编辑于 2025-03-22 - 来自专栏鲜枣课堂
AI计算，为什么要用GPU？
而现在特别火爆的AI，用到的所谓“AI芯片”，也主要是指它们。 █ CPU（中央处理器） 先说说大家最熟悉的CPU，英文全称Central Processing Unit，中央处理器。 CPU vs GPU █ GPU与AI计算 大家都知道，现在的AI计算，都在抢购GPU。英伟达也因此赚得盆满钵满。为什么会这样呢？ 原因很简单，因为AI计算和图形计算一样，也包含了大量的高强度并行计算任务。 深度学习是目前最主流的人工智能算法。从过程来看，包括训练（training）和推理（inference）两个环节。 GPU凭借自身强悍的并行计算能力以及内存带宽，可以很好地应对训练和推理任务，已经成为业界在深度学习领域的首选解决方案。 目前，大部分企业的AI训练，采用的是英伟达的GPU集群。 目前，他们市值高达1.22万亿美元（英特尔的近6倍），是名副其实的“AI无冕之王”。 那么，AI时代的计算，是不是GPU一家通吃呢？我们经常听说的FPGA和ASIC，好像也是不错的计算芯片。
3.4K11编辑于 2024-01-03 - 来自专栏机器之心
AI教育从幼儿园开始：MIT推出全球K12人工智能学习资源网站
「自 1960 年代以来，MIT 一直是全球 AI 研究的领导者，」MIT 计算机科学和工程教授 Hal Abelson 表示。「MIT 的机器智能研究一直与我们的 K-12 教育紧密相连。 这项工作旨在让年轻学生可以通过计算机思想帮助他们理解世界，并帮助他们在社群中起到更加活跃的作用。」 计算机科学和 AI 的学习过程中，线上教育和线下教育都非常重要。 在非线上教育中，学生们可以经由讨论等活动发展对于 AI 对社会影响的认知。在线下教育过程中，孩子不需要使用计算机——对于低龄儿童来说这非常有意义。 下图展示了适合 6-8 年级学生的一些具体的 AI 研究项目： ? 适合 6-8 年级的一些 AI 研究项目，如中学生 AI 与伦理（AI & Ethics for Middle School）和中学生创造性与 GAN（Creativity & GANs for Middle
1.3K00发布于 2020-04-14 - 来自专栏AI系统
【AI系统】计算图基本介绍
在 AI 框架发展的最近一个阶段，技术上主要以计算图来描述神经网络。 这两种选择，随着神经网络算法研究和应用的更进一步发展，使得 AI 框架在技术实现方案的巨大差异。 复杂的模型结构需要 AI 框架能够对模型算子的执行依赖关系、梯度计算以及训练参数进行快速高效的分析，便于优化模型结构、制定调度执行策略以及实现自动化梯度计算，从而提高 AI 框架训练的效率。 综上所述，目前主流的 AI 框架都选择使用计算图来抽象神经网络计算表达，通过通用的数据结构（张量）来理解、表达和执行神经网络模型，通过计算图可以把 AI 系统化的问题形象地表示出来。 在基于计算图的 AI 框架中，这五个阶段统一表示为由基本算子构成的计算图，算子是数据流图中的一个节点，由后端进行高效实现。
25610编辑于 2024-12-06 - 来自专栏AI系统
【AI系统】计算图优化架构
计算图优化是一种重要的技术，主要目标是提高计算效率和减少内存占用，通常由 AI 框架的编译器自动完成，通过优化，可以降低模型的运行成本，加快运行速度，提高模型的运行效率，尤其在资源有限的设备上，优化能显著提高模型的运行效率和性能 计算图优化现在来到了核心内容，离线优化模块的计算图优化。早在本文之前，AI 编译器的前端优化已经讲述了很多计算图优化相关的内容。 但这些是基于 AI 框架实现的且通常出现于训练场景中，主要原因在于在在线训练的过程中。实验时间的要求相对宽松，所以可以引入较多的 GIT 编译或者是其他编译。 而在推理引擎计算图的优化中，更多的是采用预先写好的模板，而不是通过 AI 编译去实现的。 Layout & Memory: 布局转换优化，主要是不同 AI 框架，在不同的硬件后端训练又在不同的硬件后端执行，数据的存储和排布格式不同。
63510编辑于 2024-12-06 - 来自专栏云计算
边缘计算推动AI发展 未来能摆脱云计算吗？
AI发展 未来能摆脱云计算吗? 的确，现在人工智能AI技术的火爆程度不亚于任何一项IT新技术的宣传力度，我们也不可否认，人工智能背后所依靠的就是云计算平台的强大支撑，很多AI的具体需要依靠云计算平台当中边缘计算去完成，但是，现在AI在应用部署过程当中仍然受限制于边缘计算的成本层面以及设备只能分析能力等很多方面 因此，边缘计算成为AI相关芯片厂商、设备集成商的布局重点也就不足为奇了，更直接带动边缘计算在2017年的快速崛起。 2 边缘计算的另一面 虽然边缘计算拥有前文我们所说的那些有点，但是由于当前在智能分析能力以及数据应用的法律合规性等方面的限制，使得边缘计算现在仍然还处于一个缓慢发展的阶段，采用边缘计算的AI设备单价比较高 边缘计算兴起不仅带动了AI芯片的销量，也会促使相关的硬件市场规模进一步扩大。可以预见，一旦所有终端设备都能实现边缘计算的话，其市场必会远远超越云计算。
2.9K50发布于 2018-01-19 - 来自专栏鹅厂网事
未来已来，腾讯AI计算网络
目前，人工智能的主要方向如图像识别、语音识别等等都是通过机器学习的方式，借助强大的计算平台对海量数据进行分析、计算，随着数据量的增长，单机性能已逐渐无法满足计算的需求，需要使用高性能计算(HPC, High HPC集群是将多个计算节点组织在一起协同计算的分布式系统，它一般使用iWARP/RoCE/IB等RDMA(Remote Direct Memory Access)技术来完成计算节点内存间数据的快速交换。 同时，网络作为HPC集群的一部分，任何传输阻滞都会造成计算资源的浪费。为了最大化集群计算能力，通常要求网络在10us内完成RDMA流量的传递。 腾讯AI计算网络 腾讯AI计算网络属于生产网络的一部分，除了需要与其他网络模块通信，还需要对接网管、安全等后台系统，因此只能选择与现网兼容的以太网方案。 计算网络中的计算节点作为资源池供整个公司各部门共同使用，这就使得网络面临着多业务流量并发拥塞的问题。
2.8K70发布于 2018-02-06 - 来自专栏腾讯架构师的专栏
AI 异常计算点的监控调度
而AI和海量计算力分不开，绝艺每天的盘数计算量都在亿级，王者每天计算结果均在百T，这些业务源源不断的计算力均来自腾讯架平TCS-弹性计算平台。 二、CPI 弹性平台中的设备都是在线业务与计算业务混部，尤其是AI计算，cpu时间片可完全吃满，利用率持续100%，但利用率反映的是当前机器在某个时间点的运行情况，并不能用于度量程序指令的cpu消耗，因此弹性平台需量化一个指标反映每条程序指令的执行耗时 四、调度 运行中的AI运算，持续的吃cpu时间片，虽然Linux采用了CFS公平调度策略，但存储引擎与AI计算混部竞争，相比于单跑存储引擎，增加了调度和现场恢复等时延消耗。 现网运营中还发现，AI计算火力全开时（如下图），存储引擎偶尔会出现获取cpu时间片不够的情况。 动态调整 监控到cpi异常，平台优先调低AI计算的quota值，调整采用“乘性减 加性增”策略，将quota值降一半，限制AI容器的cpu时间片分配，若一段时间内，cpi监控未检测到异常，平台加性恢复AI
2.2K00发布于 2017-09-20 - 来自专栏燧机科技-视频AI智能分析
视频ai智能分析边缘计算盒
视频ai智能分析边缘计算盒可以配备为在施工工地现场监测到违规事件时开启即时警报，并伴随時间的变化收集数据，将其展示为历史时间数据图表、图型或热点图。 视频ai智能分析边缘计算盒与传统的的视频监管方式对比，传统式的视频监管方式 通常必须手动式分析很多的视频流，视频ai智能分析边缘计算盒可以协助工作员在必须付诸行动时过虑有关事情并发送报警。 视频ai智能分析边缘计算盒还能够与人脸识别技术和身体鉴别技术相结合。 视频ai智能分析边缘计算盒接入前端第三方监控摄像头视频流数据开展分析，视频ai智能分析边缘计算盒会将分析出来的结果向三方平台推送预警信息照片、视频和警报统计数据，完成各种各样连接。
1.8K20编辑于 2022-09-12
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号