- 综合排序
- 最热优先
- 最新优先
自动化推理技术入门指南
自动化推理技术简介本周某中心科学部门将自动化推理新增为研究领域。 开发团队也将自动化推理工具集成到开发流程中，显著提升了产品的安全性、持久性、可用性和质量。本文旨在为行业从业者提供自动化推理的入门指引。 而自动化推理工具利用代数原理可在毫秒级判定该表达式恒为真。 某机构内部同时采用全自动和半自动推理工具，对外服务则采用全自动化方案。 并发等复杂场景处理底层编译器和硬件的正确性假设NP难问题的启发式算法优化学习资源推荐工具集：定理证明器：Coq, Isabelle, HOL-light模型检测：PRISM, TLA+SMT求解器：Z3, CVC4程序验证
22200编辑于 2025-08-09自动推理技术闪电演讲解析
自动推理技术闪电演讲第32届计算机辅助验证国际会议（CAV）专注于推动硬件和软件系统计算机辅助形式化分析方法的理论与实践。 技术应用领域科学家团队展示了以下自动推理技术的具体实践：约束推理：应用于身份与访问管理系统静态分析：在视频流媒体服务中的实施模型检测：用于物联网设备验证形式化验证：在云存储服务等关键系统的应用技术方法详解演讲涵盖了三种核心验证方法 ：基于约束的推理：通过数学约束条件验证系统行为静态分析：在不执行代码的情况下分析程序行为模型检查：使用算法验证系统模型是否满足规约要求这些技术方法正在被广泛应用于各类云服务和数字平台，确保系统的可靠性和安全性
23310编辑于 2025-08-31自动推理技术如何优化视频体验
自动推理如何优化视频体验自动推理是机器进行逻辑推理的能力。软件验证是自动推理的常见应用，即确认计算机程序将按预期执行。 自2019年以来，某中心视频自动推理团队一直在创建软件开发工具，利用这些验证技术为开发人员提供对其所编写代码的更大信心。 由于该应用程序具有由全球数十个独立团队使用多种编程语言开发的多个组件，并且必须在数千种不同的硬件配置上运行，这为自动推理提供了特别严峻的环境。 自2021年3月26日起，所有视频开发人员都在使用名为BugBear的自动推理机器人，该机器人进行自动代码审查，在检测到潜在问题时提供清晰且可操作的评论，或确认未发现问题。 使用自定义规则集，可以自动推断程序的属性。采用声明性编程语言Datalog来表示事实和规则。
21110编辑于 2025-09-29自动化推理技术入门指南
自动化推理技术简介本周某中心科学部门将自动化推理新增为研究领域。 这一决策源于该技术在内部产生的重大影响，例如某机构云服务的客户现已能直接使用基于自动化推理的功能如IAM访问分析器、S3公共访问阻断等功能。 开发团队也正将自动化推理工具集成到开发流程中，从而提升产品的安全性、持久性、可用性和质量。 自动化推理工作原理自动化推理工具通过数学方法分析程序或逻辑公式，例如：分析程序控制流结构推断程序最终必然成立的条件验证程序始终满足的不变式进阶案例分析以下Python函数的终止性：def g(x, y) : if y > 0: while x > y: x = x - y自动化推理工具可证明：当y为正数时，x值必然递减直至退出循环，从而确保函数终止。
15500编辑于 2025-08-07自动化推理助力IAM策略检查
自定义策略检查助力自动化推理民主化新的IAM Access Analyzer功能使用自动化推理，确保用IAM策略语言编写的访问策略不会授予意外访问权限。 自定义策略检查将策略语句转换为数学公式的任务抽象化，使客户无需具备形式逻辑专业知识即可享受自动化推理的好处。 自定义策略构建在一个名为Zelkova的内部服务上，该服务使用自动化推理来分析IAM策略。 然后使用称为可满足性模理论（SMT）求解器的自动化引擎来检查策略的属性。可满足性（SAT）求解器检查是否可以给布尔变量分配真值或假值以满足一组约束；SMT是SAT的推广，包括字符串、整数、实数或函数。 自动化推理民主化的关键是使其使用简单且易于指定属性。通过额外的自定义检查，将继续支持客户在最小权限之路上前进。FINISHED
7010编辑于 2026-04-08自动推理技术如何优化视频平台体验
自动推理技术如何优化视频平台体验自动推理指机器进行逻辑推导的能力，其常见应用场景包括软件验证（确保计算机程序按预期执行）。 自2019年起，某中心Prime Video自动推理团队开始创建软件开发工具，利用这些验证技术为视频平台应用的开发者提供更高代码可靠性保障。 该应用需兼容数千种硬件配置，整合全球数十个团队用多种编程语言开发的组件，构成自动推理技术的特殊挑战环境。 2021年3月26日起，所有Prime Video开发者开始使用名为BugBear的自动推理机器人进行代码审查。该工具能在15分钟内提供反馈，支持C/C++、Java和TypeScript语言的分析。 技术实现细节在2020年下半年启动的试点中，BugBear执行了1000多次自动代码审查，发现约100个潜在问题，其中80%被开发者确认需要修改。
27310编辑于 2025-08-15- 来自专栏CreateAMind
4个视觉符号推理数据集超简介
//github.com/xyang23/CLEVRER-Humans1.0 https://sites.google.com/stanford.edu/clevrer-humans/home 4
59730编辑于 2023-02-14 - 来自专栏GPUS开发者
NVFP4：打破GPU推理的内存墙，4位浮点时代来了
从痛点说起：为什么4位精度成为刚需？ AI推理的内存挑战是多维度的。首先是模型权重本身的庞大体积。 整个过程在代码层面可能只需要十几行 ，但需要注意选择有代表性的校准数据 ，以保证量化后的缩放因子能覆盖实际推理时的数值分布。 推理框架的集成也在快速推进。 首先是适用场景的判断：NVFP4特别适合推理密集、内存受限的场景 ，如大batch推理服务、长上下文对话、边缘设备部署。 一些框架支持自动敏感度分析 ，识别出对量化敏感的层并自动跳过。 最后是硬件兼容性的提醒。 通过精巧的编码设计、层级化的缩放机制、硬件软件的深度协同， NVFP4证明了4位浮点足以支撑千亿参数模型的推理和训练。
79310编辑于 2026-01-27 - 来自专栏CreateAMind
自动生成julia(贝叶斯)推理算法代码
ForneyLab.jl is a Julia package for automatic generation of (Bayesian) inference algorithms. Given a probabilistic model, ForneyLab generates efficient Julia code for message-passing based inference. It uses the model structure to generate an algorithm that consists of a sequence of local computations on a Forney-style factor graph (FFG) representation of the model. For an excellent introduction to message passing and FFGs, see The Factor Graph Approach to Model-Based Signal Processing by Loeliger et al. (2007). Moreover, for a comprehensive overview of the underlying principles behind this tool, see A Factor Graph Approach to Automated Design of Bayesian Signal Processing Algorithms by Cox et. al. (2018).
29530编辑于 2023-10-12 思维链推理自动化检测大模型幻觉
自动化幻觉检测与思维链推理当大型语言模型（LLM）被提示诸如"圣约翰草可能与哪些药物发生相互作用？" 声明分类中的高级推理最初遵循传统方法直接提示LLM对提取的声明进行分类，但这未达到性能标准。因此转向思维链（CoT）推理，其中要求LLM不仅执行任务还要证明其采取的每个行动。 开发了一个五步CoT提示，结合了声明分类的精选示例（少样本提示）和指示声明分类LLM彻底检查每个声明对参考上下文的忠实度并记录每次检查背后的推理的步骤。 结果清楚地显示了少样本CoT提示带来的性能改进（从0.78提高到0.8，提高了2个百分点），使我们更接近大规模自动识别LLM幻觉。 除了二元分类或常用的自然语言推理（NLI）类别（支持、反驳和信息不足）之外，提出了一套通过分析常见LLM幻觉中的语言模式开发的新错误类型。
21510编辑于 2025-09-05- 来自专栏机器之心
CPU推理提升4到5倍，苹果用闪存加速大模型推理，Siri 2.0要来了？
结合使用窗口和稀疏性预测可以为每个推理查询仅加载 2% 的闪存 FFN 层。他们还提出了静态内存预分配，最大限度减少了 DRAM 内的传输并减少了推理延迟。 与 CPU 和 GPU 中的 naive 实现相比，优化该成本模型并有选择地按需加载参数的闪存策略可以运行两倍于 DRAM 容量的模型，并将推理速度分别提升 4-5 倍和 20-25 倍。 对于 32 位模型，每次读取的数据块大小为 2dmodel × 4 字节 = 32 KiB，因为它涉及行和列的连接。 在本文的模型中使用大小为 4 的窗口，每个 token 需要访问 3.1% 的前馈网络（FFN）神经元。 在 32 位模型中，这相当于每次读取的数据块大小为 35.5 KiB（按 2dmodel ×4 字节计算）。
51710编辑于 2023-12-28 - 来自专栏GiantPandaCV
NCNN+INT8+YOLOV4量化模型和实时推理
【GiantPandaCV导语】本文记录了作者使用NCNN量化YOLOV4模型并进行推理的全过程，过程比较详细，希望对想使用NCNN这一功能的读者有帮助。 /ncnn2int8 yolov4-tiny-opt.param yolov4-tiny-opt.bin yolov4-tiny-int8.param yolov4-tiny-int8.bin yolov4 把fp16禁掉，不用了 换成int8推理 把线程改成你之前制作int8模型的那个线程 模型也替换掉 具体如下： ? 代码需要修改的几点 走到这里，就可以愉快的推理了 ? 后续会尝试更多模型的int8推理，做对比实验给各位网友看 所有的文件和修改后的代码放在这个仓库里，欢迎大家白嫖： https://github.com/pengtougu/ncnn-yolov4-int8
3K30发布于 2021-05-18 每日十亿次查询：云安全中的自动推理技术
每日十亿次查询：自动推理如何保障云安全在某中心，科学家和工程师们正在利用自动推理技术来证明关键内部系统的正确性，并帮助客户验证其云基础设施的安全性citation:1。 SMT（可满足性模理论）是SAT（布尔可满足性问题）的泛化，它能够处理整数、实数、字符串或函数等理论，是形式化方法——即使用自动推理来证明计算机程序将按预期运行——的主要工具。 Zelkova：自动化的安全策略分析引擎为了将自动推理的力量带给所有客户，某中心开发了名为 Zelkova 的自动推理引擎citation:1。 这使得客户只需查看清晰的是/否答案，即可轻松确定云资源的安全性，从而民主化了自动推理技术，让所有用户都能使用citation:1。 某中心的服务使得自动推理技术正在改变云安全格局，其能力通过几次点击即可提供给所有客户，实现了从学术研究到大规模工业实践的成功转化citation:1。
10510编辑于 2025-12-24- 来自专栏DeepHub IMBA
NVFP4量化技术深度解析：4位精度下实现2.3倍推理加速
传统INT4量化在推理过程中无法直接处理4位数值，必须先将INT4权重反量化为16位数值才能进行计算，这一额外步骤虽然在SGLang和vLLM等现代推理框架中已经高度优化，但仍然产生计算开销并限制了整体速度 NVFP4彻底消除了这一性能瓶颈。Blackwell Tensor Core原生支持NVFP4运算，张量在整个推理流程中保持4位格式，前提是权重和激活均采用NVFP4量化。 ，使权重在整个推理过程中保持NVFP4格式，因为激活采用相同数据类型。 FlashInfer用于加速vLLM推理中的采样过程，默认会启用但可能会导致NVFP4模型崩溃。 推理性能突破 尽管NVFP4在压缩率和精度方面并无显著优势，但在推理速度上表现卓越，大幅超越测试中的所有其他量化模型： 得益于Blackwell GPU对NVFP4数据类型的原生加速，NVFP4模型比INT4
91410编辑于 2025-11-15 - 来自专栏啄木鸟软件测试
如何实现TensorRT推理服务的自动化回归测试？
CI流水线自动拉取代码，开始构建TensorRT引擎——然而，由于新增了一个动态reshape操作，构建失败。如果没有自动化测试，这个错误可能直到部署阶段才被发现，延误至少半天。 这就引出了我们真正要构建的东西：一个围绕TensorRT推理生命周期的自动化回归测试体系。 这套系统的核心逻辑其实很清晰：每次模型变更，都必须回答两个问题——功能是否一致？性能是否可控？ 因此，自动化测试的第一步，不是跑推理，而是确保引擎能稳定构建。 在设计层面，还需考虑几个关键实践： ·测试覆盖率：不仅要测固定batch=1，还要覆盖batch=4、8、16等典型场景；对于支持动态shape的模型，需测试多种输入尺寸组合。 在自动驾驶、医疗影像、金融风控等高可靠性场景中，这种机制不是“锦上添花”，而是“生存必需”。 未来，随着LLM推理优化的兴起，TensorRT也在不断演进，支持更大模型、动态批处理和稀疏计算。
17010编辑于 2026-03-04 - 来自专栏机器之心
GPT-4拿下最难数学推理数据集新SOTA，新型Prompting让大模型推理能力狂升
该方法大幅超过 GPT-4+CoT。 比如，在现在最难的数学推理数据集 MATH 上，GPT-4+CoT 只有 42.5%，而 GPT-4+PHP 在 MATH 数据集的 Nember Theory (数论) 子集提升 6.1%, 将 MATH PHP 尝试模拟更加类人推理过程：对上次的推理过程进行处理，然后合并到初始的问题当中，询问 LLM 进行再次推理。当最近两次推理答案一致时，得到的答案是准确的，将返回最终答案。 GPT-3.5-Turbo 和 GPT-4 作者按照以前的工作设置，使用文本生成模型进行实验。 在部署 GPT-4 模型后，作者能够在 SVAMP、GSM8K、AQuA 和 MATH 基准测试上实现新的 SOTA 性能。作者提出的 PHP 方法不断改善了 GPT-4 的性能。
48020编辑于 2023-05-16 自动化推理与差分测试构建Cedar语言
使用自动化推理和差分测试构建Cedar语言Cedar是一种新的授权策略语言，被某中心的验证权限服务和某机构云服务使用，最近已公开发布。使用Cedar，开发人员可以编写策略，为其应用程序指定细粒度权限。 首先，使用自动化推理来证明Cedar组件形式化模型的重要正确性属性。其次，使用差分随机测试来展示模型与生产代码匹配。Cedar入门Cedar是一种用于编写和执行自定义应用程序授权策略的语言。 使用Dafny内置的自动化推理能力，已经证明了代码满足各种安全和安全属性。其次，使用差分随机测试（DRT）来确认Cedar的生产实现（用Rust编写）与Dafny模型的行为匹配。 将授权引擎建模为Dafny函数，并使用Dafny的自动化推理能力来陈述和证明显式许可和禁止覆盖许可属性。 注意到Dafny模型不仅对自动化推理有用，对手动推理也有用。Dafny代码比Rust实现更容易阅读。作为衡量标准，在撰写本文时，授权器的Dafny模型代码行数约为生产代码的六分之一。
16210编辑于 2025-10-25- 来自专栏mousemin
PSR-4 自动加载规范
PSR-4 自动加载规范 PSR-4 描述了从文件路径中 自动加载 类的规范。 它拥有非常好的兼容性，并且可以在任何自动加载规范中使用，包括 PSR-0。 PSR-4 规范也描述了放置 autoload 文件（就是我们经常引入的 vendor/autoload.php）的位置。 自动加载文件禁止抛出异常，禁止出现任何级别的错误，也不建议有返回值。 范例 下表显示了与给定的全限定类名、命名空间前缀和根目录相对应的文件的路径。 /Symfony/Core/Request.php \Zend\Acl Zend /usr/includes/Zend/ /usr/includes/Zend/Acl.php 想要了解一个符合规范的自动加载器的实现可以查看示例文件 示例中的自动加载器禁止被视为规范的一部分，它随时都可能发生改变。
73310编辑于 2023-06-10 - 来自专栏小孟开发笔记
PSR-4规范：自动加载
摘要: FIG-PHP工作组推出的PSR-4规范能够满足面向package的自动加载，它规范了如何从文件路径自动加载类，同时规范了自动加载文件的位置。 1. PSR-4规范：自动加载 虽然在[PSR-4-Meta]中指出PSR-4是对PSR-0规范的补充而不是替换，但是在[PSR-0]中已经写到PSR-0于2014.10.21被废弃，并在[PSR-4-Meta PSR-4规范能够满足面向package的自动加载，它规范了如何从文件路径自动加载类，同时规范了自动加载文件的位置。 1.1 概述 这份PSR规范描述了从文件路径自动加载类。 (4) 自动加载实现一定不能（MUST NOT）抛出异常，一定不能（MUST NOT）引发任何级别的错误, 并且不应当（SHOULD NOT）返回值。 1.3. PSR-4应用 PHP的包管理系统Composer已经支持PSR-4，同时也允许在composer.json中定义不同的prefix使用不同的自动加载机制。
98140编辑于 2023-05-21 - 来自专栏贾志刚-OpenCV学堂
Tensorflow + OpenCV4 安全帽检测模型训练与推理
相关的命令行参数如下： 得到pb文件之后，使用OpenCV4.x中的tf_text_graph_faster_rcnn.py脚本，转换生成graph.pbtxt配置文件。 所以在推理预测阶段，我们可以直接使用输入图像的真实大小，模型的输出格式依然是1x1xNx7，按照格式解析即可得到预测框与对应的类别。 # 读取测试图像 image = cv.imread("D:/123.jpg") h, w = image.shape[:2] cv.imshow("input", image) # 加载模型，执行推理 score = detection[2] if score > 0.4: left = detection[3]*w top = detection[4] 8, 0) else: cv.rectangle(image, (box[0], box[1]), (box[2], box[3]), (255, 0, 255), 4, 8,
2.8K20发布于 2020-09-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号