- 综合排序
- 最热优先
- 最新优先
自动化推理技术入门指南
自动化推理技术简介本周某中心科学部门将自动化推理新增为研究领域。 开发团队也将自动化推理工具集成到开发流程中，显著提升了产品的安全性、持久性、可用性和质量。本文旨在为行业从业者提供自动化推理的入门指引。 而自动化推理工具利用代数原理可在毫秒级判定该表达式恒为真。 技术栈分类逻辑系统：命题逻辑/一阶逻辑等形式体系定理证明：如四色定理的机器验证形式化验证：应用于CompCert C编译器等系统自动化推理：强调形式化方法的自动化实现应用实践该技术可同时分析策略文件（如访问控制策略 某机构内部同时采用全自动和半自动推理工具，对外服务则采用全自动化方案。
22200编辑于 2025-08-09自动推理技术闪电演讲解析
自动推理技术闪电演讲第32届计算机辅助验证国际会议（CAV）专注于推动硬件和软件系统计算机辅助形式化分析方法的理论与实践。 技术应用领域科学家团队展示了以下自动推理技术的具体实践：约束推理：应用于身份与访问管理系统静态分析：在视频流媒体服务中的实施模型检测：用于物联网设备验证形式化验证：在云存储服务等关键系统的应用技术方法详解演讲涵盖了三种核心验证方法 ：基于约束的推理：通过数学约束条件验证系统行为静态分析：在不执行代码的情况下分析程序行为模型检查：使用算法验证系统模型是否满足规约要求这些技术方法正在被广泛应用于各类云服务和数字平台，确保系统的可靠性和安全性
23310编辑于 2025-08-31自动推理技术如何优化视频体验
自动推理如何优化视频体验自动推理是机器进行逻辑推理的能力。软件验证是自动推理的常见应用，即确认计算机程序将按预期执行。 自2019年以来，某中心视频自动推理团队一直在创建软件开发工具，利用这些验证技术为开发人员提供对其所编写代码的更大信心。 由于该应用程序具有由全球数十个独立团队使用多种编程语言开发的多个组件，并且必须在数千种不同的硬件配置上运行，这为自动推理提供了特别严峻的环境。 自2021年3月26日起，所有视频开发人员都在使用名为BugBear的自动推理机器人，该机器人进行自动代码审查，在检测到潜在问题时提供清晰且可操作的评论，或确认未发现问题。 使用自定义规则集，可以自动推断程序的属性。采用声明性编程语言Datalog来表示事实和规则。
21110编辑于 2025-09-29自动化推理技术入门指南
自动化推理技术简介本周某中心科学部门将自动化推理新增为研究领域。 这一决策源于该技术在内部产生的重大影响，例如某机构云服务的客户现已能直接使用基于自动化推理的功能如IAM访问分析器、S3公共访问阻断等功能。 开发团队也正将自动化推理工具集成到开发流程中，从而提升产品的安全性、持久性、可用性和质量。 自动化推理工作原理自动化推理工具通过数学方法分析程序或逻辑公式，例如：分析程序控制流结构推断程序最终必然成立的条件验证程序始终满足的不变式进阶案例分析以下Python函数的终止性：def g(x, y) : if y > 0: while x > y: x = x - y自动化推理工具可证明：当y为正数时，x值必然递减直至退出循环，从而确保函数终止。
15500编辑于 2025-08-07自动化推理助力IAM策略检查
自定义策略检查助力自动化推理民主化新的IAM Access Analyzer功能使用自动化推理，确保用IAM策略语言编写的访问策略不会授予意外访问权限。 通过Amit Goel, Jeremiah Dunham 2023年12月8日 阅读时间：7分钟为了控制对某机构云中资源的访问，客户可以编写身份与访问管理（IAM）策略。 自定义策略检查将策略语句转换为数学公式的任务抽象化，使客户无需具备形式逻辑专业知识即可享受自动化推理的好处。 自定义策略构建在一个名为Zelkova的内部服务上，该服务使用自动化推理来分析IAM策略。 自动化推理民主化的关键是使其使用简单且易于指定属性。通过额外的自定义检查，将继续支持客户在最小权限之路上前进。FINISHED
7010编辑于 2026-04-08自动推理技术如何优化视频平台体验
自动推理技术如何优化视频平台体验自动推理指机器进行逻辑推导的能力，其常见应用场景包括软件验证（确保计算机程序按预期执行）。 自2019年起，某中心Prime Video自动推理团队开始创建软件开发工具，利用这些验证技术为视频平台应用的开发者提供更高代码可靠性保障。 该应用需兼容数千种硬件配置，整合全球数十个团队用多种编程语言开发的组件，构成自动推理技术的特殊挑战环境。 2021年3月26日起，所有Prime Video开发者开始使用名为BugBear的自动推理机器人进行代码审查。该工具能在15分钟内提供反馈，支持C/C++、Java和TypeScript语言的分析。 技术实现细节在2020年下半年启动的试点中，BugBear执行了1000多次自动代码审查，发现约100个潜在问题，其中80%被开发者确认需要修改。
27310编辑于 2025-08-15- 来自专栏贾志刚-OpenCV学堂
多线程界面化、ONNXRUNTIME + YOLOv8推理演示
、实例分割、姿态评估的推理。 基本设计思路 这个系列我好久没有更新了，今天更新一篇PyQT5中如何实现YOLOv8 + ONNRUNTIME推理界面化与多线程支持。 首先需要实现三个类分别完成YOLOv8的对象检测、实例分割、姿态评估模型推理。然后在实现界面类，构建如图： 推理类型通过单选按钮实现选择，支持对象检测、实例分割、姿态评估。 推理按钮开发推理演示，支持视频与图像文件，开始推理会单独开启一个推理线程实现推理，推理结果通过信号发送到指定的槽函数处理之后更新界面，通过信号与槽机制实现界面线程跟推理线程相互独立与数据共享。 app.setStyle('Windows') # 初始化桌面容器 main_win = QtWidgets.QMainWindow() # 设置APP窗口名称 main_win.setWindowTitle("YOLOv8多线程推理应用演示
2K20编辑于 2023-08-22 - 来自专栏xingoo, 一个梦想做发明家的程序员
【Spring实战】—— 8 自动装配
本篇介绍一下自动装配的知识，Spring为了简化配置文件的编写。采用自动装配方式，自动的装载需要的bean。 自动装配 有以下几种方式： 1 byName 通过id的名字与属性的名字进行判断，要保证Bean实例中属性名字与该装配的id名字相同。 4 autodetect 自动装配，这个测试了，3.0.5版本不可用了，不知道是不是被移除了。 xml version="1.0" encoding="UTF-8"? xml version="1.0" encoding="UTF-8"?
690100发布于 2018-01-17 - 来自专栏CreateAMind
自动生成julia(贝叶斯)推理算法代码
ForneyLab.jl is a Julia package for automatic generation of (Bayesian) inference algorithms. Given a probabilistic model, ForneyLab generates efficient Julia code for message-passing based inference. It uses the model structure to generate an algorithm that consists of a sequence of local computations on a Forney-style factor graph (FFG) representation of the model. For an excellent introduction to message passing and FFGs, see The Factor Graph Approach to Model-Based Signal Processing by Loeliger et al. (2007). Moreover, for a comprehensive overview of the underlying principles behind this tool, see A Factor Graph Approach to Automated Design of Bayesian Signal Processing Algorithms by Cox et. al. (2018).
29530编辑于 2023-10-12 思维链推理自动化检测大模型幻觉
自动化幻觉检测与思维链推理当大型语言模型（LLM）被提示诸如"圣约翰草可能与哪些药物发生相互作用？" 声明分类中的高级推理最初遵循传统方法直接提示LLM对提取的声明进行分类，但这未达到性能标准。因此转向思维链（CoT）推理，其中要求LLM不仅执行任务还要证明其采取的每个行动。 开发了一个五步CoT提示，结合了声明分类的精选示例（少样本提示）和指示声明分类LLM彻底检查每个声明对参考上下文的忠实度并记录每次检查背后的推理的步骤。 结果清楚地显示了少样本CoT提示带来的性能改进（从0.78提高到0.8，提高了2个百分点），使我们更接近大规模自动识别LLM幻觉。 除了二元分类或常用的自然语言推理（NLI）类别（支持、反驳和信息不足）之外，提出了一套通过分析常见LLM幻觉中的语言模式开发的新错误类型。
21510编辑于 2025-09-05- 来自专栏GiantPandaCV
NCNN+INT8+YOLOV4量化模型和实时推理
xx.jpg 调用int8模型进行推理 打开vs2019，建立新的工程，配置的步骤我在上一篇博客已经详细说过了，再狗头翻出来祭给大家： https://zhuanlan.zhihu.com/p/368653551 禁掉，不用了 换成int8推理 把线程改成你之前制作int8模型的那个线程 模型也替换掉 具体如下： ? 代码需要修改的几点 走到这里，就可以愉快的推理了 ? （问的好，2g显存老古董跑起来怕电脑炸了） 对比之前的fp16模型，明显在input_size相同的情况下快了40%-70%，且精度几乎没有什么损耗 总结来说，新版ncnn的int8量化推理确实是硬货， 后续会尝试更多模型的int8推理，做对比实验给各位网友看 所有的文件和修改后的代码放在这个仓库里，欢迎大家白嫖： https://github.com/pengtougu/ncnn-yolov4-int8
3K30发布于 2021-05-18 - 来自专栏贾志刚-OpenCV学堂
两行代码搞定YOLOv8各种模型推理
微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 前言 大家好，YOLOv8 框架本身提供的API函数是可以两行代码实现 YOLOv8 模型推理，这次我把这段代码封装成了一个类，只有40 行代码左右，可以同时支持YOLOv8对象检测、实例分割、姿态评估模型的GPU与CPU上推理演示。 程序实现 YOLOv8框架支持的函数推理会自动识别模型的类型是对象检测、实例分割、姿态评估中哪一种，有GPU支持的情况下，默认会使用GPU推理。 推理运行在一个单独的PyQT线程中，通过信号与槽机制实现推理结果返回与更新。 __init__() self.settings = settings self.detector = YOLOv8PtInference(settings)
1.8K40编辑于 2023-08-22 每日十亿次查询：云安全中的自动推理技术
每日十亿次查询：自动推理如何保障云安全在某中心，科学家和工程师们正在利用自动推理技术来证明关键内部系统的正确性，并帮助客户验证其云基础设施的安全性citation:1。 SMT（可满足性模理论）是SAT（布尔可满足性问题）的泛化，它能够处理整数、实数、字符串或函数等理论，是形式化方法——即使用自动推理来证明计算机程序将按预期运行——的主要工具。 Zelkova：自动化的安全策略分析引擎为了将自动推理的力量带给所有客户，某中心开发了名为 Zelkova 的自动推理引擎citation:1。 这使得客户只需查看清晰的是/否答案，即可轻松确定云资源的安全性，从而民主化了自动推理技术，让所有用户都能使用citation:1。 某中心的服务使得自动推理技术正在改变云安全格局，其能力通过几次点击即可提供给所有客户，实现了从学术研究到大规模工业实践的成功转化citation:1。
10510编辑于 2025-12-24- 来自专栏机器之心
20+移动端硬件，Int8极速推理，端侧推理引擎Paddle Lite 2.0 正式发布
机器之心发布 机器之心编辑部 今年 8 月，飞桨（PaddlePaddle）对外发布面向终端和边缘设备的端侧推理引擎 Paddle Lite Beta 版。 Paddle Lite 的 Github 链接： https://github.com/PaddlePaddle/Paddle-Lite Paddle Lite 致力于提供一套功能完整、易用、高性能的端侧推理引擎 在 AI 技术落地中，推理阶段与实际应用相关联，直接关系到用户的体验，是非常具有挑战性的一环。 ? 图 1 .典型端侧 AI 应用部署场景 Paddle Lite 是飞桨产品栈中用于端侧高性能轻量化 AI 应用部署的推理引擎，核心用途是将训练出的模型在不同硬件平台场景下快速部署，根据输入数据，执行预测推理得到计算结果 更好的性能 ARM CPU (v7,v8) 上 float32 和 int8 两种计算模式的预测性能均得到提升（见图 3，图 4），详情可以参考最新的 Benchmark： 链接：https://paddlepaddle.github.io
1.3K20发布于 2019-11-11 - 来自专栏啄木鸟软件测试
如何实现TensorRT推理服务的自动化回归测试？
这正是许多团队面临的现实困境：训练端精度达标，但上线后性能不升反降；INT8量化后吞吐提升，却因数值偏差触发下游业务逻辑错误。 这就引出了我们真正要构建的东西：一个围绕TensorRT推理生命周期的自动化回归测试体系。 这套系统的核心逻辑其实很清晰：每次模型变更，都必须回答两个问题——功能是否一致？性能是否可控？ 比如对FP32输出，L2距离小于1e-3；对INT8，则允许稍大容忍度，但仍需保证关键类别不漂移。 因此，自动化测试的第一步，不是跑推理，而是确保引擎能稳定构建。 在自动驾驶、医疗影像、金融风控等高可靠性场景中，这种机制不是“锦上添花”，而是“生存必需”。 未来，随着LLM推理优化的兴起，TensorRT也在不断演进，支持更大模型、动态批处理和稀疏计算。
17010编辑于 2026-03-04 yolov8自动标注工具自动打标签工具
软件截图如下： 这个工具可以自动将图片识别为指定类别并保存为VOC格式xml文件， 软件只支持官方80类别，您可以选择其中一部分或者一部分进行自动标注，标注的效果依据图片而定，通过自动标注您可以减少很多标注工作量 具体使用教程： yolov8自动标注工具使用教程可更换自己模型标注_哔哩哔哩_bilibiliyolov8自动标注自己图片支持更换自己模型进行自动标注, 视频播放量 2、弹幕量 0、点赞数 0、投硬币枚数 】从未见过能把YOLOv8讲的如此通俗易懂！ ，yolov7自动标注工具自动打标签目标检测自动标注gpu加速标注使用教程，【创意乐高】我用乐高搭建了巴黎：探索微缩巴黎的乐高之旅！ ，4yolov8快速训练助手一键训练自定义VOC格式数据集，python使用pyqt5搭建yolov8 竹签计数一次性筷子计数系统，自动标注 https://www.bilibili.com/video
1.3K10编辑于 2025-07-17自动化推理与差分测试构建Cedar语言
使用自动化推理和差分测试构建Cedar语言Cedar是一种新的授权策略语言，被某中心的验证权限服务和某机构云服务使用，最近已公开发布。使用Cedar，开发人员可以编写策略，为其应用程序指定细粒度权限。 首先，使用自动化推理来证明Cedar组件形式化模型的重要正确性属性。其次，使用差分随机测试来展示模型与生产代码匹配。Cedar入门Cedar是一种用于编写和执行自定义应用程序授权策略的语言。 使用Dafny内置的自动化推理能力，已经证明了代码满足各种安全和安全属性。其次，使用差分随机测试（DRT）来确认Cedar的生产实现（用Rust编写）与Dafny模型的行为匹配。 将授权引擎建模为Dafny函数，并使用Dafny的自动化推理能力来陈述和证明显式许可和禁止覆盖许可属性。 注意到Dafny模型不仅对自动化推理有用，对手动推理也有用。Dafny代码比Rust实现更容易阅读。作为衡量标准，在撰写本文时，授权器的Dafny模型代码行数约为生产代码的六分之一。
16210编辑于 2025-10-25在K8s上部署分离式LLM推理
本文将概述如何在Kubernetes上部署分离式推理，探讨不同的生态系统方案及其在集群上的执行方式，并评估它们开箱即用的能力。聚合式与分离式推理有何不同？ 这会在推理管道中造成瓶颈，直到一切赶上。这些模式是可行的。协调只是发生在Kubernetes原语之外：在推理框架的路由层、在自定义自动扩缩器、专用操作器甚至手动操作中。 操作器为每个角色创建一个水平Pod自动扩缩器，因此预填充和解码基于各自的指标独立扩缩容。 推理框架如何协调扩缩容推理框架通过具有推理特定指标可见性的自定义自动扩缩器在应用程序层面解决扩缩容问题。 （如Dynamo规划器或llm-d的自动扩缩器）做出协调决策并更新两者。
7510编辑于 2026-04-16使用 OpenVINO™ C# 异步推理接口部署YOLOv8
以下是文章，收藏看看使用 OpenVINO™ C# 异步推理接口部署YOLOv8 ——在Intel IGPU 上速度依旧飞起！！ 在上一篇文章中《使用 OpenVINO™ C++ 异步推理接口部署YOLOv8 ——在Intel IGPU 上实现80+FPS视频推理》我们已经实现了使用OpenVINO™ C++ 异步API接口部署YOLOv8 一些C#开发者也想在使用OpenVINO™在C#中实现异步推理，那么该如何实现呢？那么他来了，下面我们将会演示如何使用OpenVINO™异步接口在C#中部署YOLOv8 实现视频快速推理。 项目环境 推理设备：OpenVINO IGPU CPU: Intel Core i7-1165G7 IGPU: Intel Iris Xe Graphics 推理模型: YOLOv8s 代码实现 4.1 定义YOLOv8数据处理方法 首先定义了一下YOLOv8模型前后处理的方法，包括输入数据处理接口pre_process(cv::Mat* img, int length, float
48800编辑于 2025-07-21- 来自专栏GiantPandaCV
深度学习Int8的部署推理原理和经验验证
这篇说的是如何用全整形进行推理，这部分我用c代码全部实现了(下次一定写稿)。 个人观点，这个图并不能下结论：per-channel和per-tensor在int8量化推理下没有太大的差异，因为这只量化weight，而没有考虑其他，比如量化activation。 论文附录有炼丹配方 深度学习Int8的部署推理原理和经验验证 论文出处：《Integer Quantization for Deep Learning Inference Principles and 这篇说的是如何用全整形进行推理，这部分我用c代码全部实现了(下次一定写稿)。 个人观点，这个图并不能下结论：per-channel和per-tensor在int8量化推理下没有太大的差异，因为这只量化weight，而没有考虑其他，比如量化activation。
2.5K20编辑于 2022-05-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号