- 综合排序
- 最热优先
- 最新优先
- 来自专栏大数据-BigData
异常检测
什么是异常检测 异常检测是对罕见事件、项目或关注事件的识别，因为它们与大多数处理数据的特征不同。异常，也称为异常值，可以代表安全错误、结构缺陷，甚至银行欺诈或医疗问题。异常检测主要有三种形式。 第一种异常检测是无监督异常检测。该技术通过将数据点相互比较、为数据建立基线“正常”轮廓并寻找点之间的差异来检测未标记数据集中的异常。 相比之下，监督异常检测需要使用特定的“正常”和“异常”标签来训练数据集。最后，半监督异常检测技术要求分类器在“正常”数据集上进行训练以建立预设，然后分析预期数据以检测异常。 image.png 异常检测技术 有许多流行的异常检测技术。 异常检测的另一种形式的示例称为聚类分析。 聚类分析是分析活动爆发数据的技术，而不是特定的稀有对象。 异常检测的应用 异常检测用于欺诈和入侵检测、系统健康监测和生态系统干扰监测等应用。 例如，在欺诈检测中，银行可以分析一系列交易数据来监控和检测可能的欺诈实例。
1K20编辑于 2022-03-18 - 来自专栏人工智能与演化计算成长与进阶
15非监督学习异常检测7-8使用多元高斯分布进行异常检测
参考资料 斯坦福大学 2014 机器学习教程中文笔记 by 黄海广 15.7-8 多变量高斯分布/使用多元高斯分布进行异常检测 -Multivariate Gaussian distribution/ Anomaly Detection using the Multivariate Gaussian Distribution 示例 假设下图所示的是数据中心监测计算机是否异常的 CPU 加载和内存占用的特征分布 现使用高斯分布对特征进行拟合，计算出 P(x),此时绿色的点表示 异常的样本点(CPU 负载很低但是内存占用很高)，但是根据两个变量的高斯分布单独进行拟合发现其并没有错误其距离中心并不是很远，即表示考虑单变量高斯分布 ，其 P(x_test)并不是很小， 玫红色圆圈表示使用单变量高斯分布得到 P(x)的等高线图 ，所以其并不会被判定为异常数据点 ?
1.1K10发布于 2020-08-14 - 来自专栏深度学习进阶
AIOps异常检测（一）：基于AutoML的异常检测
内容简介 本文主要介绍两篇用AutoML来做异常检测的文章，《PyODDS: An End-to-end Outlier Detection System with Automated Machine 搜索空间 除网络结构外，AutoOD还新增了异常定义空间和损失函数空间。 image.png image.png image.png 异常定义空间 image.png 2.
1.4K30发布于 2021-09-15 - 来自专栏毛利学Python
异常值检测
异常值 异常值（outlier）是指一组测定值中与平均值的偏差超过两倍标准差的测定值，与平均值的偏差超过三倍标准差的测定值，称为高度异常的异常值。 异常值分析 异常值分析是检验数据是否有录入错误以及含有不合常理的数据； 异常值是指样本中的个别值,其数据明显偏离其余的观测值。异常值也称为离群点,异常值的分析也称为离群点分析。 异常值处理一般分为以下几个步骤：异常值检测、异常值筛选、异常值处理。 环境 jupyter notebook 实战演练 现在老板给了我有个任务，说 ? False 读取数据 data = pd.read_csv('C0911.csv', header=0) # C0911.csv, C0904.csv x = data['H2O'].values 异常检测 plt.grid(b=True, ls=':', color='#404040') plt.tight_layout(1.5, rect=(0, 0, 1, 0.95)) plt.suptitle('排污数据的异常值检测与校正
1.2K30发布于 2019-08-29 - 来自专栏又见苍岚
异常检测 OCGAN
深度学习实现异常检测时常用重构的方法，但是过程中会隐含地学习到对检测不利的内容，OCGAN 尝试克服该问题。 当前的方法认为latent representation包含这in-class样本的信息，从而对于in-class样本，其reconstruction的效果好而out-of-class样本的则差，进而能达到检测异常的目的 ，其检测的准确率会有所折扣。 这是因为8的latent representation不仅仅包含了其自身的信息，还包含了其他数字（例如1，3，6，7）的信息。 因此哪怕仅用 8 训练的模型也可以重构一些其他数字 方法介绍 论文的方案是使用一个denoising auto-encoder来学出in-class的latent representation。
54510编辑于 2023-12-20 - 来自专栏又见苍岚
异常检测 DDAD
本文记录异常检测23年性能最佳的工作 DDAD 的原理以及官方源码解析。 简介 DDAD 是 2024 年以前 MVTec AD 数据集上性能最好的异常检测模型，本文解读相关论文并对源码进行解读 论文解读 基本信息 项目 内容 备注 方法名称 DDAD 论文题目 Anomaly 在异常检测推断流程中, 重构的目标图像会被设置为输入图像 x, 目的是基于 x 生成一幅没有缺陷的重构图 x_0, 之后比对 x_0 和 x 之间的差异判断是否存在异常. 最后将二者归一化加权叠加在一起得到异常分数： D_{anomaly}=\left(v\frac{\max(D_f)}{\max(D_p)}\right)D_p+D_f, 其中 域适应性 按照算法的完备性至此已经可以完成异常检测工作了 DDAD 实现异常检测需要分两阶段训练 训练去噪 Unet FineTune 特征提取器 推断时需要加载训练好的 Unet 和特征提取器 Unet 构建 Unet 模型的函数为 main.py ->
2.8K10编辑于 2024-01-11 - 来自专栏Soul Joy Hub
异常值检测
Anomaly Detection 异常值检测想要做的任务是从数据中找出与其他数据显著不同的数据，其具体应用有如：信用卡盗卡检测、网络攻击检测、癌细胞检测等。 2. 异常值检测能不能看做一个二分类任务来建模？通常来说，异常值不能被看做为一个类别，因为异常值的种类实在是太多了。 所以异常值检测很难直接被看做二分类任务。 3. 有Label数据的异常值检测 有Label数据如何做异常值检测呢？ 异常值检测任务： 收集训练集，训练集全部为正常值 训练分类模型 收集验证集，验证集中含着异常值样本 利用AUC等来衡量异常检测效果 4. 无Label数据的异常值检测 4.1 Likelihood 无Label数据的异常值检测思想和朴素贝叶斯相似，使用最大似然估计。我们可以假设各个特征的取值概率分布为高斯分布： ?
91120发布于 2019-04-22 - 来自专栏又见苍岚
异常检测 DiffusionAD
本文介绍 2023 年一篇异常检测中基于扩散模型实现异常检测的工作 —— DiffusionAD。 99.7% Segmentation AU-ROC 98.7% Segmentation AU-PRO 95.7% FPS 23.5 核心思想 用扩散模型作为数据重构子模块，结合一个分割网络用于异常检测 Loss 同时应用，以减少对异常值的过度敏感并准确分割困难异常样本。 将扩散模型与分割网络一起训练： $$ \mathcal{L}_{total}=\mathcal{L}_{noise}+\mathcal{L}_{mask}. $$ 异常生成 上述过程中需要大量带异常的数据才可以训练起来 ，论文中使用了人工制造异常的方式实现。
2.4K10编辑于 2023-12-26 - 来自专栏又见苍岚
异常检测 MemSeg
本文记录一篇生成异常数据用于自监督学习的异常检测工作 —— MemSeg。 一系列的操作将不同尺度信息充分融合又不冗余，实现检测及定位。 论文框架 上图为 MemSeg 整体架构，主要由 异常模拟、记忆模块和空间注意力组成。 异常模拟 监督学习分割网络关键在于生成异常数据，使用惯用套路，生成 mask，将其他图像叠加在 Mask 上，按照透明度融合在一起： I_n’=\delta\left(M\odot I_n\right 后经多尺度特征融合块，经U-Net跳跃连接（这里可以将一些模拟的可分性不强的异常特征去除，保证模拟的真实性。）进入解码器。 为什么不直接使用CI输入到空间注意模块进行计算呢？ 推断 直接端到端从输入图像到异常得分结果前向传播即可。
93010编辑于 2023-12-26 - 来自专栏数说工作室
异常值检测
概括三种异常值检测方法 方法1：对总体进行统计建模来检测异常值 k个标准差以外的； 用指数加权移动回归； 类似CUSUM的一些方法，可以最快速的检测到一些变化。 多重校正其实也算是一种异常值的检测方法，进行多次独立test之后，比如1000次，有很多显著的结果，比如其中的100个都是显著的，但这100个中肯定有很多是由于”test太多了，碰巧造成的“，因为我们设定 关于多重校正，数说君之前专门写过一篇文章，戳这里：浅议P值校正 例2：光谱异常值检测 这个例子要检测有异常光谱的像素。怎么做的呢？ 例4：POS机支付信息的异常检测 这个项目中简单来说也分三步： 1）作者分了很多层建模型，对每个银行建模（银行维度）、对每个区域建模（区域维度）、对每种交易类型建模（交易类型维度）。 异常检测就是要寻找出背后这个机制。 我们将异常值就简单定义为，由一个不同的机制或者总体所产生值。 以上是数说君个人的理解，详细还是看PPT吧： ? : ? ? ? ? ? ? ? ? ? ?
1.6K50发布于 2018-04-04 - 来自专栏又见苍岚
异常检测 SimpleNet
本文介绍异常检测 2023 年一篇优秀工作 —— SimpleNet。 但是异常样本的数量往往不足以支持训练，不同于其他文章生成异常图像，本文在特征空间中的正常样本上添加简单的噪声生成异常特征（文章声明该方法优于其他手工方法）。 ，直接输出 (h,w) 位置的正常水平，正常与添加过异常扰动的人工异常特征共同训练，相当于训练分类网络。 ，异常分数直接由一系列前向推导得到： $$ s_{h,w}^i=-D(q^i_{h,w}) $$ 推理过程中异常定位的异常图定义为： $$ S_{AL}(x_{i}):=\{s_{h,w}^{i}| 同时图像级异常检测结果的得分： S_{AD}(x_i):=\max_{(h,w)\in W_0\times H_0}s_{h,w}^i 由于网络简单，在 3080Ti 上 256*256 的图在未经过量化的模型上可以达到接近
1.3K10编辑于 2023-12-26 - 来自专栏又见苍岚
异常检测 PatchSVDD
本文记录神经网络用于一分类异常检测的改进工作 —— PatchSVDD。 Segmentation 开源代码：https://github.com/nuclearboy95/Anomaly-Detection-PatchSVDD-PyTorch 改进 deep SVDD，提高异常检测能力与添加瑕疵定位能力 ，输出异常位置的热力图。 C_\phi 代表分类网络Classifier，P_{1}为中心点，P_{2}是8个位置的任意一点，分类器需要识别 P_{2} 是哪一个位置。 Patch~SVDD}}=\lambda\mathcal{L}_{\mathrm{SVDD}}+\mathcal{L}_{\mathrm{SSL}}. $$ 该 SSL loss 会提升对象类的图像的异常检测性能
83010编辑于 2023-12-26 - 来自专栏又见苍岚
异常检测 DeepSVDD
本文记录神经网络用于一分类异常检测的开山工作 —— DeepSVDD。 简介 论文：Deep One-Class Classification 开源代码：https://github.com/lukasruff/Deep-SVDD-PyTorch 基于核的单分类异常检测方法难以处理高维样本特征而且计算效率低 主要想法是利用神经网络训练来最小化计算样本特征空间的划分超球面，然后根据球心和测试样本点间的距离来判定样本点是否是异常。 推断 对于测试样本点 x\in X, 可以定义异常分数为输出空间中样本点到超球面球心的距离 $$ s(\boldsymbol{x})=\left\|\phi\left(\boldsymbol{x};
1.4K10编辑于 2023-12-26 - 来自专栏又见苍岚
异常检测 EfficientAD
本文记录异常检测 2023 年的一篇工作 EfficientAD。 在训练学生网络时, 如果使用过多的训练图像, 会使得学生模仿教师对异常数据的行为, 这样不利于异常检测；而故意减少训练图像的数量又会使得学生没有学到正常图像的重要信息. 逻辑异常检测 异常又很多种情况, 教师学生网络适合检测局部区域的异常, 而自编码器善于检测逻辑上的异常, 因此文章为了同时检测所有异常在教师学生网络之外, 使用自动编码器来学习训练图像的逻辑约束并检测对这些约束的违反 左右两组流程分别展示细节异常和逻辑异常的检测过程. pretraining.py 文件中 预训练使用 ImageNet 数据集，首先配置 ImageNet 数据位置 加载特征提取模型（默认 Wide_ResNet101_2），提取下采样 4 × 和 8
3K22编辑于 2024-01-09 - 来自专栏CreateAMind
这个异常检测效果
id=dLoGOry8sJR
45140编辑于 2023-02-14 - 来自专栏vincent随笔
异常检测 anomaly detection
异常检测的应用 欺诈检测 工业质量监测 计算机集群监测 等等 image.png 建立一个异常检测系统的一般步骤 将带有label的数据集划分为训练集、验证集和测试集 注意将异常数据大致平均分配到每个集合中 通常情况下，验证集和测试集的数据都应该是互不相同的，即两个集合没有交集 使用训练集训练算法P(x) 为了避免正负样本分布不均，使用F1-score来评价算法性能 使用验证集来选择阈值ϵ 异常检测和监督学习的区别 异常检测 正例（异常样本）通常都非常少，通常是10这个数量级。 异常的种类非常多，无法通过特征一一确定。未来的异常种类不能预见。
62330发布于 2021-08-18 - 来自专栏又见苍岚
异常检测 SVDD 算法
机器学习中的异常检测在很多场景有重要应用，本文记录 SVDD 算法。 简介 支持向量数据描述 SVDD（Support Vector Data Description，SVDD）是一种单值分类算法，能够实现目标样本和非目标样本的区分，通常应用于异常检测、入侵检测等领域。 SVDD 思想 SVDD 的思路是寻找一个尽可能小的高维球体，将训练数据容纳进去，那么在预测数据时，认为在球体之外的数据为异常数据。 判断新样本是否为异常点 对于一个新的样本点 z ，如果它满足下式，那么我们认为它是一个异常点。
3.5K20编辑于 2022-10-31 - 来自专栏新智元
GAN如何异常检测？最新《生成式对抗网络异常检测》综述论文，概述异常检测的典型GAN模型
本文综述了主要的基于GAN的异常检测方法，并突出了它们的优缺点。 异常是数据中不符合正常行为的定义(Chandola et al., 2009)的模式。 这种GAN特性表明它们可以成功地用于异常检测，尽管它们的应用只是最近才被探索出来。 使用GAN进行异常检测的任务是使用对抗性训练过程建模正常行为，并测量异常评分来检测异常(Schlegl等人，2017)。 第2节介绍了使用GAN进行异常检测的最新架构。在第3节中，我们对所有分析的架构进行了经验评估。最后，第四部分是结论和未来的研究方向. GAN异常检测 基于GAN的异常检测是一个新兴的研究领域。 EGBAD 高效基于GAN的异常检测(EGBAD) (Zenati et al.， 2018)将BiGAN架构引入到异常检测领域。
3.4K40发布于 2021-10-13 - 来自专栏java一日一条
Java【8】异常处理
★ 掌握和编写异常处理机制程序：找到异常出现的逻辑、使用完整的数据测试、形成有针对性的异常处理。 2、异常的分类 ? Throwable是所有异常的共同祖先，异常都是从Throwable继承而来的。 常见的异常有： 输入输出异常：IOException 算术异常类：ArithmeticExecption 空指针异常类：NullPointerException 类型强制转换异常：ClassCastException 异常：程序运行时，程序本身可以捕获并且可以处理的错误。 异常分为： ①运行时异常（不受检异常），一般由程序逻辑错误引起。不要求必须处理，编译器不检查。 使用throws语句抛出异常 ? 使用try-catch语句捕获异常 ? ★ 存在多个异常时：异常的产生是由语句中的异常顺序来决定的！ 5、定义新的异常类型 系统已经给定的那些异常适用于大部分情况，但还要特定的情况需要自己定义新的异常类型。 ? 自定义异常类的步骤： ?
85120发布于 2020-07-02 - 来自专栏机器学习与生成对抗网络
异常检测，GAN如何gan ?
异常检测(Anomaly detection)，一个很常见的问题。 在图像方面，比如每天出入地铁安检，常常看到小姐姐小哥哥们坐在那盯着你的行李过检图像，类似如下（图来自GANomaly论文）： ? 又比如在一些医学图像分析上，源自健康人的影像也许是比较容易获取的，并且图像的“模式”往往固定或者不多变的，而病变的图像数量是很少、很难获取，或者病变区域多变、甚至未知的，此时异常检测就面临着正样本/异常图像很少 这种情况其实在很多场景下有所体现，比如工业视觉检测等等。 对于已知类别、数量较多情况下，不管异常与否，我们也许可以通过训练一个分类模型就能解决。 下面速览几篇论文、看看GAN是如何做异常检测的（数据主要为图像形式）： ---- 1. 检测时的计算方法： ? 4. 2018-11-13 GANomaly: Semi-Supervised Anomaly Detection via Adversarial Training ?
3.3K30发布于 2020-04-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号