- 综合排序
- 最热优先
- 最新优先
- 来自专栏数据派THU
视觉深度伪造检测技术综述
深度伪造技术的滥用使人们逐渐意识到其带来的威胁，伪造检测技术随之而生。本文基于视觉深度伪造技术研究进行综述。 1）简要介绍了视觉深度伪造技术的发展历程及技术原理，包括生成对抗网络在深度伪造制品中的应用；2）对现有的视觉深度伪造数据集进行汇总并归类；3）对目前的视觉深度伪造检测技术进行了分类，将现有的检测方法归纳为基于具体伪影的 、基于数据驱动的、基于信息不一致和其他类型视觉深度伪造检测等4种分类。 这两种方法都具有识别效率高、训练便捷等优点；基于数据驱动的方法通过大量的数据集和机器学习训练，直接使用神经网络本身对深度伪造制品进行训练，并通过改善网络架构增进模型以提高训练效率，因为其模型的多变和高精确率成为目前深度伪造检测的热门方向 同时，本文分析了4种方法的具体优缺点，并进一步给出了未来视觉深度伪造检测研究的重点和难点。 http://www.cjig.cn/jig/ch/reader/view_abstract.aspx?
88410编辑于 2022-03-04 - 来自专栏ATYUN订阅号
附带深度语音伪造检测的语音平台
例如，百度最新的深度语音服务可以用3.7秒的音频样本克隆一个语音，7月份的一篇研究论文发布的克隆实现只需要大约5秒。 在6月和7月的最近一次统计中，它发现了14,698个网络上的深度伪造视频，比去年12月的7,964个有所增加，仅在7个月内就增长了84%。 因此，该团队几个月前发布了一个名为blyzer的深度语音伪造检测工具，能够通过提取语音样本的高级表示方法，预测辨别真实还是生成。
2.5K30发布于 2019-12-20 - 来自专栏绿盟科技研究通讯
RSAC 2024创新沙盒｜Reality Defender：深度伪造检测平台
，其研发的检测工具适用于识别人工智能合成和伪造的文本、图像、视频和音频，为政府机构、金融企业、媒体以及其他大型组织提供深度伪造检测解决方案。 图 3 Reality Defender支持实时音频伪造检测 总而言之，Reality Defender提供的深度伪造检测工具能够识别虚假的媒体内容和有害信息，帮助团队防范和应对人工智能深度伪造威胁。 2）深度伪造检测 最常见的图像和视频深度伪造检测技术是基于伪造前后图像的特征差异或GAN生成图像的特征的检测方法。 推进多模态检测算法的研究 多数已有检测方案仅关注了单一的伪造样本类型（图像或语音），属于单模态伪造检测。 可以预见，未来深度伪造检测产品将会更注重和贴合实时检测、多模态检测需求，提高检测可靠性和准确率，国内外也会针对深度伪造出台法规政策、行业标准，应对更加成熟复杂的深度伪造技术，为深度伪造检测产品的发展提供良好的市场环境
2.1K10编辑于 2024-05-09 - 来自专栏计算机视觉战队
传统和深度学习进行结合，较大提高人脸伪造检测
01 简介 随着现实的人脸操作技术取得了显著的进步，社会对这些技术可能被恶意滥用的担忧引发了人脸伪造检测的新研究课题。 为了将频率引入人脸伪造检测，提出了一种新的人脸伪造网络中的频率（F3-Net），利用两种不同但互补的频率感知线索，1）频率感知分解图像分量和2）局部频率统计，通过双流协同学习框架深入挖掘伪造模式。 因此，如果我们想利用可学习CNN的判别表示能力进行频率感知人脸伪造检测，那么CNN兼容的频率表示就变得至关重要。为此，我们想介绍两种频率感知伪造线索，它们与深度卷积网络的知识挖掘相兼容。 整个人脸伪造检测模型是通过交叉熵损失以端到端的方式学习的。 大量实验表明，通过彻底的烧蚀研究，所提出的F3-Net显著提高了低质量伪造介质的性能。
52430编辑于 2023-08-24 - 来自专栏机器之心
AI换脸无法识别？这里有个方法
本研究使用该数据集，采用额外的人脸区域特定领域知识，改善了人脸图像伪造检测的准确率。 现在，操纵视觉内容已经很普遍，也是数字社会中最重要的话题之一。 研究者以监督学习的方式训练了一个神经网络，可以解决人脸伪造检测的问题。 4 伪造检测 我们将伪造检测视为被操纵视频每一帧的二分类问题。下面是人工和自动伪造检测的结果。对于所有的实验，我们将数据集分成固定的训练、验证和测试集，分别包含 720、140 和 140 个视频。 4.2 自动伪造检测方法 ? 图 7：使用人脸图像伪造的特定领域信息（即人脸追踪），所有使用架构在不同操纵方法上的二分类检测准确率。这些架构在不同的操纵方法上独立训练。 ?
4.5K40发布于 2019-04-30 - 来自专栏论文精读
【人脸伪造检测后门攻击】 POISONED FORGERY FACE: TOWARDS BACKDOOR ATTACKS ON FACE FORGERY DET
### 一、研究动机 虽然目前在图像识别任务中有许多有效后门攻击方法，直接扩展到人脸伪造检测领域却存在着一定的问题，例如存在一些伪造人脸检测的算法（`SBI`, `Face X-ray`）是通过真实图像合并转换为负样本进行模型训练的 [image](https://img-blog.csdnimg.cn/img_convert/51a2799c86cb62b23fb530d48eb7df78.png)> $x_k$：表示真实图像 [image](https://img-blog.csdnimg.cn/img_convert/a96adc19a83d73ca308c04f97d7b35f9.png)### 三、其他数据* **数据集 > * SIG (2019) 使用了正弦信号作为后门触发器* **防御后门攻击** > * 重新微调 > * 知识蒸馏微调* **参考文献** * 伪造检测器在推理阶段可以被对抗性例子欺骗
30410编辑于 2024-11-02 - 来自专栏机器之心
CVPR 2021 | 中科大联合快手，提出人脸伪造检测新方法
机器之心发布 机器之心编辑部 来自中科大、快手的研究者针对人脸伪造，提出了基于单中心损失监督的频率感知鉴别特征学习框架，将度量学习和自适应频率特征学习应用于人脸伪造检测，实现SOTA性能。 与之对应的，人脸伪造检测也逐渐成为计算机视觉领域研究的热点。 目前的检测方法大多数将伪造检测任务转化为二分类任务来处理，使用softmax loss[1] 监督网络在自然和篡改人脸的混合数据集上训练。 篡改人脸类内分布的多样性意味着在特征空间中聚合所有的篡改人脸是一件困难的事，这种优化上的困难导致了常规的度量学习方法应用到人脸伪造检测领域时通常无法取得理想的效果。 如下表所示： 表二：消融实验 该研究在FF++数据集上与之前的人脸伪造检测方法进行了比较。 Large-margin softmaxloss for convolutional neural networks[C]//ICML. 2016, 2(3): 7. [2] Gueguen L
63830编辑于 2023-03-29 - 来自专栏机器之心
ACM Computing Surveys | 港大等基于可靠性视角的深度伪造检测综述，覆盖主流基准库、模型
近日，一篇基于可靠性视角的深度伪造检测综述收录在 ACM Computing Surveys (IF=23.8)。 以上两类情况，都需要依赖于深度伪造检测模型的鲁棒性，从而可以持续地在实际生活案例中发挥作用。 同时，该综述通过进行大量实验，在不同的样本集大小、置信度、采样次数等环境设定下，对为解决三种话题和挑战的七个深度伪造检测模型进行模型复现和可靠性分析。 图 2: 深度伪造检测模型可靠性分析算法。 因此，本综述论文所总结的理念、发现、结论也为深度伪造检测领域的研究者们提供了新的研究挑战与研究方向。 图 3: 深度伪造检测模型在四个实际案例中的视频上的检测结果以及其对应的 95% 置信度可靠性结论。
49310编辑于 2025-02-03 - 来自专栏AI科技评论
今日 Paper | 物体渲染；图像和谐化；无偏数据处理方法；面部伪造检测等
目录 IGNOR: 基于深度学习的图像引导的物体渲染 基于域验证的图像和谐化 人体姿态估计中的无偏数据处理方法的研究 面部X射线，可进行更一般的面部伪造检测 即插即用(Plug and Play) 面部X射线，可进行更一般的面部伪造检测 论文名称：Face X-ray for More General Face Forgery Detection 作者：Lingzhi Li1 发表时间：2019/
72520发布于 2020-03-24 - 来自专栏人工智能前沿讲习
商汤科技发布迄今最大人脸检测数据集，绝杀Deepfake
近日，发表于Venturebeat的一篇文章称，商汤科技研究院与新加坡南洋理工大学合作设计了迄今为止最大的人脸伪造检测数据集——DeeperForensics-1.0。 研究人员表示，DeeperForensics-1.0是一种新的大规模的人脸伪造检测数据集，被称为是同类中最大的语料库，有超过6万个视频，大约有1760万帧。 在未来的工作中，研究团队打算逐步深入取证领域，并与研究社区合作，确定人脸伪造检测方法的评估指标。 与Deepfake的斗争似乎正在升温。 初创公司Truepic在7月获得了800万美元的融资，它们正在试验deepfakes的“探测即服务”商业模式。
1.1K10发布于 2020-05-13 - 来自专栏AI研习社
微软北大联合提出换脸 AI 和脸部伪造检测器，演绎现实版「矛与盾」？
一个致力于造假，一个专注于打假；光是听起来，就不禁让人联想到「矛」与「盾」的故事。那到底哪个更胜一筹呢？VB 发布了的相关内容介绍了这两个成果，我们将其整理及编译如下。
63020发布于 2020-02-12 - 来自专栏机器之心
CVPR 2022视觉算法双竞赛收官，一文详解Top团队方案
美团：更具泛化性的图像篡改检测：模型重要，数据表征也至关重要 该团队的解决方案首先在主干选型上做了大量实验，充分考虑了主干模型的异构性和多样性，最终构建了包含 7 个主干的模型池，基础模型类型涉及 SwinTransformer 蚂蚁集团天堑实验室负责人，资深算法专家刘焱的观点：深度伪造检测是一个攻防对抗异常激烈的领域，经济利益的驱使以及大量开源的视频伪造、修改软件的出现，促使了深度伪造技术发展迅速、变种多样。 另外，从实际应用的角度，深度伪造检测技术的可解释性非常重要。 关于深度伪造检测的方向和发展趋势，新加坡南洋理工大学 Ziwei Liu 教授提到，深度伪造检测未来还是会继续往大规模、泛化性的方向发展。 随着新的伪造方法的出现，如果让深度伪造检测快速迁移到全新的伪造方法上，也将会是一个重要的问题。 中国信通院云大所内容科技部副主任刘硕则表示，数字时代已经来临，针对伪造数字图像和视频的检测技术愈发重要。
1.3K20编辑于 2022-06-17 - 来自专栏个人博客
TruFor笔记和代码复现 - plus studio
最近有个新闻很火，说谷歌 AI 技术曾判定美国登月任务的照片存在虚假内容 有大佬找到了出处，使用的是google 的论文arxiv，代码开源在GitHub 笔记 这篇论文介绍了一个名为TruFor的图像伪造检测和定位框架 伪造检测器：该检测器利用定位图和置信度图进行图像级别的决策。 这些组件通过三个训练阶段进行学习： 1. 首先，使用大量原始图像数据集训练Noiseprint++提取器。 2. 最后，使用相同的数据集训练置信度图解码器和伪造检测器。 通过这些组件和训练阶段，TruFor框架能够在各种图像伪造方法中实现可靠的检测和定位。 模型输出包括以下三个部分： 1. 全局完整性得分（Global Integrity Score）：该得分表示图像的整体真实性，用于自动图像伪造检测。 2.
1.3K10编辑于 2024-02-29 - 来自专栏AIGC 先锋科技
LoRAX：应对生成式AI图像归因难题的可扩展低秩自适应网络，在深度伪造检测中展现高效与竞争力 !
作者在持续深度伪造检测（CDDB）基准数据集上完成了大量实验，以验证LoRAX方法在不同内存设置和CIL任务数据流中的有效性。 实验 持续深度伪造检测基准（CDDB）[16] 是一个用于在持续学习环境下评估合成图像检测/分类模型的深度伪造检测基准。该基准通过整合来自十二个知名合成图像分类数据集的图像创建而成。 CDDB基准为持续学习模型评估定义了三种训练场景：简单（7个任务）、困难（5个任务）和长期（12个任务）。每个场景定义了训练持续学习模型的任务顺序。 所有测试的主干模型均使用ImageNet [7]预训练权重初始化。作者的LoRAX模型的LoRA微调组件使用HuggingFace [31]库。 LoRAX通过示例改进微调性能 如表1所示，将LoRA Adapter 应用于微调的ConViT Backbone 网络，在所有场景中均将准确率提高了1-7% AA和1-10% AAF，并且这一改进在所有测试的内存设置下均成立
41700编辑于 2025-05-12 - 来自专栏AI快讯
传音持续深耕AI语音多模态技术，打造本地化智能交互体验
目前，传音已经在语音识别、语义理解、语音合成、自然语言处理、知识图谱等方面形成了的自身的AI语音底层技术能力，构建起小语种语音数据优势，并在多语种语音助手、数字人、语音伪造检测技术方面取得了重大突破。 今年以来，传音AI技术部成果不断，接连在ICASSP 2023 SLU口语理解挑战赛、IJCAI 2023 ADD 语音深度伪造检测国际挑战赛夺得佳绩，并在国际多媒体旗舰学术会议ICME 2023上发表数字人多模态交互的相关学术论文 为了维护信息的可信性、保障社会安全，语音伪造检测技术变得至关重要，已经成为人工智能领域的一个较新的研究方向。 传音围绕智能终端产品业务场景，以本地用户需求为导向，不断延伸AI语音底层技术能力，布局新技术领域，在语音伪造检测技术上取得了重大突破。 下一步，传音AI技术部将继续探索语音深度伪造检测技术在传音智能终端产品上的应用，如通话诈骗检查保护用户隐私安全等，不断提升用户使用体验。
76750编辑于 2023-09-15 - 来自专栏总结xyp
PRCV 2025：文本何以成为 AGI 的必经之路？
1.FidOK三大检测能力FidOK图像智能鉴伪系统覆盖三大场景：文本图像伪造检测、人脸图像伪造检测、AIGC图像伪造检测，每个场景都有不同的技术难度：文本图像伪造检测主要是检测PS、删除、移动等篡改操作 人脸图像伪造检测包括换脸、对换等高级伪造手段。这类检测的难点在于，要从一张静态图片中找出极细微的不自然之处。 AIGC伪造检测生成模型（如Diffusion模型、GAN）生成的图像质量越来越高，这是当前最大的挑战。生成的图像往往在一些微妙的统计特性上与真实图像不同——比如色彩的分布、纹理的细节规律。 国有四大行之一的案例中，人脸伪造检测配合相似背景检测，伪造拦截率超过原有系统近8倍。
23110编辑于 2025-10-23 NeurIPS 2024｜腾讯优图实验室10篇论文入选，含持续学习、大型语言模型、深度伪造检测等研究方向
今年，腾讯优图实验室共有10篇论文被录用，内容涵盖持续学习、大型语言模型、数据集浓缩、深度伪造检测等研究方向，展示了腾讯优图实验室在人工智能领域的技术能力和研究成果。 在深度伪造检测领域，大多数现有研究遵循一个普遍认可的方法来评估顶尖的检测算法：即在特定的数据集（例如FF++）上训练检测器，并在其他常用的深度伪造数据集上进行测试。 评估协议的局限：大多数检测研究仅对一种类型的伪造进行评估，例如仅在换脸上进行训练和测试，这限制了通用深度伪造检测器的发展。 我们随后使用4种标准评估协议和7个代表性检测器进行了全面评估，总计超过2,000次评估。通过这些评估，我们从多个角度进行了深入分析，得出了12项对该领域具有重要贡献的新颖见解。 大量实验表明，我们在6种不同异常检测数据集上、7种不同的指标上取得了SoTA，证明了Mamba AD方法了有效性。
1.5K10编辑于 2024-10-23- 来自专栏技术汇总专栏
合合信息在视觉内容安全领域的创新与应用-应对伪造挑战的前沿进展
该公司通过自研的AI算法，能够实现对图像、视频篡改区域的精确识别，并具备较强的跨域泛化能力，适应不同场景下的伪造检测需求。 ●2023年 AFAC金融数据验真竞赛：聚焦金融文档的防篡改检测，吸引了700+支队伍，推动了金融领域伪造检测技术的应用。 通过利用更强大的计算能力和更大规模的数据训练，基于大模型的技术能够有效提高伪造检测的准确率，并具备更好的泛化能力。 通过自研的AI模型，合合信息不仅能够有效地识别伪造图像中的篡改痕迹，还具备较强的跨域泛化能力，能够适应不同场景下的伪造检测需求。 大模型与未来的前景随着大模型技术的兴起，基于大模型的视觉内容安全技术有望在未来大大提高伪造检测的准确性和效率。
63721编辑于 2024-12-23 - 来自专栏计算机视觉战队
传统和深度学习进行结合，较大程度提高人脸检测精度（附论文下载）
01 简介 随着现实的人脸操作技术取得了显著的进步，社会对这些技术可能被恶意滥用的担忧引发了人脸伪造检测的新研究课题。 为了将频率引入人脸伪造检测，提出了一种新的人脸伪造网络中的频率（F3-Net），利用两种不同但互补的频率感知线索，1）频率感知分解图像分量和2）局部频率统计，通过双流协同学习框架深入挖掘伪造模式。 因此，如果我们想利用可学习CNN的判别表示能力进行频率感知人脸伪造检测，那么CNN兼容的频率表示就变得至关重要。为此，我们想介绍两种频率感知伪造线索，它们与深度卷积网络的知识挖掘相兼容。 整个人脸伪造检测模型是通过交叉熵损失以端到端的方式学习的。 大量实验表明，通过彻底的烧蚀研究，所提出的F3-Net显著提高了低质量伪造介质的性能。
37930编辑于 2023-08-23 - 来自专栏机器之心
想用GAN和Deepfake瞒天过海，没那么容易：这是Adobe和加州伯克利的新研究
/abs/1912.11035 项目地址：https://github.com/peterwang512/CNNDetection 在这项工作中，研究者希望找到一种用于检测 CNN 生成图像的通用图像伪造检测方法 一般来说，泛化性确实一直是图像伪造检测领域的难题。 研究者评估了伪造检测分类器在多种基于 CNN 的图像生成方法上的效果。 研究者将该方法的泛化性能与其他图像伪造检测方法进行了比较。 首先，即使是最好的伪造检测器，也要在真实检测率和假阳性率之间进行权衡。
69420发布于 2020-03-12
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号