- 综合排序
- 最热优先
- 最新优先
- 来自专栏数据派THU
视觉深度伪造检测技术综述
深度伪造技术的滥用使人们逐渐意识到其带来的威胁，伪造检测技术随之而生。本文基于视觉深度伪造技术研究进行综述。 1）简要介绍了视觉深度伪造技术的发展历程及技术原理，包括生成对抗网络在深度伪造制品中的应用；2）对现有的视觉深度伪造数据集进行汇总并归类；3）对目前的视觉深度伪造检测技术进行了分类，将现有的检测方法归纳为基于具体伪影的 、基于数据驱动的、基于信息不一致和其他类型视觉深度伪造检测等4种分类。 这两种方法都具有识别效率高、训练便捷等优点；基于数据驱动的方法通过大量的数据集和机器学习训练，直接使用神经网络本身对深度伪造制品进行训练，并通过改善网络架构增进模型以提高训练效率，因为其模型的多变和高精确率成为目前深度伪造检测的热门方向 同时，本文分析了4种方法的具体优缺点，并进一步给出了未来视觉深度伪造检测研究的重点和难点。 http://www.cjig.cn/jig/ch/reader/view_abstract.aspx?
87810编辑于 2022-03-04 - 来自专栏ATYUN订阅号
附带深度语音伪造检测的语音平台
因此，该团队几个月前发布了一个名为blyzer的深度语音伪造检测工具，能够通过提取语音样本的高级表示方法，预测辨别真实还是生成。
2.5K30发布于 2019-12-20 - 来自专栏绿盟科技研究通讯
RSAC 2024创新沙盒｜Reality Defender：深度伪造检测平台
，其研发的检测工具适用于识别人工智能合成和伪造的文本、图像、视频和音频，为政府机构、金融企业、媒体以及其他大型组织提供深度伪造检测解决方案。 图 3 Reality Defender支持实时音频伪造检测 总而言之，Reality Defender提供的深度伪造检测工具能够识别虚假的媒体内容和有害信息，帮助团队防范和应对人工智能深度伪造威胁。 2）深度伪造检测 最常见的图像和视频深度伪造检测技术是基于伪造前后图像的特征差异或GAN生成图像的特征的检测方法。 推进多模态检测算法的研究 多数已有检测方案仅关注了单一的伪造样本类型（图像或语音），属于单模态伪造检测。 可以预见，未来深度伪造检测产品将会更注重和贴合实时检测、多模态检测需求，提高检测可靠性和准确率，国内外也会针对深度伪造出台法规政策、行业标准，应对更加成熟复杂的深度伪造技术，为深度伪造检测产品的发展提供良好的市场环境
2K10编辑于 2024-05-09 - 来自专栏计算机视觉战队
传统和深度学习进行结合，较大提高人脸伪造检测
01 简介 随着现实的人脸操作技术取得了显著的进步，社会对这些技术可能被恶意滥用的担忧引发了人脸伪造检测的新研究课题。 为了将频率引入人脸伪造检测，提出了一种新的人脸伪造网络中的频率（F3-Net），利用两种不同但互补的频率感知线索，1）频率感知分解图像分量和2）局部频率统计，通过双流协同学习框架深入挖掘伪造模式。 因此，如果我们想利用可学习CNN的判别表示能力进行频率感知人脸伪造检测，那么CNN兼容的频率表示就变得至关重要。为此，我们想介绍两种频率感知伪造线索，它们与深度卷积网络的知识挖掘相兼容。 整个人脸伪造检测模型是通过交叉熵损失以端到端的方式学习的。 大量实验表明，通过彻底的烧蚀研究，所提出的F3-Net显著提高了低质量伪造介质的性能。
50030编辑于 2023-08-24 - 来自专栏论文精读
【人脸伪造检测后门攻击】 POISONED FORGERY FACE: TOWARDS BACKDOOR ATTACKS ON FACE FORGERY DET
### 一、研究动机 虽然目前在图像识别任务中有许多有效后门攻击方法，直接扩展到人脸伪造检测领域却存在着一定的问题，例如存在一些伪造人脸检测的算法（`SBI`, `Face X-ray`）是通过真实图像合并转换为负样本进行模型训练的 > * SIG (2019) 使用了正弦信号作为后门触发器* **防御后门攻击** > * 重新微调 > * 知识蒸馏微调* **参考文献** * 伪造检测器在推理阶段可以被对抗性例子欺骗
29210编辑于 2024-11-02 - 来自专栏机器之心
CVPR 2021 | 中科大联合快手，提出人脸伪造检测新方法
机器之心发布 机器之心编辑部 来自中科大、快手的研究者针对人脸伪造，提出了基于单中心损失监督的频率感知鉴别特征学习框架，将度量学习和自适应频率特征学习应用于人脸伪造检测，实现SOTA性能。 与之对应的，人脸伪造检测也逐渐成为计算机视觉领域研究的热点。 目前的检测方法大多数将伪造检测任务转化为二分类任务来处理，使用softmax loss[1] 监督网络在自然和篡改人脸的混合数据集上训练。 篡改人脸类内分布的多样性意味着在特征空间中聚合所有的篡改人脸是一件困难的事，这种优化上的困难导致了常规的度量学习方法应用到人脸伪造检测领域时通常无法取得理想的效果。 图三：数据预处理流程示意 单中心损失（SCL） 常规的度量学习方法并没有考虑不同类别类内分布的差异性，这导致他们应用到人脸伪造检测时，因为优化困难，而无法获得理想的效果。 如下表所示： 表二：消融实验 该研究在FF++数据集上与之前的人脸伪造检测方法进行了比较。
62730编辑于 2023-03-29 - 来自专栏机器之心
ACM Computing Surveys | 港大等基于可靠性视角的深度伪造检测综述，覆盖主流基准库、模型
近日，一篇基于可靠性视角的深度伪造检测综述收录在 ACM Computing Surveys (IF=23.8)。 以上两类情况，都需要依赖于深度伪造检测模型的鲁棒性，从而可以持续地在实际生活案例中发挥作用。 同时，该综述通过进行大量实验，在不同的样本集大小、置信度、采样次数等环境设定下，对为解决三种话题和挑战的七个深度伪造检测模型进行模型复现和可靠性分析。 图 2: 深度伪造检测模型可靠性分析算法。 因此，本综述论文所总结的理念、发现、结论也为深度伪造检测领域的研究者们提供了新的研究挑战与研究方向。 图 3: 深度伪造检测模型在四个实际案例中的视频上的检测结果以及其对应的 95% 置信度可靠性结论。
45910编辑于 2025-02-03 - 来自专栏机器之心
AI换脸无法识别？这里有个方法
本研究使用该数据集，采用额外的人脸区域特定领域知识，改善了人脸图像伪造检测的准确率。 现在，操纵视觉内容已经很普遍，也是数字社会中最重要的话题之一。 研究者以监督学习的方式训练了一个神经网络，可以解决人脸伪造检测的问题。 本文贡献如下： 使用特定领域知识的当前最先进人脸伪造检测技术。 新型人脸伪造图像数据集，包含来自 1000 个真实视频的 510,207 张图像和目标真值，以保证监督学习。 4 伪造检测 我们将伪造检测视为被操纵视频每一帧的二分类问题。下面是人工和自动伪造检测的结果。对于所有的实验，我们将数据集分成固定的训练、验证和测试集，分别包含 720、140 和 140 个视频。 4.2 自动伪造检测方法 ?
4.4K40发布于 2019-04-30 - 来自专栏AI科技评论
今日 Paper | 物体渲染；图像和谐化；无偏数据处理方法；面部伪造检测等
目录 IGNOR: 基于深度学习的图像引导的物体渲染 基于域验证的图像和谐化 人体姿态估计中的无偏数据处理方法的研究 面部X射线，可进行更一般的面部伪造检测 即插即用(Plug and Play) 面部X射线，可进行更一般的面部伪造检测 论文名称：Face X-ray for More General Face Forgery Detection 作者：Lingzhi Li1 发表时间：2019/
71520发布于 2020-03-24 - 来自专栏AI研习社
微软北大联合提出换脸 AI 和脸部伪造检测器，演绎现实版「矛与盾」？
一个致力于造假，一个专注于打假；光是听起来，就不禁让人联想到「矛」与「盾」的故事。那到底哪个更胜一筹呢？VB 发布了的相关内容介绍了这两个成果，我们将其整理及编译如下。
62220发布于 2020-02-12 - 来自专栏个人博客
TruFor笔记和代码复现 - plus studio
最近有个新闻很火，说谷歌 AI 技术曾判定美国登月任务的照片存在虚假内容 有大佬找到了出处，使用的是google 的论文arxiv，代码开源在GitHub 笔记 这篇论文介绍了一个名为TruFor的图像伪造检测和定位框架 伪造检测器：该检测器利用定位图和置信度图进行图像级别的决策。 这些组件通过三个训练阶段进行学习： 1. 首先，使用大量原始图像数据集训练Noiseprint++提取器。 2. 最后，使用相同的数据集训练置信度图解码器和伪造检测器。 通过这些组件和训练阶段，TruFor框架能够在各种图像伪造方法中实现可靠的检测和定位。 模型输出包括以下三个部分： 1. 全局完整性得分（Global Integrity Score）：该得分表示图像的整体真实性，用于自动图像伪造检测。 2.
1.2K10编辑于 2024-02-29 - 来自专栏AI快讯
传音持续深耕AI语音多模态技术，打造本地化智能交互体验
目前，传音已经在语音识别、语义理解、语音合成、自然语言处理、知识图谱等方面形成了的自身的AI语音底层技术能力，构建起小语种语音数据优势，并在多语种语音助手、数字人、语音伪造检测技术方面取得了重大突破。 今年以来，传音AI技术部成果不断，接连在ICASSP 2023 SLU口语理解挑战赛、IJCAI 2023 ADD 语音深度伪造检测国际挑战赛夺得佳绩，并在国际多媒体旗舰学术会议ICME 2023上发表数字人多模态交互的相关学术论文 为了维护信息的可信性、保障社会安全，语音伪造检测技术变得至关重要，已经成为人工智能领域的一个较新的研究方向。 传音围绕智能终端产品业务场景，以本地用户需求为导向，不断延伸AI语音底层技术能力，布局新技术领域，在语音伪造检测技术上取得了重大突破。 下一步，传音AI技术部将继续探索语音深度伪造检测技术在传音智能终端产品上的应用，如通话诈骗检查保护用户隐私安全等，不断提升用户使用体验。
75450编辑于 2023-09-15 - 来自专栏人工智能前沿讲习
商汤科技发布迄今最大人脸检测数据集，绝杀Deepfake
近日，发表于Venturebeat的一篇文章称，商汤科技研究院与新加坡南洋理工大学合作设计了迄今为止最大的人脸伪造检测数据集——DeeperForensics-1.0。 研究人员表示，DeeperForensics-1.0是一种新的大规模的人脸伪造检测数据集，被称为是同类中最大的语料库，有超过6万个视频，大约有1760万帧。 在未来的工作中，研究团队打算逐步深入取证领域，并与研究社区合作，确定人脸伪造检测方法的评估指标。 与Deepfake的斗争似乎正在升温。
1K10发布于 2020-05-13 - 来自专栏总结xyp
PRCV 2025：文本何以成为 AGI 的必经之路？
1.FidOK三大检测能力FidOK图像智能鉴伪系统覆盖三大场景：文本图像伪造检测、人脸图像伪造检测、AIGC图像伪造检测，每个场景都有不同的技术难度：文本图像伪造检测主要是检测PS、删除、移动等篡改操作 人脸图像伪造检测包括换脸、对换等高级伪造手段。这类检测的难点在于，要从一张静态图片中找出极细微的不自然之处。 AIGC伪造检测生成模型（如Diffusion模型、GAN）生成的图像质量越来越高，这是当前最大的挑战。生成的图像往往在一些微妙的统计特性上与真实图像不同——比如色彩的分布、纹理的细节规律。 国有四大行之一的案例中，人脸伪造检测配合相似背景检测，伪造拦截率超过原有系统近8倍。
22410编辑于 2025-10-23 - 来自专栏机器之心
CVPR 2022视觉算法双竞赛收官，一文详解Top团队方案
第一名方案引入将近 30 种伪造工具来扩展攻击数据的多样性和覆盖面，提高了防攻击的泛化能力；第二名对新型攻击方式针对性的设计伪造检测算子， 提高模型的检测能力；第三名关注了基础模型选型的多样性，精心设计了不同的训练策略 蚂蚁集团天堑实验室负责人，资深算法专家刘焱的观点：深度伪造检测是一个攻防对抗异常激烈的领域，经济利益的驱使以及大量开源的视频伪造、修改软件的出现，促使了深度伪造技术发展迅速、变种多样。 另外，从实际应用的角度，深度伪造检测技术的可解释性非常重要。 关于深度伪造检测的方向和发展趋势，新加坡南洋理工大学 Ziwei Liu 教授提到，深度伪造检测未来还是会继续往大规模、泛化性的方向发展。 随着新的伪造方法的出现，如果让深度伪造检测快速迁移到全新的伪造方法上，也将会是一个重要的问题。 中国信通院云大所内容科技部副主任刘硕则表示，数字时代已经来临，针对伪造数字图像和视频的检测技术愈发重要。
1.3K20编辑于 2022-06-17 - 来自专栏技术汇总专栏
合合信息在视觉内容安全领域的创新与应用-应对伪造挑战的前沿进展
该公司通过自研的AI算法，能够实现对图像、视频篡改区域的精确识别，并具备较强的跨域泛化能力，适应不同场景下的伪造检测需求。 ●2023年 AFAC金融数据验真竞赛：聚焦金融文档的防篡改检测，吸引了700+支队伍，推动了金融领域伪造检测技术的应用。 通过利用更强大的计算能力和更大规模的数据训练，基于大模型的技术能够有效提高伪造检测的准确率，并具备更好的泛化能力。 通过自研的AI模型，合合信息不仅能够有效地识别伪造图像中的篡改痕迹，还具备较强的跨域泛化能力，能够适应不同场景下的伪造检测需求。 大模型与未来的前景随着大模型技术的兴起，基于大模型的视觉内容安全技术有望在未来大大提高伪造检测的准确性和效率。
61721编辑于 2024-12-23 - 来自专栏计算机视觉战队
传统和深度学习进行结合，较大程度提高人脸检测精度（附论文下载）
01 简介 随着现实的人脸操作技术取得了显著的进步，社会对这些技术可能被恶意滥用的担忧引发了人脸伪造检测的新研究课题。 为了将频率引入人脸伪造检测，提出了一种新的人脸伪造网络中的频率（F3-Net），利用两种不同但互补的频率感知线索，1）频率感知分解图像分量和2）局部频率统计，通过双流协同学习框架深入挖掘伪造模式。 因此，如果我们想利用可学习CNN的判别表示能力进行频率感知人脸伪造检测，那么CNN兼容的频率表示就变得至关重要。为此，我们想介绍两种频率感知伪造线索，它们与深度卷积网络的知识挖掘相兼容。 整个人脸伪造检测模型是通过交叉熵损失以端到端的方式学习的。 大量实验表明，通过彻底的烧蚀研究，所提出的F3-Net显著提高了低质量伪造介质的性能。
37130编辑于 2023-08-23 - 来自专栏AIGC 先锋科技
LoRAX：应对生成式AI图像归因难题的可扩展低秩自适应网络，在深度伪造检测中展现高效与竞争力 !
鉴于生成图像模型的输出包含独特的模式，或称为“指纹”，可用于推理源模型的详细信息[2, 33]，作者可以将深度伪造检测视为一个持续学习问题。 作者在持续深度伪造检测（CDDB）基准数据集上完成了大量实验，以验证LoRAX方法在不同内存设置和CIL任务数据流中的有效性。 2 相关工作 数据驱动的深度伪造检测方法擅长识别其训练集中包含的模型生成的图像[18, 34]，但在识别由未见过的技术生成的图像时表现不佳[4]。 实验 持续深度伪造检测基准（CDDB）[16] 是一个用于在持续学习环境下评估合成图像检测/分类模型的深度伪造检测基准。该基准通过整合来自十二个知名合成图像分类数据集的图像创建而成。 作者在持续深度伪造检测数据集上评估了LoRAX方法，并展示了它在一系列当代动态网络CIL算法中取得了具有竞争力的性能。
39900编辑于 2025-05-12 - 来自专栏机器之心
想用GAN和Deepfake瞒天过海，没那么容易：这是Adobe和加州伯克利的新研究
/abs/1912.11035 项目地址：https://github.com/peterwang512/CNNDetection 在这项工作中，研究者希望找到一种用于检测 CNN 生成图像的通用图像伪造检测方法 一般来说，泛化性确实一直是图像伪造检测领域的难题。 研究者评估了伪造检测分类器在多种基于 CNN 的图像生成方法上的效果。 研究者将该方法的泛化性能与其他图像伪造检测方法进行了比较。 首先，即使是最好的伪造检测器，也要在真实检测率和假阳性率之间进行权衡。
68920发布于 2020-03-12 深度伪造到深度信任：揭露AI安全的攻防
03 深度伪造检测技术的发展现状面对深度伪造技术的威胁，检测技术也在快速发展。 该技术采用三组件架构，集成了注入攻击检测、模板攻击检测和深度伪造检测。该系统分析细微的视觉 artifacts和底层元数据，以在生物识别验证过程中识别AI生成的媒体。 07 未来挑战与发展方向尽管深度伪造检测技术取得了显著进展，但仍然面临诸多挑战。目前没有通用的深度伪造检测方法能够对所有生成技术和数据集都具有鲁棒性。 未来的研究方向包括：通用检测方法开发（能够检测多种生成技术创建的深度伪造）、身份恢复技术（从深度伪造内容中恢复原始身份信息）、可解释AI方法（提供检测决策的可解释证据）以及标准化评估框架（为深度伪造检测技术提供公平和一致的评估标准
93210编辑于 2025-08-22
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号