• • 下一篇
吕仁堃1,孙鹏1,1,郎宇博1,郭弘2,沈喆3,田迪1
收稿日期:2025-07-23
修回日期:2025-09-26
发布日期:2025-11-05
出版日期:2025-11-05
通讯作者:
吕仁堃
Received:2025-07-23
Revised:2025-09-26
Online:2025-11-05
Published:2025-11-05
摘要: 现有检验方法更多依据图像像素级线索进行建模,较少考虑合成过程对伪造图像的影响,即使取得较好的检验效果,也很难解释检验过程。据此,提出一种多模态物理先验特征融合的深度伪造可解释检验方法。首先,使用光流特征、光照特征、边缘特征和DCT特征分别描述时序视频中的帧间运动差异性、单帧视频中的光照不一致性、边缘伪影信息,得到具有可解释性的多模态物理先验特征;其次,提出多模态混合专家网络,分别构建不同模态的专家子网络,跨模态注意加权后经门控单元融合输入判别网络中实现分类;在判别网络中引入SIAM注意力机制,并将全连接结构替换为KAN(Kolmogorov-Arnold Networks)结构。利用多模态物理先验特征分别对不同专家子网络进行训练,给出对不同输入特征的Shapley值分析,构建事前特征?事后解释的可解释分析框架,为模型推理预测提供像素级解释。实验结果表明,与CORE、SRM、UCF等算法相比,所提算法在FaceForensics++数据集上的准确率范围为97.35%~98.75%,平均准确率达98.22%,模型可解释性也有较大提升。
中图分类号:
吕仁堃 孙鹏 郎宇博 郭弘 沈喆 田迪. 多模态物理先验特征融合的深度伪造检验方法[J]. 计算机应用, DOI: 10.11772/j.issn.1001-9081.2025070826.
| [1] | 白杰龙 方晨韵 乔志伟. 基于多尺度注意力自适应融合的稀疏CT伪影抑制Transformer网络[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [2] | 王成 刘志龙 杜俊男 杨雯 王天一. 基于Hyper-YOLO模型改进的输电线异物检测方法[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [3] | 颜建强 董贝贝 曲博婷 彭晨. 融合多源信息与图级注意力的双向扩散动态图卷积交通流预测网络[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [4] | 刘明 沈东奇 孟子洋. 双分支结构下多层次特征融合的点云配准网络[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [5] | 刘凤春 邵馨莹 张春英 王立亚 任静. FCMdepth:多尺度特征优化的单目深度估计框架[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [6] | 汤莉 张健宇 姚睿. 基于改进YOLOv11的雾天目标检测算法[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [7] | 张国有 聂宏宇 潘理虎 雷润东. 基于多层感知机级联宽度学习系统的点云语义分割网络Point-MLPBLS[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [8] | 杜秀丽 高星 张校毓 潘成胜 邹启杰. 基于密集时空可变形注意力的视频快照压缩成像重建方法[J]. 《计算机应用》唯一官方网站, 0, (): 0-0. |
| [9] | 汪书民, 李生林, 周香伶. 基于特征融合的低光照场景下的自适应人脸识别[J]. 《计算机应用》唯一官方网站, 2025, 45(10): 3320-3327. |
| [10] | 王子怡, 李卫军, 刘雪洋, 丁建平, 刘世侠, 苏易礌. 基于Swin Transformer与多尺度特征融合的图像描述方法[J]. 《计算机应用》唯一官方网站, 2025, 45(10): 3154-3160. |
| [11] | 况世雄, 姚俊波, 陆佳炜, 王琪冰, 肖刚. 基于动态图卷积网络的电梯乘客异常行为数据增强方法[J]. 《计算机应用》唯一官方网站, 2025, 45(10): 3187-3194. |
| [12] | 张佳慧, 李晓明, 张嘉祥. 强化形态感知的路面缺陷检测算法[J]. 《计算机应用》唯一官方网站, 2025, 45(10): 3342-3352. |
| [13] | 袁家奇, 黄荣, 董爱华, 周树波, 刘浩. 聚合广义上下文特征的人体解析方法[J]. 《计算机应用》唯一官方网站, 2025, 45(10): 3170-3178. |
| [14] | 高照耀, 张展, 胡亮亮, 许光宇, 周胜, 胡雨欣, 林子捷, 周超. 基于残差复卷积网络的7T超高场磁共振并行成像算法[J]. 《计算机应用》唯一官方网站, 2025, 45(10): 3381-3389. |
| [15] | 尹学辉, 傅林琳, 周尚波. 渐进式上下文交互和注意力机制的混凝土路面裂缝检测网络[J]. 《计算机应用》唯一官方网站, 2025, 45(10): 3353-3362. |
| 阅读次数 | ||||||
|
全文 |
|
|||||
|
摘要 |
|
|||||