文 献 综 述
1引言
近些年来,我国经济飞速发展,生活水平不断提高,智能手机已经成为了日常生活中必不可少的工具。为了快速保存信息,人们会用智能手机来拍摄数字屏幕。但是,拍摄的图片经常会出现带有伪色的、不规则形状的彩色条纹,这种条纹被称为摩尔纹,摩尔纹会污染干净的图像,严重降低照片质量。摩尔纹不只会干扰图像内容,对图像的视觉效果也是大打折扣。因此,图像去摩尔纹的研究对实际应用有重要意义,但是由于摩尔纹的形状和颜色不规则,并且可以跨越很大的频率范围,图像去除摩尔纹具有挑战性。
2 国内外研究情况。
对于图像去摩尔纹算法,国内外的学者都进行了深入的研究,其中研究主要分为两大类方法,一类是非深度学习的方法,另一类是深度学习的方法。
非深度学习去摩尔纹最直接的方法就是改变拍摄角度和调整相机的参数等来避免摩尔纹的产生,在硬件层面上的摩尔纹去除方法主要是在镜头前添加低通滤镜或调节相机感光器件频率。但这些方法在日常拍摄中通常难以实施并且对硬件的配置要求较高,因此人们开始寻求使用图像处理算法来去除图像中的摩尔纹。2002年,Sidorov和Kokaram提出了一种光谱模型,以抑制使用电视电影设备在胶片到视频的传输过程中出现的摩尔纹图案[8],Sidorov等人对过程进行建模,用光谱域的算法去除该过程产生的摩尔纹。但这个方法处理的摩尔纹是单调且单色的,并不够泛化。随着RAW图和去马赛克算法的改进和完善,邱菊提出基于插值算法的去彩色摩尔纹研究[9],邱香香提出了基于CCD静态图像的摩尔纹去除算法[10]。2015年以来,越来越多的工作开始关注图像中的摩尔纹。2016年,由于观察到纹理上的摩尔纹是不同的,而纹理在局部上具有良好的图案,Liu等人提出了一种低秩稀疏矩阵分解方法去除高频纹理上的摩尔纹[11]。对提取出的图像块,在离散余弦变换域和图像本身的空间域都加了约束,再通过过拉格朗日乘子法将原图和摩尔纹分开。2017年,Yang等人提出了一种通过信号分解和引导滤波的纹理图像去摩尔纹方法[12],与G通道相比,图像R、G通道受到摩尔纹伪影的干扰更大,提出通过信号分解模型去除G通道中的摩尔纹,然后以G通道的恢复纹理层作为引导图像的引导滤波来重构R和B通道。以上两个工作针对的是高频纹理上的摩尔纹,对于低频纹理并不能很好解决。
近些年由于大数据、云计算时代的到来,以及越来越多的数据集样本的出现,深度学习图像去摩尔纹的算法开始逐渐成为学者们研究的热点方向。2018年,Abraham提出了一种基于小波分解和卷积神经网络的摩尔纹检测方法[13],但只对有无摩尔纹进行检测,并未给出去除的方法。Liu等人提出了一种基于深度神经网络的摩尔纹去除方法(DCNN)[14],该网络分为一个粗尺度网络和一个细尺度网络,分别处理各尺度上的摩尔纹。另外由于数据集的缺乏,DCNN模仿了在LCD上进行图像显示的过程以及在相机上进行光学捕获和数字处理的流程,得到了模拟出的摩尔纹数据集。同年,发表在TIP上的工作DMCNN[14]第一次提出了一个较为庞大的摩尔纹数据集。Sun等人获取了ImageNet中的图片,将图片展示在不同的显示屏幕上,用不同的拍照设备进行拍摄,并不断调整相机角度,以获得尽可能多种类的摩尔纹。除了数据集外,Sun等人还提出了一个多尺度卷积神经网络(DMCNN),用来去除图像中的摩尔纹。Sun等人认为,摩尔纹在空间上变化并分布在整个图像中,在很宽的频率范围内都有特征,因此对图像进行多分辨率分析,分别去除每个频率内的摩尔纹。这种方法的缺点是在结果中出现具有明显分界线的图像块,且对低频摩尔纹色带的去除效果并不好。2019 年,He等人提出了新的去除摩尔纹的网络MopNet[15]。网络包括用于处理复杂频率的多尺度特征聚合,利用色彩通道之间不平衡幅度的通道方向目标检测器以及属性感知分类器组成,通过一个目标边缘预测器来分离目标内容的边缘图和摩尔纹图案的边缘图,并提出多标签分类器,以通过表征图案的主要出现频率,颜色和形状三个外观属性来更好地描述摩尔纹图案的多样性。2020年,Liu等人提出了基于小波的双分支网络(WDNet)[16],在小波域中从图像内容中分理出摩尔纹图案的频率。网络分为密集分支和扩张分支,分别负责恢复近距离和远距离信息,还在密集分支中设计了一种方向感知模块,以突出显示具有摩尔纹图案的区域。
3 总结
随着深度学习的发展,采用深度学习进行图像去摩尔纹是研究的必然趋势,处理效果也优于非深度学习方法。研究人员也提出了不同的深度学习网络来解决图像去摩尔纹的问题,其中基于小波的双分支网络(WDNet)可以在小波域获取摩尔纹图案的信息,并通过双分支网络得到更详细的距离信息,更利于感知摩尔纹,具有更好的摩尔纹去除效果,WDNet还具有广泛的应用前景,在底层视觉任务去雨和去雨滴中中表现也优于最新方法,是值得深入研究的方案。希望在未来的工作中可以在以上的研究基础上,进一步提高去摩尔纹以后的图像质量,加快深度学习的训练速度。
参考文献
