本文是一篇计算术论文范文,本文围绕低照图像增强问题和图像去雾问题展开研究,具体工作包括: (1) 传统的线性与非线性低照图像增强方法只能增强图像的特征,如亮度或对比度,但是却忽略了其他显示效果,例如过饱和和颜色失真。基于 Retinex 理论的增强方法虽然将物理成像模型加入到低照问题中,但是泛化性较差。基于深度学习的低照图像增强方法虽然产生了比传统方法更优秀的结果,但是其只能在合成数据集上表现出比较好的效果,而对于真实低照图像的增强结果,仍存在亮度对比度不足,颜色失真或者噪声残留等问题。
1 绪论
1.1 研究背景与意义
光学图像是真实场景信息的重要载体和呈现形式,清晰的光学图像对真实场景信息的正确获取至关重要,在安保监控、交通管理、目标检测及军事等领域均有重要应用[1,2]。然而在雾霾、雨雪和沙尘等恶劣天气条件下,受大气中悬浮微粒对入射光线的吸收和散射影响,光学图像通常存在严重的退化降质问题,具体表现为场景昏暗、对比度低、背景模糊、清晰度差等(如图 1-1),使得光学图像场景“看不清”、“看不准”、“看不远”、“看不全”,给目标检测、安保监控等应用带来巨大的挑战,严重影响相关领域的研究和发展[3,4]。
因此,如何通过后期算法对这些极端条件下的光学图像进行增强处理受到人们的高度重视。目前研究者已经提出了一些解决方法,这些方法大致可以分为基于非物理模型的图像增强方法[5,10]和基于物理模型的图像复原方法两大类[20,21]。其中基于非物理模型的图像增强方法,不考虑图像的退化机理,采用已有的图像处理技术如直方图均衡化[5]、带色彩恢复的多尺度视网膜增强算法[10]、同态滤波[17]等,直接对退化图像的像素或邻域进行处理,有选择地突出图像中人们感兴趣的特征并抑制一些不重要的特征,以提升图像对比度,使图像看起来更加清晰。但是由于基于非物理模型的方法不考虑图像退化的原因和机理,可能会出现色彩失真、过饱和等现象,进而导致部分图像信息缺失。
1.2 国内外研究现状
本节将从以下三个方面,对国内外与本文研究相关的主要工作进行分析总结:1)低照图像增强方法;2)日间雾霾图像增强/复原方法;3)夜间雾霾图像复原方法。
1.2.1 低照图像增强方法研究现状
根据是否采用深度学习技术,低照图像增强方法可以分为基于传统图像处理技术的增强方法[5,6,7]和基于深度学习的增强方法[30,31,32]。
基于直方图均衡化的方法和基于 Retinex 的方法是解决低照图像增强问题的主要传统方法。其中,基于直方图均衡化的方法通过简单地调整不同灰度值图像像素的分布范围来实现低照图像增强。如 Abdullah-Al-Wadud 等人[5]使用动态直方图均衡技术解决图像增强中细节不足的问题。Ibrahim 等人[6]通过产生具有与输入图像相同的平均强度的输出图像来增强图像的亮度。Lee 等人[7]通过放大相邻像素之间的灰度差异来增强图像对比度。基于 Retinex[8]的方法将图像分解为光照图像和反射图像,通过估计真实光照图像来实现低照图像增强。如经典的基于中心/环绕方法的 SSR[9]和 MSR[10]。Ren 等人[11]基于 Retinex方法解决了照明不均匀问题,并实现对低照图像的增强处理。Fu 等人[12]提出通过线性域模型表示的先验信息来估计图像反射率和光照的方法。文献[13]则使用基于融合的方法来增强弱光图像。Park 等人[14]提出一种基于变分优化的 Retinex 弱光增强算法。Guo 等人[15]提出一种通过结构先验增强光照图的方法。Li 等人[16]在考虑噪声图的同时,将 Retinex 模型用于低照图像增强。
近年来,基于深度学习的低照图像增强引起人们的高度关注,并提出很多方法。例如,Lore 等人[30]使用自编码网络解决低照图像增强问题。Shen 等人[31]使用具有不同高斯卷积核的卷积神经网络来模拟多尺度 Retinex 模型。Lv 等人[32]通过合并在不同级别提取的丰富特征获得了清晰的增强结果。Wei 等人[33]收集了包含低照/正常光图像对的低照图像数据集(LOL),并提出分解网络和亮度调整网络来进行低照图像增强。Zhang 等人[34]将低照图像分解为反射图和光照图并采用卷积神经网络同时进行学习和增强。而 Ren 等人[35]通过添加空间变化递归神经网络对边缘细节进行建模。
2 基于注意力自适应卷积神经网络的低照图像增强方法研究
2.1 问题的提出
在低照条件下,由于自然光照强度较低,成像系统采集到的图像通常存在亮度对比度低、细节模糊以及清晰度差等问题(如图 2-1(a)所示)。针对这些问题,人们提出了很多解决方法[5,30],如基于直方图均衡化的低照图像增强方法[5,6,7]、基于 Retinex 理论的低照图像增强方法[9,10,11],以及基于深度学习的低照图像增强方法[40,55]。其中基于直方图均衡化的低照图像增强方法和基于 Retinex 理论的低照图像增强方法,主要是通过对退化图像的像素或邻域有选择地处理,提升图像的亮度和对比度,使图像看起来更加清晰。这类方法虽然增强了图像的亮度和对比度,改善了图像的视觉效果,但存在细节模糊和内容丢失的问题,如图 2-1(b)所示。与上述传统方法不同,基于深度学习的方法直接从大量训练样本中学习退化图像与清晰图像之间的映射关系,进而获得增强后的清晰图像。如文献[30]使用堆叠式编码器进行低照图像增强,文献[31]使用具有不同高斯卷积核的卷积神经网络进行图像对比度增强,文献[32]和文献[33]使用基于 Retinex 理论的分解网络来进行低照图像增强。然而,如图 2-1(c)所示,尽管现有这些基于深度学习的低照图像增强方法[39]获得了优于传统的低照图像增强方法[13] (图 2-1 (b))的增强结果,但是由于模型泛化能力较差,增强图像仍然存在亮度不足和细节模糊等问题。
为此,本章提出了一种基于注意力自适应卷积神经网络的低照图像增强方法。首先将低照图像增强问题分为细节增强、亮度增强和对比度增强三个子问题,然后针对细节增强问题提出了一个梯度恢复子网,针对亮度增强问题提出了一个基于低照图像 HSV颜色空间中亮度分量的亮度恢复子网,针对对比度增强问题提出了一个新型的具有线性对比度增强能力的自适应实例归一化模块并应用到主干网络中。最后将亮度恢复子网和梯度恢复子网的特征融合到主干网络中得到最终的增强图像。
2.2 算法描述
本章提出的基于注意力自适应卷积神经网络的低照图像增强方法的整体框架如图 2-2 所示。它由三个子网组成:梯度恢复子网,亮度恢复子网和主干网络。梯度恢复子网对低照图像的梯度图进行恢复,并将恢复后的梯度图传递到主干网络,来增强恢复图像的细节和结构。对于引入 HSV 色彩空间亮度分量的亮度恢复子网,将其恢复的亮度增量图用作改进的实例归一化模块(Adaptive Instance Normalization, AIN)的输入,并且以线性对比度增强的方式调整主干网络特征的亮度和对比度,主干网络用于重建增强后的低照图像。以下各节将详细介绍每个子网的信息。
本章使用的双重注意力模块如图 2-3 所示,顶部分支和底部分支分别是通道注意力模块和空间注意力模块。给定输入特征 Input Feature,使用 MaxPool 和 AvgPool 分别获得通道注意力分支和空间注意力分支的池化特征。通过组合两种不同池化方法得到的特征映射可以在保留更多背景信息的同时强化特征的梯度信息。本章使用一个带有多层感知器(Multilayer Perceptron, MLP)的隐藏层为通道注意力机制生成通道注意力特征。在空间注意力机制中,卷积核大小为 7×7 的卷积层被用来扩大梯度信息提取的感受野。
3 基于上下文引导生成对抗网络的图像去雾方法研究 .................................. 23
3.1 问题的提出 ................................ 23
3.2 算法描述 ................................... 23
4 基于注意力融合网络的夜间雾霾去除方法研究 .............................. 33
4.1 问题的提出 .................................... 33
4.2 算法描述 ........................................... 33
5 总结与展望 ................................. 41
5.1 总结 .................................. 41
5.2 展望 .................................. 42
4 基于注意力融合网络的夜间雾霾去除方法研究
4.1 问题的提出
尽管现有的方法可以有效地解决日间雾霾场景的去雾问题,但是将这些方法应用于夜间雾霾图像时仍存在很大的局限性。其主要原因是日间雾霾成像模型及其相关的先验条件对于夜间雾霾图像而言并不成立。日间雾霾成像模型假定大气光是全局一致的,但是夜间场景通常有很多彩色的人造光源(如图 4-1 所示),例如路灯、霓虹灯和车灯。这些人造光源的存在不仅使大气光估计不准确,而且增大了场景传输映射的估计误差。目前解决夜间雾霾图像复原问题的方法主要通过采用新的先验条件或者添加和光源有关的计算项将夜间雾霾图像应用于日间雾霾成像模型上,例如色彩转移[80],