第 3 章 基于自步学习和混合空洞卷积神经网络的图像分类算法........................ 17
3.1 引言.................................. 17
3.2 混合空洞卷积.................................. 18
3.3 自步学习................................ 19
第 4 章 基于元学习和深度神经网络的自适应图像分类算法............................... 29
4.1 引言............................... 29
4.2 元权重网络样本加权..................... 30
4.3 硬引导损失函数.................................... 31
第 5 章 总结与展望................................. 44
5.1 论文总结................................. 44
5.2 未来展望.......................... 44
第 4 章 基于元学习和深度神经网络的自适应图像分类算法
4.1 引言
深度卷积神经网络因为其强大的对数据复杂关系的拟合能力，在各个领域都得到了广泛的应用，尤其是图像领域。虽然CNNs在这些领域取得了不错的成果，但是为了训练出一个正确的有监督深度模型，往往需要高质量并且标签准确的大数据集，这是需要相当昂贵的成本的。虽然还有其他更便宜的资源来收集标记数据，比如搜索引擎、各种社交媒体网站，或者降低对数据标注的标准。但是这类获得的数据集可能有大量错误标注的标签，这种噪声的存在是对模型的性能不利的。Zhang等人[62]通过实验发现，即便数据集中的一些数据被标记了错误的标签，只要有足够的训练，CNNs依然能够拟合整个数据集。于是，当CNNs对错误的数据的过度拟合将会导致泛化能力很弱。
本文从多个方面研究了如何缓解深层CNNs对标记了错误标签的数据的拟合，从而能够提高模型在标签正确的数据上的泛化能力。虽然已经有很多关于缓解标签噪声的研究，但对学习标签噪声的深层CNNs的改进依然是一个值得研究的问题。为了解决这个问题，本文专注于训练参数量很大的CNNs，比如ResNet-101，这些网络往往层数多，参数量巨大，这些网络可以达到最先进的结果。但是，当遇到有标签噪声的数据时，其结果则会很糟糕。
对于训练集中噪声标签的问题，人们在训练中往往更关注训练损失较小的样本，它们更可能是标签正确的干净样本，也就是对当前训练是更重要的。在有监督的训练中，为了缓解标签噪声的影响，数据集重采样[63]的策略是很常用的。这种策略是从数据的角度出发，通过在训练时，给参与训练的每个样本分配不同的权重，以此说明该样本对于当前训练的重要性，并最小化加权后的训练损失。但是这种策略也存在不足，在应用中存在一些问题。首先，对于获得的数据集，仅仅根据训练损失和训练数据来分配权重是不容易的。在之前的工作中，基于这种思想的有课程学习、自步学习、迭代加权以及其他的工作。这些方法虽然能够一定程度提高算法对标签噪声的鲁棒性，但是这些方法大多需要设计特定的样本加权函数以及需要人工确定合适的超参数，使得这些方法难以广泛应用。
第 5 章 总结与展望
5.1 论文总结
近些年，在基于深度卷积神经网络的图像分类算法的研究上取得了很大的进步。针对分类网络模型的鲁棒性研究也有越来越多的研究者去关注。对于在含有噪声的数据上学习到一个较好的分类网络模型，仍然是很困难的。尽管有一些研究者对于提高分类模型鲁棒性给出了自己的解决方法，但大多数用于图像分类的深度卷积神经网络模型依然有着很大的局限性，比如：模型中损失函数部分仍然采用的交叉熵损失会过于偏向噪声、模型中过多的超参数和特征图提取的时候没有充分考虑各个特征对网络的贡献等，这些问题仍然是基于深度卷积神经网络的图像分类算法需要解决的。本文针对图像分类中深度卷积神经网络所使用的传统交叉熵损失函数的不足进行了改进，以缓解对噪声样本的过度拟合，同时考虑到了不同特征对于提升模型性能的贡献程度，进而从两方面着手提高模型对于噪声样本的泛化能力。本文的主要研究内容有：
(1) 提出了一种用于图像分类的基于自步学习的混合空洞卷积神经网络(SPHDCNN)。通过采用混合空洞卷积结构替换常规的卷积和池化组合改进了网络部分，缓解了深度卷积神经网络中因为多次池化导致的特征信息的损坏且提供了更大感受野。在网络训练中，引入自步学习中的二元硬加权正则项改进了损失函数，实现损失较大的训练样本给予更小的权重，缓解了训练集中噪声的影响。本文通过进行大量的实验证明，SPHDCNN 要优于传统结构的卷积神经网络，并且对于含噪声图像的分类任务有着更高的鲁棒性，也提高了模型的图像分类的准确度。
(2) 提出了一种对标签噪声更为鲁棒的基于元学习和通道注意力宽残差神经网络的自适应图像分类算法。首先，在构建深度宽残差神经网络的基础上，引入通道注意力机制重新构建每个宽残差模块，从而改善网络对于特征的提取和学习。然后通过采用 HB_loss 对元权重网络加权方法中的交叉熵损失进行改进修正了最终的损失，缓解了优化中模型对标签噪声样本的拟合，之后通过元权重网络在元数据的指导下从数据中自适应学习训练样本的权重进一步缓解网络模型对噪声数据的拟合。然后，通过详细的实验表明，HMSW 能够通过减弱噪声标签样本的影响，具有很高的可行性和泛化能力。
参考文献（略）
