Pooling
DownSampling:Pooling的全面调研
@Aiken 2021 笔记摘录:
深度神经网络中的池化方法:全面调研(1989-2020) - 知乎 ;相同论文的简单中文Version
16页综述,共计67篇参考文献。网络千奇百怪,但基础元素却大致相同!本文全面调研了1989至2020年一些著名且有用的池化方法,并主要对20种池化方法进行了详细介绍(这些方法,你都知道么?) 注1:文末附【计算机视…
来自 https://zhuanlan.zhihu.com/p/341820742
原文:《Pooling Methods in Deep Neural Networks, a Review》
池化的根本目的(Motivation)
卷积神经网络是DNN的一种特殊类型,它由几个卷积层组成,每个卷积层后都有一个激活函数和一个池化层。
池化层是重要的层,它对来自上一层的特征图执行下采样,并生成具有简化分辨率的新feature maps 。该层极大地减小了输入的空间尺寸。 它有两个主要目的。 首先是减少参数或权重的数量,从而减少计算成本。 第二是控制网络的过拟合。
- 池化可以增加网络对于平移(旋转,伸缩)的不变性,提升网络的泛化能力。
- 增大感受野;
- 降低优化难度和参数数目,
理想的池化方法应仅提取有用的信息,并丢弃无关的细节。
特征不变性、特征降维、在一定程度上防止过拟合,更方便优化