简明 | ResNet特点、残差模块、残差映射理解摘要
Deep Residual Learning for Image Recognition目录ResNet特点Residual残差模块残差模块映射实线残差模块虚线残差模块ResNet特点使用BNBatch Normalization层加速训练解决梯度消失/梯度爆炸问题引入residual残差结构减轻退化问题可以搭建超深度网络结构(超1000层)。退化较弱Residual残差模块残差神经网络实际存在两类残差模块单元姑且称为实线残差模块与虚线残差模块。残差模块映射残差模块包含两种映射identity mapping和residual mapping综合形成identity mapping实际基于skip connection跳跃连接理论residual mapping残差可以理解为即实线残差模块左图模块用于浅层网络ResNet34右图模块用于深层网络如ResNet101浅层实线残差模块深层实线残差模块右侧模块中能够减少参数和运算量1*1的卷积和用于升维/降维。输入channel为256的特征矩阵左侧模块需要1170648个参数右侧模块需要69632个参数。虚线残差模块左图模块用于浅层网络ResNet34右图模块用于深层网络如ResNet101浅层虚线残差模块深层虚线残差模块虚线残差结构在跳跃连接分支上加入1*1卷积核进行降维注意虚线残差模块中各层步距stride与实线残差模块的区别