卷积神经网络中的add和concat

参考博客:深度特征融合---理解add和concat之多层特征融合_xys430381_1的博客-CSDN博客_特征图相加

在这里插入图片描述

 

Add是特征图相加,通道数不变

简言之,add是将多次提取到的语义信息叠加,会突出正确分类的比例,有利于最后分类,实现了正确分类的高激活

add单个通道的计算量:

在这里插入图片描述

实例

Resnet网络的残差结构将经过处理和未经过处理的输入进行add,目的保留原始图像中的正确高激活,避免在处理过程中对正确激活的削弱,所以才有了那句“有时候什么都不做才是最好的

Concat是通道数的增加

同Add相比,concat只是在特征图数量上增加了(叠加),增加了原图像的特征数,实现了多尺度特征的融合在特征图较多的情况下,add可以认为是特殊的concat形式,concat的计算量要远大于add操作

concat单个通道的计算量:

在这里插入图片描述

实例

分类网络DenseNet或者经典分割网络Unet结构都是使用低纬度特征图叠加高纬度特征图,进行特征融合在进行分类,因为高纬度和低纬度卷积核提取得到的特则是不同,低纬度倾向于提取轮廓特征,高纬度提取无法解释的高纬度融合特征,二者结合可以得到多个角度的特征,更有利于识别

在这里插入图片描述

卷积神经网络中的add和concat_第1张图片 

 

你可能感兴趣的