全连接层与1x1卷积的关系

理解全连接层:

全连接层可以由卷积核深度为上层特征图深度的卷积运算代替,卷积后channel上每个1x1卷积核都会作为一个输出,可看作全连接层的一个点。

假设最后一个卷积层的输出为7×7×512,连接此卷积层的全连接层为1×1×4096。

如果将这个全连接层转化为卷积层: 1. 共有4096组滤波器(通道数4096) 2. 每个卷积核的大小为512x7×7 3. 则输出为1×1×4096

由于每个滤波核的大小和上一层的feature map大小一样,保证了转换后的卷积层的运算结果和全连接层是一样的。 若后面再连接一个1×1×4096全连接层。则其对应的转换后的卷积层的参数为:

  1. 共有4096组滤波器(通道数4096
  2. 每个卷积核的大小为4096x1x1
  3. 则输出为1×1×4096

举例说明

参考“ RCNN系列目标检测详解”,在Faster RCNN中,RPN网络的关键部分就是由两个1x1的卷积核完成的,其作用即为全连接。 Network Structure