[深度学习从入门到女装]Making Convolutional Networks Shift-Invariant Again 深度学习

论文地址：Making Convolutional Networks Shift-Invariant Again

一篇来自ICML的论文，Adobe出品
论文的观点很新颖，在传统的图像识别领域的特征提取，如SIFT等特征，都追求shift-invariant，也就是平移不变性，对于一个图像中的目标提取到的特征，应该与其平移之后提取到的特征一致，这样才具有平移不变性。
CNN里边，我们大量采用了卷积、pooling等操作，由于卷积相当于slide window的操作，因此我们认为CNN是具有平移不变性的，但是，近两年有论文指出（Azulay, A. and Weiss, Y. Why do deep convolutional networks generalize so poorly to small image transformations?In arXiv, 2018.Engstrom, L., Tsipras, D., Schmidt, L., and Madry, A. A rotation and a translation suffice: Fooling cnns with simple transformations. In ICML, 2019.），对于目标的轻微平移，都会很大程度影响到该目标的识别准确率

文章图片

论文中给出的原因，是因为stride=2的时候卷积和pool等下采样操作时，违反了采样定理，会导致信号走样，其实这个问题在很久之前就有所说明，就比如我们在构建高斯、拉布普斯金字塔的时候，下采样之前都需要先使用高斯模糊对图像进行处理，就是为了防止下采样出现走样的情况，也就是anti-aliasing by low-pass filtering before downsampling.
本文就是通过这样一个简单的思路，将loss pass filter插入到cnn中，在下采样之前进行，以防止走样

文章图片

原始的stride=2的maxpooling，对（0，0，1，1，0，0，1，1）进行下采样的时候，会得到（0，1，0，1）的输出，但是当原始信号平移一次的时候，maxpooling会得到（1，1，1，1）的输出，这就充分显示了maxpooling带来的走样

文章图片

本文将maxpool分为两步，第一步为max，这一步操作能够保留平移不变性，第二步为subsampling，这一步操作会破坏平移不变性，因此本文想到在这两步操作之间，插入一步操作，就是anti-aliasing filter，让平移不变性在subsampling的时候能够最大限度的保留下来。

文章图片

这是本文对几种常用的下采样操作的改进。

文章图片

【[深度学习从入门到女装]Making Convolutional Networks Shift-Invariant Again】一点小感悟，在学习图像处理时候，人人都知道在做下采样之前要先使用模糊滤波器对图像进行处理，以遵守采样定理，但是大家在CNN阶段，进行下采样之前都没有进行高斯模糊等操作，为什么没有想到呢？文章中也提到说，在最早的CNN里边，我们使用的是average pooling，其实average pooling相当于是在subsampling之前进行了box filter的操作，是可以保持一部分平移不变性的，但是后来大家发现max pooling提取重要特征能够获取更好的效果，都放弃了average pool转用max pool。

[深度学习从入门到女装]Making Convolutional Networks Shift-Invariant Again

推荐阅读

囫囵怎么读囫囵的读音

怪物猎人的服务器质量如何？怪物猎人服务器怎么样

属鸡的人一生的命运好吗属鸡怎么样

DOTA2斯文后期为什么那么强？

pg库数据库权限回收，pg数据库给用户赋予权限

陈皮荷叶茶怎么煮

安卓什么编程语言，Android开发用的是什么编程语言的

如何防止蟑螂爬上床

天寒地冻|天寒地冻注意保暖

淘宝搜索排名具体包括哪些因素？

红心柚子怎么挑选才甜

华为机试|20150802厦门大学华为校园提前批招聘机试体验题一（记票统计）

王者荣耀回城特效怎么买

如何解决Win7无法访问Windows安装服务的问题？

吉林师范大学招生办电话几点下班吉林师范大学招生办电话号码

让老师查收邮件怎么说请领导查收邮件怎么说

量子计算基础(学习笔记)

张瑞希最近在忙什么？

哪些情况容易引起二手房买卖纠纷

木瓜泡酒的做法木瓜泡酒如何制做