残差网络(百度百科)
残差网络是2015年提出的深度卷积网络,一经出世,便在ImageNet中斩获图像分类、检测、定位三项的冠军。 残差网络更容易优化,并且能够通过增加相当的深度来提高准确率。核心是解决了增加深度带来的副作用(退化问题),这样能够通过单纯地增加网络深度,来提高网络性能。
残差网络背景
残差网络解决退化问题
残差网络资源列表
Deep Residual Learning for Image Recognition
Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun
(Submitted on 10 Dec 2015)
更深的神经网络往往更难以训练,我们在此提出一个残差学习的框架,以减轻网络的训练负担,这是个比以往的网络要深的多的网络。我们明确地将层作为输入学习残差函数,而不是学习未知的函数。我们提供了非常全面的实验数据来证明,残差网络更容易被优化,并且可以在深度增加的情况下让精度也增加。在ImageNet的数据集上我们评测了一个深度152层(是VGG的8倍)的残差网络,但依旧拥有比VGG更低的复杂度。残差网络整体达成了3.57%的错误率,这个结果获得了ILSVRC2015的分类任务第一名,我们还用CIFAR-10数据集分析了100层和1000层的网络。
在一些计算机视觉识别方向的任务当中,深度表示往往是重点。我们极深的网络让我们得到了28%的相对提升(对COCO的对象检测数据集)。我们在深度残差网络的基础上做了提交的版本参加ILSVRC和COCO2015的比赛,我们还获得了ImageNet对象检测,Imagenet对象定位,COCO对象检测和COCO图像分割的第一名。
Comments: Tech report
Subjects: Computer Vision and Pattern Recognition (cs.CV)
Cite as: arXiv:1512.03385 [cs.CV]
(or arXiv:1512.03385v1 [cs.CV] for this version)