重要的CNN架构

Question

你应该知道哪些重要的CNN架构？在ImageNet ILSVRC挑战中，CNN的架构做得很好吗？哪些CNN架构是转移学习的好候选者？

Answer 1

以下是CNN几个重要架构的列表：

• 第一次成功应用于数字识别的CNNs，由Yann LeCun于1990年开发.它由卷积层、ReLU层、Max池层组成，然后是完全连接的层。参考资料: Y. LeCun et.al.，"梯度学习在文档识别中的应用"，IEEE学报，1998年
• AlexNet在计算机视觉领域推广了CNN，在2012年的ImageNet ILSVRC挑战中做得很好，显示了显著的性能提升。该网络具有与LeNet相似的体系结构，但更深、更大，并且具有层叠在一起的卷积层。参考文献:A.Krizhevsky，et.阿尔。"基于深度卷积神经网络的ImageNet分类"，NIPS，2012年
• VGG16展示了深度作为良好性能的关键部件的重要性，它是2014年ILSVRC的亚军。该体系结构由层叠的、卷积的和最大的池层组成，随着深度的增加，由于最终的完全连接层，它使用了大量的参数。参考: K. Simonyan，"用于大规模图像识别的甚深卷积网络"，大湖区问题国际会议，2015年
• 谷歌的初始版本GoogLeNet赢得了2014年ILSVRC的挑战。该架构由大量减少参数的初始模块组成，它使用多尺度3x3，5x5卷积滤波器，包括1x1卷积，用于降维。参考: C. Szegedy等人，"转到更深的卷积"，CVPR，2015年
• ResNet50残差网络是ILSVRC 2015的赢家，它引入了跳过连接，以便更容易地进行培训，支持非常深入的体系结构，并使用批处理规范化。参考文献: K. He等人，"图像识别中的深度残差学习"，CoRR，2015年

Answer 2

见我的硕士论文。第2.2章和2.3章，用于对构建块进行高级别的概述。附录D详细描述了几种非常著名的CNN架构：

• Lenet-5 (历史性)
• AlexNet (仍在使用，但不使用SotA)
• VGG-16D(仍在使用，但不使用SotA)
• 谷歌网和盗梦空间网(v2，v3，v4)

没有详细描述，但仍然很重要

• 雷兹网
• 登塞涅茨