可视化经典模型的对比实验总结

可视化经典模型的对比实验总结 环境安装 安装OpenGL

sudo apt-get install -y build-essentiallibxmu-dev libgl1-mesa-glx libglu1-mesa-dev libgl1-mesa-dev freeglut3-dev libglew-dev libsdl2-dev libsdl2-image-dev libglm-dev libfreetype6-dev

安装Netron
网页版:https://netron.app/
官方下载:https://github.com/lutzroeder/netron
可视化经典模型的对比实验总结
文章图片

安装zetane
官方链接“”https://zetane.com/
GitHub链接:https://github.com/zetane/viewer
可视化经典模型的对比实验总结
文章图片

AlexNet Alexnet 是一个图像分类模型,其中输入是 1000 个不同类别(例如猫、狗等)之一的图像,输出是 1000 个数字的向量。
输出向量的第i个元素是输入图像属于第i类的概率;因此,输出向量的所有元素之和为 1。
AlexNet 的输入是大小为 224x224 像素的 RGB 图像。
模型设计图
可视化经典模型的对比实验总结
文章图片

Netron结构图
【可视化经典模型的对比实验总结】可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

weights
可视化经典模型的对比实验总结
文章图片

bias
可视化经典模型的对比实验总结
文章图片

input (1,3,224,224)
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

Conv
可视化经典模型的对比实验总结
文章图片

Feature Maps
可视化经典模型的对比实验总结
文章图片

ReLU
可视化经典模型的对比实验总结
文章图片

MaxPool
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

整体结构图
可视化经典模型的对比实验总结
文章图片

feature0
可视化经典模型的对比实验总结
文章图片

feature3
可视化经典模型的对比实验总结
文章图片

feature6
可视化经典模型的对比实验总结
文章图片

feature8
可视化经典模型的对比实验总结
文章图片

feature10
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

classify
可视化经典模型的对比实验总结
文章图片

VGG 模型设计图
可视化经典模型的对比实验总结
文章图片

Netron结构图
可视化经典模型的对比实验总结
文章图片

整体结构图
可视化经典模型的对比实验总结
文章图片

feature0
可视化经典模型的对比实验总结
文章图片

feature2
可视化经典模型的对比实验总结
文章图片

feature5
可视化经典模型的对比实验总结
文章图片

feature7
可视化经典模型的对比实验总结
文章图片

feature10
可视化经典模型的对比实验总结
文章图片

feature12
可视化经典模型的对比实验总结
文章图片

feature14
可视化经典模型的对比实验总结
文章图片

feature17
可视化经典模型的对比实验总结
文章图片

feature19
可视化经典模型的对比实验总结
文章图片

feature21
可视化经典模型的对比实验总结
文章图片

feature24
可视化经典模型的对比实验总结
文章图片

feature26
可视化经典模型的对比实验总结
文章图片

feature28
可视化经典模型的对比实验总结
文章图片

classifier
可视化经典模型的对比实验总结
文章图片

GoogleNet 模型设计图
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

Netron网络图
可视化经典模型的对比实验总结
文章图片

zetane整体结构图
可视化经典模型的对比实验总结
文章图片

详细可视化
1
可视化经典模型的对比实验总结
文章图片

2
可视化经典模型的对比实验总结
文章图片

3
可视化经典模型的对比实验总结
文章图片

分支
可视化经典模型的对比实验总结
文章图片

m_1
可视化经典模型的对比实验总结
文章图片

m_2
可视化经典模型的对比实验总结
文章图片

m_3
可视化经典模型的对比实验总结
文章图片

m_4
可视化经典模型的对比实验总结
文章图片

for_epoch 9次
可视化经典模型的对比实验总结
文章图片

output_merge
可视化经典模型的对比实验总结
文章图片

end
可视化经典模型的对比实验总结
文章图片

Inception_v3 也称为 GoogleNetv3,2015 年开始在 Imagenet 上训练的著名 ConvNet。
模型设计图
可视化经典模型的对比实验总结
文章图片

Netron结构图

zetane整体结构图
可视化经典模型的对比实验总结
文章图片

conv
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

分支
可视化经典模型的对比实验总结
文章图片

m_1
可视化经典模型的对比实验总结
文章图片

m_2
可视化经典模型的对比实验总结
文章图片

m_3
可视化经典模型的对比实验总结
文章图片

m_4
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

全局图
可视化经典模型的对比实验总结
文章图片

DenseNet 密集卷积网络(DenseNet)以前馈方式将每一层连接到其他每一层。
网络设计图
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

Netron网络图
可视化经典模型的对比实验总结
文章图片

这个部分可以看做是一个基础组件的结构,后面大量嵌套并循环使用
可视化经典模型的对比实验总结
文章图片

局部图
可视化经典模型的对比实验总结
文章图片

第一部分
可视化经典模型的对比实验总结
文章图片

第二部分
可视化经典模型的对比实验总结
文章图片

第三部分-头
可视化经典模型的对比实验总结
文章图片

第三部分-尾
可视化经典模型的对比实验总结
文章图片

第四部分
可视化经典模型的对比实验总结
文章图片

zetane网络图
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

SqueezeNet 参数减少 50 倍的 Alexnet 级精度。
网络设计图
可视化经典模型的对比实验总结
文章图片

Netron网络图
可视化经典模型的对比实验总结
文章图片

Zetene整体图
可视化经典模型的对比实验总结
文章图片

细节
features.0
可视化经典模型的对比实验总结
文章图片

features.3.squeeze
可视化经典模型的对比实验总结
文章图片

features.3.expand3x3
可视化经典模型的对比实验总结
文章图片

features.4
可视化经典模型的对比实验总结
文章图片

features.4.expand1x1
可视化经典模型的对比实验总结
文章图片

features.5.squeeze
可视化经典模型的对比实验总结
文章图片

features.5.expand3x3
可视化经典模型的对比实验总结
文章图片

features.7.squeeze
可视化经典模型的对比实验总结
文章图片

features.7.expand
可视化经典模型的对比实验总结
文章图片

features.8.squeeze
可视化经典模型的对比实验总结
文章图片

features.8.expand
可视化经典模型的对比实验总结
文章图片

features.9.squeeze
可视化经典模型的对比实验总结
文章图片

features.10.expand
可视化经典模型的对比实验总结
文章图片

features.10.squeeze
可视化经典模型的对比实验总结
文章图片

features.10.expand1x1
可视化经典模型的对比实验总结
文章图片

features.12.squeeze
可视化经典模型的对比实验总结
文章图片

features.12.expand.3x3
可视化经典模型的对比实验总结
文章图片

classifer.1
可视化经典模型的对比实验总结
文章图片

全局图
可视化经典模型的对比实验总结
文章图片

output
可视化经典模型的对比实验总结
文章图片

ShuffleNet 一个针对速度和内存进行了优化的高效 ConvNet,在 Imagenet 上进行了预训练。
所有预训练模型都期望输入图像以相同的方式归一化,即形状为 的 3 通道 RGB 图像的小批量(3 x H x W),其中HW预计至少为224。必须将图像加载到 的范围内,然后使用 和[0, 1]进行归一化。`mean = [0.485, 0.456, 0.406]``std = [0.229, 0.224, 0.225]。
网络设计图
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

Netron网络图
可视化经典模型的对比实验总结
文章图片

Zetane整体图
可视化经典模型的对比实验总结
文章图片

p1
可视化经典模型的对比实验总结
文章图片

这里同样可以将几个重复的结构作为单独模块来理解分析,大致可分为两个组件和一个连接件。
组件一:包含两个输出层,输出层一包含三个Conv卷积和两个ReLu,输出层二包含两个Conv卷积和一个ReLu。
可视化经典模型的对比实验总结
文章图片

组件二:包含两个输出层,输出层一无其他操作直接输出,输出层二包含三个Conv卷积和两个ReLu。
可视化经典模型的对比实验总结
文章图片

连接件:这部分主要是用来连接组件模块设计的,包含Constant、Concat、Transpose、Reshape、Split。
可视化经典模型的对比实验总结
文章图片

先来预览下组件模块的效果
组件一
可视化经典模型的对比实验总结
文章图片

组件二
可视化经典模型的对比实验总结
文章图片

连接件:
concat
可视化经典模型的对比实验总结
文章图片

input_1 (24,28,28)
可视化经典模型的对比实验总结
文章图片

input_2 (24,28,28)
可视化经典模型的对比实验总结
文章图片

output (48,28,28)
可视化经典模型的对比实验总结
文章图片

Constant
可视化经典模型的对比实验总结
文章图片

Reshape
可视化经典模型的对比实验总结
文章图片

Transpose
可视化经典模型的对比实验总结
文章图片

Split
input (48,28,28)
可视化经典模型的对比实验总结
文章图片

output_1 (24,28,28)
可视化经典模型的对比实验总结
文章图片

output_2 (24,28,28)
可视化经典模型的对比实验总结
文章图片

模型组网
组网方式一
可视化经典模型的对比实验总结
文章图片

组网方式二
可视化经典模型的对比实验总结
文章图片

end
可视化经典模型的对比实验总结
文章图片

ResNet 在 ImageNet 上预训练的深度残差网络
网络设计图
可视化经典模型的对比实验总结
文章图片

Netron网络图
可视化经典模型的对比实验总结
文章图片

Zetane整体图
可视化经典模型的对比实验总结
文章图片

局部细节
p1
可视化经典模型的对比实验总结
文章图片

p2
可视化经典模型的对比实验总结
文章图片

p3
可视化经典模型的对比实验总结
文章图片

p4
可视化经典模型的对比实验总结
文章图片

p5
可视化经典模型的对比实验总结
文章图片

p6
可视化经典模型的对比实验总结
文章图片

p7
可视化经典模型的对比实验总结
文章图片

p8
可视化经典模型的对比实验总结
文章图片

p9
可视化经典模型的对比实验总结
文章图片

p10
可视化经典模型的对比实验总结
文章图片

整体可视化
可视化经典模型的对比实验总结
文章图片

output
可视化经典模型的对比实验总结
文章图片

ResNext 下一代 ResNet,更高效、更准确
网络设计图
可视化经典模型的对比实验总结
文章图片

Netron结构图
可视化经典模型的对比实验总结
文章图片

Zetane整体图
可视化经典模型的对比实验总结
文章图片

局部细节图
下面是一个基本的结构,共包括两个输出层,其中一个输出层包含三个Conv卷积和两个ReLu,另一个输出层只包含一个Conv卷积。
最后合并两个输出通道的结果,输入下一层进行计算。
可视化经典模型的对比实验总结
文章图片

简单来看下效果
可视化经典模型的对比实验总结
文章图片

接下来是对上面基本结构的一个交叉循环,共计16个。
可视化经典模型的对比实验总结
文章图片

最终输出
可视化经典模型的对比实验总结
文章图片

output结果
可视化经典模型的对比实验总结
文章图片

Wide_ResNet 可视化经典模型的对比实验总结
文章图片

Netron网络图
可视化经典模型的对比实验总结
文章图片

Zetane整体结构
可视化经典模型的对比实验总结
文章图片

p1
可视化经典模型的对比实验总结
文章图片

两个基本结构
结构一
可视化经典模型的对比实验总结
文章图片

结构二
可视化经典模型的对比实验总结
文章图片

下面分别来看下两个结构的可视化
结构一,分为两个输出层,一层仅包含一个Conv卷积,另外一层是包含三个Conv卷积和两个ReLu。
可视化经典模型的对比实验总结
文章图片

可视化经典模型的对比实验总结
文章图片

结构二,分为两个输出层,其中一层不包含操作,另外一层与结构一的第二层一样,包含三个Conv卷积和两个ReLu。
可视化经典模型的对比实验总结
文章图片

中间连接部分,主要是承上启下,将两个输出通道的输出结果进行叠加融合,重新进行ReLu传递给下面。
可视化经典模型的对比实验总结
文章图片

RegNet Netron网络图
可视化经典模型的对比实验总结
文章图片

Zetane整体图
可视化经典模型的对比实验总结
文章图片

两个基本结构
结构一
可视化经典模型的对比实验总结
文章图片

结构二
可视化经典模型的对比实验总结
文章图片

结构一
局部细节一
可视化经典模型的对比实验总结
文章图片

局部细节二
可视化经典模型的对比实验总结
文章图片

结构二
可视化经典模型的对比实验总结
文章图片

整体效果
可视化经典模型的对比实验总结
文章图片

局部细节
细节一
可视化经典模型的对比实验总结
文章图片

细节二
可视化经典模型的对比实验总结
文章图片

连接部分
可视化经典模型的对比实验总结
文章图片

结尾部分
可视化经典模型的对比实验总结
文章图片

    推荐阅读