可视化经典模型的对比实验总结
可视化经典模型的对比实验总结 环境安装
安装OpenGL
sudo apt-get install -y build-essentiallibxmu-dev libgl1-mesa-glx libglu1-mesa-dev libgl1-mesa-dev freeglut3-dev libglew-dev libsdl2-dev libsdl2-image-dev libglm-dev libfreetype6-dev
安装Netron
网页版：https://netron.app/
官方下载：https://github.com/lutzroeder/netron
文章图片
安装zetane
官方链接“”https://zetane.com/
GitHub链接：https://github.com/zetane/viewer
文章图片
AlexNet Alexnet 是一个图像分类模型，其中输入是 1000 个不同类别（例如猫、狗等）之一的图像，输出是 1000 个数字的向量。
输出向量的第i个元素是输入图像属于第i类的概率；因此，输出向量的所有元素之和为 1。
AlexNet 的输入是大小为 224x224 像素的 RGB 图像。
模型设计图
文章图片
Netron结构图
【可视化经典模型的对比实验总结】
文章图片
文章图片
文章图片
weights
文章图片
bias
文章图片
input (1,3,224,224)
文章图片
文章图片
Conv
文章图片
Feature Maps
文章图片
ReLU
文章图片
MaxPool
文章图片
文章图片
整体结构图
文章图片
feature0
文章图片
feature3
文章图片
feature6
文章图片
feature8
文章图片
feature10
文章图片
文章图片
classify
文章图片
VGG 模型设计图
文章图片
Netron结构图
文章图片
整体结构图
文章图片
feature0
文章图片
feature2
文章图片
feature5
文章图片
feature7
文章图片
feature10
文章图片
feature12
文章图片
feature14
文章图片
feature17
文章图片
feature19
文章图片
feature21
文章图片
feature24
文章图片
feature26
文章图片
feature28
文章图片
classifier
文章图片
GoogleNet 模型设计图
文章图片
文章图片
Netron网络图
文章图片
zetane整体结构图
文章图片
详细可视化
1
文章图片
2
文章图片
3
文章图片
分支
文章图片
m_1
文章图片
m_2
文章图片
m_3
文章图片
m_4
文章图片
for_epoch 9次
文章图片
output_merge
文章图片
end
文章图片
Inception_v3 也称为 GoogleNetv3，2015 年开始在 Imagenet 上训练的著名 ConvNet。
模型设计图
文章图片
Netron结构图
zetane整体结构图
文章图片
conv
文章图片
文章图片
文章图片
文章图片
文章图片
分支
文章图片
m_1
文章图片
m_2
文章图片
m_3
文章图片
m_4
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
全局图
文章图片
DenseNet 密集卷积网络（DenseNet）以前馈方式将每一层连接到其他每一层。
网络设计图
文章图片
文章图片
Netron网络图
文章图片
这个部分可以看做是一个基础组件的结构，后面大量嵌套并循环使用
文章图片
局部图
文章图片
第一部分
文章图片
第二部分
文章图片
第三部分-头
文章图片
第三部分-尾
文章图片
第四部分
文章图片
zetane网络图
文章图片
文章图片
文章图片
文章图片
SqueezeNet 参数减少 50 倍的 Alexnet 级精度。
网络设计图
文章图片
Netron网络图
文章图片
Zetene整体图
文章图片
细节
features.0
文章图片
features.3.squeeze
文章图片
features.3.expand3x3
文章图片
features.4
文章图片
features.4.expand1x1
文章图片
features.5.squeeze
文章图片
features.5.expand3x3
文章图片
features.7.squeeze
文章图片
features.7.expand
文章图片
features.8.squeeze
文章图片
features.8.expand
文章图片
features.9.squeeze
文章图片
features.10.expand
文章图片
features.10.squeeze
文章图片
features.10.expand1x1
文章图片
features.12.squeeze
文章图片
features.12.expand.3x3
文章图片
classifer.1
文章图片
全局图
文章图片
output
文章图片
ShuffleNet 一个针对速度和内存进行了优化的高效 ConvNet，在 Imagenet 上进行了预训练。
所有预训练模型都期望输入图像以相同的方式归一化，即形状为 的 3 通道 RGB 图像的小批量
(3 x H x W)，其中H和W预计至少为224。必须将图像加载到 的范围内，然后使用 和[0, 1]进行归一化。`mean = [0.485, 0.456, 0.406]``std = [0.229, 0.224, 0.225]。网络设计图
文章图片
文章图片
Netron网络图
文章图片
Zetane整体图
文章图片
p1
文章图片
这里同样可以将几个重复的结构作为单独模块来理解分析，大致可分为两个组件和一个连接件。
组件一：包含两个输出层，输出层一包含三个Conv卷积和两个ReLu，输出层二包含两个Conv卷积和一个ReLu。
文章图片
组件二：包含两个输出层，输出层一无其他操作直接输出，输出层二包含三个Conv卷积和两个ReLu。
文章图片
连接件：这部分主要是用来连接组件模块设计的，包含Constant、Concat、Transpose、Reshape、Split。
文章图片
先来预览下组件模块的效果
组件一
文章图片
组件二
文章图片
连接件：
concat
文章图片
input_1 (24,28,28)
文章图片
input_2 (24,28,28)
文章图片
output (48,28,28)
文章图片
Constant
文章图片
Reshape
文章图片
Transpose
文章图片
Split
input (48,28,28)
文章图片
output_1 (24,28,28)
文章图片
output_2 (24,28,28)
文章图片
模型组网
组网方式一
文章图片
组网方式二
文章图片
end
文章图片
ResNet 在 ImageNet 上预训练的深度残差网络
网络设计图
文章图片
Netron网络图
文章图片
Zetane整体图
文章图片
局部细节
p1
文章图片
p2
文章图片
p3
文章图片
p4
文章图片
p5
文章图片
p6
文章图片
p7
文章图片
p8
文章图片
p9
文章图片
p10
文章图片
整体可视化
文章图片
output
文章图片
ResNext 下一代 ResNet，更高效、更准确
网络设计图
文章图片
Netron结构图
文章图片
Zetane整体图
文章图片
局部细节图
下面是一个基本的结构，共包括两个输出层，其中一个输出层包含三个Conv卷积和两个ReLu，另一个输出层只包含一个Conv卷积。
最后合并两个输出通道的结果，输入下一层进行计算。
文章图片
简单来看下效果
文章图片
接下来是对上面基本结构的一个交叉循环，共计16个。
文章图片
最终输出
文章图片
output结果
文章图片
Wide_ResNet
文章图片
Netron网络图
文章图片
Zetane整体结构
文章图片
p1
文章图片
两个基本结构
结构一
文章图片
结构二
文章图片
下面分别来看下两个结构的可视化
结构一，分为两个输出层，一层仅包含一个Conv卷积，另外一层是包含三个Conv卷积和两个ReLu。
文章图片
文章图片
结构二，分为两个输出层，其中一层不包含操作，另外一层与结构一的第二层一样，包含三个Conv卷积和两个ReLu。
文章图片
中间连接部分，主要是承上启下，将两个输出通道的输出结果进行叠加融合，重新进行ReLu传递给下面。
文章图片
RegNet Netron网络图
文章图片
Zetane整体图
文章图片
两个基本结构
结构一
文章图片
结构二
文章图片
结构一
局部细节一
文章图片
局部细节二
文章图片
结构二
文章图片
整体效果
文章图片
局部细节
细节一
文章图片
细节二
文章图片
连接部分
文章图片
结尾部分
文章图片
推荐阅读
- 计算机网络|TCP网络编程模型从入门到实战基础篇,单服务器单个用户非并发版本
- 计算机网络|网络入门基础模型, 网络大体框架， TCP/IP协议栈, 各种局域网和广域网刨析 (以图解的方式推开网络大门)
- 掌握AJAX|掌握 Ajax，第 4 部分: 利用 DOM 进行 Web 响应 将 HTML 转换为对象模型
- java|JVM虚拟机
- 产品|【经典】产品人面试中的一些软回答~~
- java|最新Java面试题，Java虚拟机（JVM）篇之Java内存模型
- 知识增广的预训练语言模型K-BERT（将知识图谱作为训练语料）
- 45个 GIT 经典操作场景，专治不会合代码
- 从零搭建Pytorch模型教程（一）数据读取
- 45个|45个 GIT 经典操作场景，专治不会合代码