锐客网

  1. 首页 > 生活百科 > it技术 > >

机器学习基础|nn.dropout()的用法，随机失活

深度学习pytorch机器学习基础tensorflow

nn.dropout()是为了防止或减轻过拟合而使用的函数，它一般用在全连接层
Dropout就是在不同的训练过程中随机扔掉一部分神经元。也就是让某个神经元的激活值以一定的概率p，让其停止工作，这次训练过程中不更新权值，也不参加神经网络的计算。但是它的权重得保留下来（只是暂时不更新而已），因为下次样本输入时它可能又得工作了
注意：pytorch的p和TensorFlow的keep_prob代表的正好相反
dropout常常用于抑制过拟合，pytorch也提供了很方便的函数。但是经常不知道dropout的参数p是什么意思。在TensorFlow中p叫做keep_prob,就一直以为pytorch中的p应该就是保留节点数的比例，但是实验结果发现反了，实际上表示的是不保留节点数的比例。

【机器学习基础|nn.dropout()的用法，随机失活】

    推荐阅读


    上一篇：python基础|torchvision.datasets.ImageFolder使用详解

    下一篇：目标检测|【YOLOv5-6.x】网络模型&源码解析