深度学习|学习日记(深度学习CPU与GPU)

我所用的笔记本电脑没有独立显卡,因此也不支持cuda等软件的安装
1.batch_size
今天用cpu跑深度学习的时候,原本代码的batch_size=512,我知道我的电脑肯定跑不了这么大的batch_size,就设置成batch_size=256,但是jupyter notebook在跑第一个epoch的时候还是显示我的内核挂掉了,重启两三次都仍会遇到这个问题。
解决办法:把batch_size大小设置为100,在我的电脑上就可以正常运行了
每台电脑的cpu也不同,遇到类似的内核挂掉的问题,可以试着减少batch_size的大小
2.epoch
可以简单地理解为迭代的次数,与batch_size一样也会影响深度学习的速度
当epoch=50 batch_size=100的时候运行到第32个epoch还是显示内核挂掉了,我不太清楚是这两个哪个的问题,或者可能是数据量的问题。
但是我试验过,当epoch=30 batch_size=100的时候,是可以运行的。
3.运行速度
cpu处理深度学习的速度要比gpu慢很多,具体可以看下面的数据对比:

us/step batch_size epoch
GPU 449us/step 512 200
CPU 480ms/step 100 50
【深度学习|学习日记(深度学习CPU与GPU)】
很明显,两者的差异非常大,所以还是建议有GPU的一定要在GPU上跑,训练的数据量可以更大一些,得到的准度也会更高一些,实在不行的话再在CPU上跑。
4.continue

    推荐阅读