「MindSpore(跟着小Mi一起深度学习吧」简单介绍)

深度学习,听到这个词大家肯定一点都不陌生,没错,今天开始,小Mi带领大家进入全新的系列——跟着小Mi一起深度学习,让我们有态度地深度学习!
概念区分
那么有人就会问了,不是已经学过机器学习了吗?还需要学习深度学习干啥?其实在机器学习这块,小Mi只是简单给大家介绍了各种学习的算法,而深度学习算得上是机器学习的一个分支,我们现在呢就是准备把这个分支给它摘出来着重介绍给大家。总结来说,机器学习是一种实现人工智能的方法,而深度学习则是一种实现机器学习的技术。这样大家是不是已经理清了“机器学习”、“深度学习”、“人工智能”这几个概念的区别和联系啦~
神经网络
最初的深度学习是利用深度神经网络来解决特征表达的一种学习过程。
相信大家高中数学都学过函数这个概念,,是输入,表示输出结果,函数F具体的形式是怎么样的,取决于之间一一对应的关系。那个时候总记得期末考试总会出那么一两道复杂的函数题,涉及到根号呀、对数呀什么的,但是相对于神经网络来说绝对是小巫见大巫,深度学习中包含多个隐含层的神经网络结构其实就相当于函数F,只是更加复杂了不少。
上图是一个神经网络的大致结构,这是一种全连接的连接方式,即每层中的任意个神经元都与下一层的全部神经元相连接,然后每个连接之间都有一组参数。该神经网络分别包含输入层、输出层,以及n个隐藏层,如果输入和输出之间的越复杂,那么就可能需要更多的隐藏层来计算最终的结果。
那么问题来了,是不是隐藏层越多越好呢?显然并不是,首当其冲需要解决计算复杂度的问题,毕竟各种参数的增加,计算量是需要与硬件设备相匹配的;再者就算解决了这样的问题,过于深的神经网络在求解过程中很容易陷入局部最优解,而非全局最优解。
前景和挑战
不过就算这样,各路深度学习领域的大佬各显神通,2016年在阿尔法狗 3:0 完胜人类围棋冠军柯洁之后,深度学习的概念一夜之间火遍全球,火到宇宙,火到每个人的心头上,哈哈。
因此深度学习在很多领域都取得了很**展,在图像识别、语音识别等方面已经取得了非凡的突破,也成功进入了我们的生活中。
相信大家通过某全能王已经实现了文字识别的功能;某飞录音笔也可以实现录音转成文字;谷歌支持100种语言的即时翻译,速度之快宛如闪电侠;自动驾驶汽车行业也如火如荼。
但是在大数据情形下,比较复杂或表达能力强的模型,可以充分挖掘海量数据中的信息。随着深度模型变得更强大,从大数据中发掘出的信息往往更有价值。比如语音识别所涉及的声学建模面临的是高达十亿到千亿级别的样本训练。(这个时候是不应该打个广告!@MindSpore)
另外利用并行计算平台来实现海量数据训练的问题也是十分必要的,现通常采用的随机梯度法,并不能在多个计算机之间并行,不过这个问题我们MindSpore就做的很好了,MindSpore 自动并行提供了 5 维的并行方式:数据并行、算子级模型并行、Pipeline 模型并行、优化器模型并行和重计算,并且在图编译阶段,有机融合了 5 个维度的并行。这 5 维并行方式组合起来构成了盘古的并行策略。(没错,我真的来打广告了!)当然了,具体到解决各种服务需求方面,还需要进一步升级和完善。
学习思路
废话说了那么多,还是要介绍一下我们这个系列的具体内容,深度学习的简单介绍今天就已经说过了哈,后续先给大家介绍各种相关的基础知识,比如回归问题呀、分类问题呀,然后具体介绍一些神经网络,比如我们常见的卷积神经网络、循环神经网路等等,以及一些处理的细节问题,就好比我们上大学一样,本科学的是大方向,研究生研究了其中的一个小方向(可以类比机器学习和深度学习两者关联)
【「MindSpore(跟着小Mi一起深度学习吧」简单介绍)】总之,小Mi对于接下来的学习十分感兴趣,也对深度学习的未来相当看好,希望大家捧场呀!我们下期再见咯(挥手再见~)

    推荐阅读