go语言神经网络 golang神经网络( 七 )


经典机器学习方式是以人类的先验知识将raw数据预处理成feature , 然后对feature进行分类 。分类结果十分取决于feature的好坏 。所以过去的机器学习专家将大部分时间花费在设计feature上 。那时的机器学习有个更合适的名字叫feature engineering。
后来人们发现 , 利用神经网络 , 让网络自己学习如何抓取feature效果更佳 。于是兴起了representation learning 。这种方式对数据的拟合更加灵活 。
网络进一步加深,多层次概念的representation learning将识别率达到了另一个新高度 。于是你听到了是个搞机器学习的人都知道的名字:deep learning 。实指多层次的特征提取器与识别器统一训练和预测的网络 。
end to end的好处:通过缩减人工预处理和后续处理,尽可能使模型从原始输入到最终输出,给模型更多可以根据数据自动调节的空间,增加模型的整体契合度 。
拿语音识别为具体实例 。普遍方法是将语音信号转成频域信号 , 并可以进一步加工成符合人耳特点的MFCC进行编码(encode) 。也可以选择Convolutional layers对频谱图进行特征抓取 。这样可在encode的部分更接近end to end 中的第一个end 。
但识别出的结果并不可以告诉我们这段语音到底是什么 。DNN-HMM混合模型还需要将DNN识别出的结果通过HMM来解码(decode) 。而RNN-CTC就将HMM的对齐工作交给了网络的output layer来实现 。在decode的部分更接近end to end 中的第二个end 。
木铎解老之四:道法自然四、道法自然
有物混成,先天地生 。寂兮寥兮,独立而不改,周行而不殆,可以为天下母 。吾不知其名,强字之曰道 , 强为之名曰大 。大曰逝,逝曰远,远曰反 。故道大,天大 , 地大,人亦大 。域中有四大,而人居其一焉 。人法地,地法天,天法道,道法自然 。
《道德经》第二十五章
前面几章可以算是一种铺垫,现在我们要接触到《道德经》go语言神经网络的几个核心观点之一:无为 。无为这个词随着《道德经》和魏晋玄学的普及已经成了中国文化中的一个基本概念 。至于什么是无为 , 不同的人有不同的解释,有人认为无为就是清心寡欲,放下尘缘,什么都不作,这是从佛教的角度来理解无为 。也有人认为无为是表面上什么都不作,但是在背后下功夫 , 无为而无不为,这是从军事或是阴谋学的角度来理解无为 。各个时期各个流派的人面对不同的问题,于是go语言神经网络他们也把《道德经》中的“无为”理解成各种不同的涵义 。
由于我的知识体系和专业背景(码农)和以前的解释《道德经》的人不一样 , 所以我自然对无为也有我自己解释,我不敢说我的解释更接近于《道德经》的原意,更不敢说别人的解释都是错的,不过这本书的成书年代最少在两千年前 , 所以我只能说我和其他人一样都可能是一种对原文的误解和瞎掰,下面让我们正式进入我这个版本的瞎掰,嘿嘿 。
我通读了《道德经》之后我发现《道德经》中最核心的两个词就是无为和自然 , 那么这两个词之间是否有什么联系呢?我相信是有的,老子在《道德经》中提倡“无为” , 又说“人法地 , 地法天 , 天法道,道法自然”,那么“无为”是什么呢?就是“道法自然”嘛 。道是什么呢?《道德经》第二十五章说:“有物混成,先天地生 。寂兮寥兮,独立而不改,周行而不殆,可以为天下母 。吾不知其名,强字之曰道” , 可见“道”就是某种看不见摸不着,但是又无处不在的东西,我们今天俗称其为“规律” 。《道德经》中的规律是什么样的规律呢?我们前面已经说过了“道法自然”,那么《道德经》中讲的我们可以称之为“自然规律”,遵循“自然规律”去做事也就是“无为” 。什么我们要遵循“自然规律”去“无为”呢?因为自然是一个复杂系统,人类社会同样是一个复杂系统,《道德经》相信在这些复杂系统中有某些共性 , 而自然作为最大最复杂的复杂系统当然应该被我们效仿和学习 。

推荐阅读