亦余心之所善兮,虽九死其犹未悔。这篇文章主要讲述LSTM与GRU有什么联系和区别?相关的知识,希望能为你提供帮助。
LSTM结构中的C(cell),和GRU结构中的H(隐藏单元),有什么联系和区别?
如图所示,左边为第一种形式也是网上常见的GRU画法。但是为了方便和LSTM对比,我画成了右边的形式,请先行对比。
LSTM中的C和GRU中的H都是经过了遗忘和输入门(GRU中的更新们也是由遗忘和输入门组成的),也都是未经过输出门而直接往后传递的。他们有什么区别呢?
我自己的猜想:GRU的重置门就相当于LSTM中的更新门。
LSTM中的C经过输出门之后形成了H,因为有输出门所以H更关注当前状态的信息,而C携带者之前的所有状态的信息。GRU中的H就相当于LSTM中的C同样也携带者之前状态的信息,GRU中的重置门就相当于LSTM中的输出门,重置之后的H就相当于LSTM中更关注当前状态的H。
文章图片
然后我们再来将LSTM与上面右边的GRU结构放到一起进行对比。
文章图片
文章图片
文章图片
【LSTM与GRU有什么联系和区别()】
推荐阅读
- Flink Streaming-Sink
- 模型改善与泛化(标准化与特征映射)
- #私藏项目实操分享#SpringCloud Alibaba Sentinel使用及规则配置
- tf.nn.conv2d 你不知道的那些事儿
- 推荐学java——MyBatis高级
- #yyds干货盘点#netty系列之:好马配好鞍,为channel选择配套的selector
- vSAN数据恢复异常断电导致上层虚拟机无法启动,vSAN底层数据损坏的数据恢复
- TKE 用户故事 - 作业帮 PB 级低成本日志检索服务
- seata入门介绍与seata-service部署与验证