Dynamic Memory Tensor Networks笔记

DMTN是对DMN的改进,借鉴了NTN(Neural Tensor Networks)中的相似度评分函数,在bAbI-1k数据集上比DMN的结果要好。模型出自论文Ask Me Even More: Dynamic Memory Tensor Networks(Extended Model), theano实现代码:?https://github.com/rgsachin/DMTN
DMTN主要改进的地方在于 G(c,m,q) :
Dynamic Memory Tensor Networks笔记
文章图片

Dynamic Memory Tensor Networks笔记
文章图片

由于计算条件受限,作者放弃使用three-way-relationship tensor,因此:
Dynamic Memory Tensor Networks笔记
文章图片

另外作者还拓展了NTN网络:
Dynamic Memory Tensor Networks笔记
文章图片

以及列出了一些NTN中的relationship score function,这里不做详细介绍
【Dynamic Memory Tensor Networks笔记】最后作者给出了结果:
Dynamic Memory Tensor Networks笔记
文章图片

    推荐阅读