DMTN是对DMN的改进,借鉴了NTN(Neural Tensor Networks)中的相似度评分函数,在bAbI-1k数据集上比DMN的结果要好。模型出自论文Ask Me Even More: Dynamic Memory Tensor Networks(Extended Model), theano实现代码:?https://github.com/rgsachin/DMTN
DMTN主要改进的地方在于 G(c,m,q) :
文章图片
文章图片
由于计算条件受限,作者放弃使用three-way-relationship tensor,因此:
文章图片
另外作者还拓展了NTN网络:
文章图片
以及列出了一些NTN中的relationship score function,这里不做详细介绍
【Dynamic Memory Tensor Networks笔记】最后作者给出了结果:
文章图片
推荐阅读
- 论文笔记|【论文笔记】DIEN: Deep Interest Evolution Network for Click-Through Rate Prediction
- [论文笔记]TOWARDS DEEP NEURAL NETWORK ARCHITECTURES ROBUST TO ADVERSARIAL EXAMPLES 论文笔记
- mixup: Beyond Empirical Risk Minimization
- Quantum Tensor Networks in a Nutshell