右肺下叶gnn是什么意思 gnn是什么意思网络用语

gnn是什么意思网络用语,我们一起来看看吧 。首先,这个词的意思是指一个人的身高,也就是我们平时说的“身高” 。在我们日常生活中,很多人都喜欢用“身高”形容一个人的身高,比如“一米七”、“一米八”等等 。那么,“身高”到底是什么意思呢?其实,“身高”就是指人的身高,它是一个人身体体的重要部分,也是衡量一个人健康状况的重要指标 。
【导读】GNN是目前机器学习领域的热门网络之一,肯多研究与技术分享相比不可知的深度学习网络模型,GNN 有哪些吸引我们的优势及硬核实力 。然而,GNN 是完美的吗?有什么缺点?在何种情况下,GNN 是无法发挥其能力的?近日,在 arXiv 上发布了一篇论文,专门研究探讨了 GNN 在普适性与学习局限性等问题 。
作者 | Andreas Loukas译者 | 凯隐责编 | Jane出品 | AI科技大本营(ID: rgznai100)本文主要从计算能力有限的角度,来研究GNN在消息传递分布式系统中的图灵普适性和局限性,并得到了两个与图论问题能否解决(impossibility statements)有关的结论:
(1)在一定的充足条件下,GNN是具有图灵普适性的;
(2)而在深度和广度被限制的条件下,GNN的性能会有一定的局限性 。
应用第一个结论,可以对一些图论优化问题设置更低的计算复杂度下界,第二个结论则说明在深度和广度的乘积不超过图的大小时,GNN是无法解决其他的一些问题的 。
专业术语为了方便大家后续阅读理解文章,我们先把文中涉及的几个专业问题做简单阐述:
1、图灵普适性(Turing universal)
一个具有图灵普适性的图灵机(Universal Turing machine)能够模拟任何图灵机在任何输入下的情况 。
2、一致性问题(Consensus)
即在分布式计算或者多代理(multi-agent)系统中,如何在发生进程故障的情况下保持系统的可靠性(reliability) 。这通常需要进程就计算过程中的一些数值或数值操作达成一致,包括如何将提交到数据库,如何识别leader进程,状态机复制(一种故障容忍机制),原子广播等操作 。
3、不可能结果(Impossibility result)
【右肺下叶gnn是什么意思 gnn是什么意思网络用语】这是分布式领域的专业术语,在一个完全异步的消息传递分布式系统中,如果一个进程有故障,那么一致性问题是无法得到解决的,在此基础上,有两个比较著名的 impossibility result:FLP和CAP,详见[1][2] 。本文中提出了关于GNN的两个结论都是属于GNN的 impossibility results 。简单来说,就是在一定的限制条件下问题能否被解决,那么任务的impossibility result就只有两种情况:能和不能 。
4、GNN的深度和广度(depth and width)
深度就是网络层数,广度就是每层的感知域,也就是每个节点的能获取到信息的邻接节点的范围 。
模型普适性的研究机器学习中的一个基本任务是研究哪些内容是一个模型(网络)能学习到,而哪些是不能学习到的,也就是研究模型的普适性,研究其能否解决大部分任务 。过去的一些研究通过不变函数或者等效函数来对网络进行等效近似,从而在函数层面研究什么是一个模型能学习到的内容 。
通常理论认为,在有充足的训练数据和合适的学习优化算法的情况下,普适性网络能够解决大部分给定的任务,然而这种理解是不全面的,因为在实际应用时要满足充足训练数据和合适优化算法是比较困难的,这种无限制的普适性网络是不能作为实际部署时的网络设计参考的 。
因此,可以从问题的对立面,即研究模型的局限性,来间接地研究其普适性,也就是在特定的任务中,特定的限制条件下网络不能学习到的内容 。这有助于了解模型和特定任务之间的关系,从而知晓任务能否被解决(impossibility results),进而帮助我们调整模型的参数 。例如,在图分类任务中,我们希望模型能学习到同一类图的共同特征,不同类图的区别特征,然而如果GNN模型本身的深度和广度不足以学习到足够的特征,那么这个问题就是impossible的,因此就需要进一步的调整深度和广度 。

推荐阅读