几种常见范数

范数是一种更宽泛的长度(距离)概念,只要满足非负、自反、三角不等式就可以称之为距离。
在数学上,范数包括向量范数和矩阵范数,向量范数表征向量空间中向量的大小,矩阵范数表征矩阵引起变化的大小,如,向量经过矩阵映射为向量,矩阵范数就是用来度量这个变化的大小。
一种非严密的解释就是,对应向量范数,向量空间中的向量都是有大小的,这个大小如何度量,就是用范数来度量的,不同的范数都可以来度量这个大小。
简单介绍几种向量范数的定义 L1-范数(L1-Norm)
表示向量中各个元素(坐标值)的绝对值之和,L1范数又被称作曼哈顿距离、最小绝对误差等。使用L1范数可以衡量两个向量间的差异,如绝对误差和:

由于L1范数的天然性质,如果把L1范数作为目标函数进行优化,其解为一个稀疏解,因此L1范数也被叫做稀疏规则算子。通过L1可以实现特征的稀疏,去掉一些没有用的特征从而降低特征的维度。
L2-范数 L2范数是一种最常用的范数,应用十分广泛,我们用的最多的度量距离的方式——欧式距离就是一种L2范数,定义如下:

像L1范数一样,L2范数也可以度量两向量之间的差异,如最小均方误差。
L-范数 【几种常见范数】它主要被用来度量向量元素的最大值,定义如下:

范数又被称为,在鲁棒控制、滤波中作为一项优化指标。

    推荐阅读