锐客网

  1. 首页 > 生活百科 > it技术 > >

核函数的python实现的简单介绍

IT技术函数

python的seaborn.kdeplot有什么用kde(kernel density estimation)是核密度估计 。核的作用是根据离散采样，估计连续密度分布 。
如果原始采样是《阴阳师》里的式神 ， 那么kernel（核函数）就相当于御魂 。
假设现在有一系列离散变量X = [4, 5, 5, 6, 12, 14, 15, 15, 16, 17],可见5和15的概率密度应该要高一些，但具体有多高呢？有没有三四层楼那么高，有没有华莱士高？如果要估计的是没有出现过的3呢？这就要自己判断了 。
核函数就是给空间的每个离散点都套上一个连续分布 。最简单的核函数是Parzen窗，类似一个方波：
这时候单个离散点就可以变成区间 ， 空间或者高维空间下的超立方，实质上是进行了升维 。
设h=4，则3的概率密度为：
(只有4对应的核函数为1 ， 其他皆为0)
kernel是非负实值对称可积函数，表示为K，且一本满足：
这样才能保证cdf仍为1 。
实际上应用最多的是高斯核函数(Gaussian Kernel)，也就是标准正态分布 。所谓核密度估计就是把所有离散点的核函数加起来，得到整体的概率密度分布 。核密度估计在很多机器学习算法中都有应用 ， 比如K近邻、K平均等 。
在支持向量机里，也有“核”的概念，同样也是给数据升维 ， 最常用的还是高斯核函数 ， 也叫径向基函数(Radial Basis Funtion) 。
seaborn.kdeplot内置了多种kerne ， 总有一款适合你 。
支持向量机—从推导到python手写 笔者比较懒能截图的地方都截图了 。
支持向量机分为三类：
（1）线性可分支持向量机核函数的python实现，样本线性可分核函数的python实现，可通过硬间隔最大化训练一个分类器 。
（2）线性支持向量机，样本基本线性可分，可通过软间隔最大化训练一个分类器 。
（3）非线性支持向量机，样本线性不可分，可通过核函数和软间隔最大化训练一个分类器 。
上面最不好理解的恐怕就是硬间隔和软间隔了，
说白了硬间隔就是说存在这么一个平面，可以把样本完全正确无误的分开，当然这是一种极理想的情况，现实中不存在，所以就有了软间隔 。
软间隔说的是 ， 不存在一个平面可以把样本完全正确无误的分开，因此呢允许一些样本被分错 ， 怎么做呢就是加入松弛变量，因为希望分错的样本越小越好 ， 因此松弛变量也有约束条件 。加入松弛变量后，问题就变为线性可分了，因为是每一个样本都线性可分，因此松弛变量是针对样本的，每一个样本都对应一个不同的松弛变量 。
其实感知机说白了就是找到一条直线把样本点分开 ， 就是上方都是一类，下方是另一类 。当然完全分开是好事，往往是不能完全分开的，因此就存在一个损失函数 ， 就是误分类点到这个平面的距离最短：
这里啰嗦一句，误分类点y*(wx b)0，所以加个负号在前边 。
一般情况下||w||都是可以缩放，那么我们把它缩放到1，最后的目标函数就变成了
间隔就是距离，我们假设分离超平面为，那么样本点到这个平面的距离可以记为。我们都知道通过感知机划分的点，超平面上方的点，下方的点，然后通过判断的值与y的符号是否一致来判断分类是否正确 。根据这个思路函数间隔定义为：
支持向量的定义来源于几何间隔，几何间隔最直接的解释是离分隔超平面最近点的距离，其核函数的python实现他任何点到平面的距离都大于这个值，所以几何间隔就是支持向量 。然后呢同样道理，w和b是可以缩放的，所以定义支持向量满足如下条件：
再通俗一点说，支持向量是一些点，这些点到分隔平面的距离最近，为了便于表示，把他们进行一下缩放计算，让他们满足了wx b= -1.
核函数是支持向量机的核心概念之一，它存在的目的就是将维度转换之后的计算简化 ， 达到减少计算量的目的 。我们都知道支持向量机求的是间距最大化，通常情况下我们求得的alpha都等于0 ， 因此支持向量决定了间距最大化程度 。
核函数的形式是这样的
其中x(i)和x(j)都是向量，他们两个相乘就是向量内积，相乘得到一个数 。刚才说了目标函数一般只和支持向量有关，因此在做核函数计算之前，实际就是选择的支持向量进行计算 。
这个写完下面得再补充
我们知道了支持向量的概念，那么支持向量机的目标函数是要使这两个支持向量之间的距离尽可能的远，因为这样才能更好地把样本点分开，当然支持向量也要满足最基本的约束条件，那就是分类正确，还有就是其他点到分隔平面的距离要大于等于支持向量到分隔平面的距离 。
这种凸优化问题都可以通过拉格朗日算子进行优化，就是把约束条件通过拉格朗日系数放到目标函数上 。这部分基础知识 ， 就是拉格朗日算法可以将等式约束和不等式约束都加到目标函数上，完成求解问题的转换，但是要满足一些约束条件，也就是我们后边要说的kkt条件 。
这里有个细节就是转换时候的加减号问题，这个和目标函数还有约束的正负号有关 。一般这么理解 ， 就是求最小化问题时候，如果约束是大于0的，那么拉个朗日算子可以减到这一部分，这样一来目标函数只能越来越?。?最优解就是约束为0的时候 ， 这个时候和没有约束的等价，再求最小就是原问题了 。
这里是最小化问题，直接减掉这部分约束，然后后半部分永远大于等于0所以这个式子的值是要小于原来目标函数值的 。我们知道当x满足原问题的约束条件的时候，最大化L就等于那个原目标函数 。所以我们可以把这个问题转化为：
把它带回去原来的目标函数中 ， 整理一下 。
这个时候只要求最优的α ， 就可以求出w和b了 。我们上边做了那么一堆转换，这个过程要满足一个叫做kkt条件的东西，其实这个东西就是把一堆约束条件整理到一起 。
（1）原有问题的可行性 ， 即h(x )=0,g(x )0
放到这里就是：
SMO算法的核心思想是求出最优化的α，然后根据之前推导得到的w,b,α之间的关系计算得到w和b，最后的计算公式是：
现在的问题就是怎么求α了 。
SMO算法总共分两部分，一部分是求解两个α的二次规划算法，另一部分是选择两个α的启发式算法 。
先说这个选择α的启发式算法部分：大神可以证明优先优化违反kkt条件的α可以最快获得最优解 ， 至于咋证明的，就先不看了 。
在讲支持向量机的求解算法时候，直接给出了核函数K，那么怎么去理解核函数呢 。核函数的作用是解决样本点在高维空间的内积运算问题，怎么理解呢，通常的分类问题都是有很多个特征的，然后为了达到现线性可分 ， 又会从低维映射到高维 ， 样本量再一多计算量非常大，因此先通过函数进行一个转换，减少乘法的计算量 。
要理解核函数，先理解内积运算 ， 内积运算实际是两个向量，对应位置相乘加和，比如我有x1 = [v1,v2], x2=[w1,w2] ， 那么x1和x2的内积计算方法就是：v1w1 v2w2 。
如果上面那种情况线性不可分，需要到高维进行映射，让数据变得线性可分，然后数据变为五维的，即v1 2 v2 2 v1 v2 v1v2，然后再进行一次内积计算，数据变为。
稍作变换 ， 可以变为，形式展开和上边那个长式子差不多，然后其实可以映射内积相乘的情况，所以可以进行核函数的变化 。
问题在于，当核函数的python实现你需要显式的写出来映射形式的时候 ， 在维度很高的时候，需要计算的量太大 ， 比如x1有三个维度，再进行映射就有19维度了 ， 计算很复杂 。如果用核函数，还是在原来低维度进行运算，既有相似的效果（映射到高维），又低运算量，这就是核函数的作用了 。
核函数的种类：
这部分的核心在于SMO算法的编写 。有待补充 。
如何利用 Python 实现 SVM 模型我先直观地阐述我对SVM的理解，这其中不会涉及数学公式，然后给出Python代码 。
SVM是一种二分类模型，处理的数据可以分为三类：
线性可分，通过硬间隔最大化，学习线性分类器
近似线性可分，通过软间隔最大化，学习线性分类器
线性不可分，通过核函数以及软间隔最大化，学习非线性分类器
线性分类器 ， 在平面上对应直线；非线性分类器，在平面上对应曲线 。
硬间隔对应于线性可分数据集 ， 可以将所有样本正确分类，也正因为如此，受噪声样本影响很大，不推荐 。
软间隔对应于通常情况下的数据集（近似线性可分或线性不可分），允许一些超平面附近的样本被错误分类 ， 从而提升了泛化性能 。
如下图：
实线是由硬间隔最大化得到的，预测能力显然不及由软间隔最大化得到的虚线 。
对于线性不可分的数据集，如下图：
我们直观上觉得这时线性分类器，也就是直线，不能很好的分开红点和蓝点 。
但是可以用一个介于红点与蓝点之间的类似圆的曲线将二者分开，如下图：
我们假设这个黄色的曲线就是圆，不妨设其方程为x^2 y^2=1，那么核函数是干什么的呢？
我们将x^2映射为X，y^2映射为Y，那么超平面变成了X Y=1 。
那么原空间的线性不可分问题，就变成了新空间的（近似）线性可分问题 。
此时就可以运用处理（近似）线性可分问题的方法去解决线性不可分数据集的分类问题 。
---------------------------------------------------------------------------------------------------------------------------
以上我用最简单的语言粗略地解释了SVM，没有用到任何数学知识 。但是没有数学 ， 就体会不到SVM的精髓 。因此接下来我会用尽量简洁的语言叙述SVM的数学思想，如果没有看过SVM推导过程的朋友完全可以跳过下面这段 。
对于求解（近似）线性可分问题：
由最大间隔法，得到凸二次规划问题，这类问题是有最优解的（理论上可以直接调用二次规划计算包 ， 得出最优解）
我们得到以上凸优化问题的对偶问题 ， 一是因为对偶问题更容易求解，二是引入核函数，推广到非线性问题 。
求解对偶问题得到原始问题的解，进而确定分离超平面和分类决策函数 。由于对偶问题里目标函数和分类决策函数只涉及实例与实例之间的内积，即xi,xj 。我们引入核函数的概念 。
拓展到求解线性不可分问题：
如之前的例子，对于线性不可分的数据集的任意两个实例：xi,xj 。当我们取某个特定映射f之后，f(xi)与f(xj)在高维空间中线性可分，运用上述的求解（近似）线性可分问题的方法，我们看到目标函数和分类决策函数只涉及内积f(xi),f(xj) 。由于高维空间中的内积计算非常复杂，我们可以引入核函数K(xi,xj)=f(xi),f(xj)，因此内积问题变成了求函数值问题 。最有趣的是，我们根本不需要知道映射f 。精彩！
我不准备在这里放推导过程，因为已经有很多非常好的学习资料，如果有兴趣，可以看：CS229 Lecture notes
最后就是SMO算法求解SVM问题 ， 有兴趣的话直接看作者论文：Sequential Minimal Optimization:A Fast Algorithm for Training Support Vector Machines
我直接给出代码：SMO SVM
在线性可分数据集上运行结果：
图中标出了支持向量这个非常完美，支持向量都在超平面附近 。
在线性不可分数据集上运行结果（200个样本）：
核函数用了高斯核，取了不同的sigma
sigma=1，有189个支持向量 ， 相当于用整个数据集进行分类 。
sigma=10 ， 有20个支持向量，边界曲线能较好的拟合数据集特点 。
我们可以看到 ， 当支持向量太少，可能会得到很差的决策边界 。如果支持向量太多，就相当于每次都利用整个数据集进行分类，类似KNN 。
Python中怎样编写混合核函数?这个和用不用python没啥关系，是数据来源的问题 。调用淘宝API，使用 api相关接口获得你想要的内容，我 记得api中有相关的接口，你可以看一下接口的说明 。用python做爬虫来进行页面数据的获龋 。
有没有老师了解Python用于Meta分析的工具包Python在科学计算领域核函数的python实现，有两个重要核函数的python实现的扩展模块：Numpy和Scipy 。其中Numpy是一个用python实现的科学计算包 。包括：
一个强大的N维数组对象Array；
比较成熟的（广播）函数库；
用于整合C/C和Fortran代码的工具包；
实用的线性代数、傅里叶变换和随机数生成函数 。
SciPy是一个开源的Python算法库和数学工具包，SciPy包含的模块有最优化、线性代数、积分、插值、特殊函数、快速傅里叶变换、信号处理和图像处理、常微分方程求解和其核函数的python实现他科学与工程中常用的计算 。其功能与软件MATLAB、Scilab和GNU Octave类似 。
Numpy和Scipy常常结合着使用 ， Python大多数机器学习库都依赖于这两个模块，绘图和可视化依赖于matplotlib模块 ， matplotlib的风格与matlab类似 。Python机器学习库非常多，而且大多数开源，主要有：
1.scikit-learn
scikit-learn 是一个基于SciPy和Numpy的开源机器学习模块，包括分类、回归、聚类系列算法，主要算法有SVM、逻辑回归、朴素贝叶斯、Kmeans、DBSCAN等，目前由INRI 资助，偶尔Google也资助一点 。
项目主页：
2.NLTK
NLTK(Natural Language Toolkit)是Python的自然语言处理模块 ， 包括一系列的字符处理和语言统计模型 。NLTK 常用于学术研究和教学，应用的领域有语言学、认知科学、人工智能、信息检索、机器学习等 。NLTK提供超过50个语料库和词典资源，文本处理库包括分类、分词、词干提取、解析、语义推理 。可稳定运行在Windows, Mac OS X和Linux平台上.
项目主页：
3.Mlpy
Mlpy是基于NumPy/SciPy的Python机器学习模块，它是Cython的扩展应用 。包含的机器学习算法有：
l回归
least squares, ridge regression, least angle regression, elastic net, kernel ridge regression, support vector machines (SVM), partial least squares (PLS)
l分类
linear discriminant analysis (LDA), Basic perceptron, Elastic Net, logistic regression, (Kernel) Support Vector Machines (SVM), Diagonal Linear Discriminant Analysis (DLDA), Golub Classifier, Parzen-based, (kernel) Fisher Discriminant Classifier, k-nearest neighbor, Iterative RELIEF, Classification Tree, Maximum Likelihood Classifier
l聚类
hierarchical clustering, Memory-saving Hierarchical Clustering, k-means
l维度约减
(Kernel) Fisher discriminant analysis (FDA), Spectral Regression Discriminant Analysis (SRDA), (kernel) Principal component analysis (PCA)
项目主页：
4.Shogun
Shogun是一个开源的大规模机器学习工具箱 。目前Shogun的机器学习功能分为几个部分：feature表示，feature预处理，核函数表示,核函数标准化，距离表示，分类器表示，聚类方法，分布，性能评价方法 ， 回归方法，结构化输出学习器 。
SHOGUN 的核心由C实现 ， 提供 Matlab、 R、 Octave、 Python接口 。主要应用在linux平台上 。
项目主页：
5.MDP
The Modular toolkit for Data Processing (MDP)，用于数据处理的模块化工具包，一个Python数据处理框架 。
从用户的观点，MDP是能够被整合到数据处理序列和更复杂的前馈网络结构的一批监督学习和非监督学习算法和其核函数的python实现他数据处理单元 。计算依照速度和内存需求而高效的执行 。从科学开发者的观点，MDP是一个模块框架，它能够被容易地扩展 。新算法的实现是容易且直观的 。新实现的单元然后被自动地与程序库的其余部件进行整合 。MDP在神经科学的理论研究背景下被编写，但是它已经被设计为在使用可训练数据处理算法的任何情况中都是有用的 。其站在用户一边的简单性 ， 各种不同的随时可用的算法 ， 及应用单元的可重用性，使得它也是一个有用的教学工具 。
项目主页：
【核函数的python实现的简单介绍】核函数的python实现的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于、核函数的python实现的信息别忘了在本站进行查找喔 。

    推荐阅读


    上一篇：电脑空间小怎么分区硬盘，电脑盘分小了怎么扩展

    下一篇：飞行游戏夜叉攻略，飞行游戏夜叉攻略视频