锐客网

  1. 首页 > 睿知 > it技术 > >

python中knn函数 pythonknn算法( 三 )

IT技术风格


result = []
for i in range(0,m):
resultdistance[0,i] = numpy.vdot(textvector[0],trainingmatrix[i])
resultindices = heapq.nlargest(50,range(0,len(resultdistance[0])),resultdistance[0].take)
for i in resultindices:
result.append(labelvector[i])
number = Counter(result).most_common(1)
print('此数字是',number[0][0],'的可能性是','%.2f%%' % ((number[0][1]/len(result))*100))
def distinguish(filename1,filename2,filename3,size=(32,32)):
# filename1 png，jpg等格式原始图像路径，filename2 原始图像转换成01txt文件路径 ， filename3 资源库路径
pictureconvert(filename1,filename2,size)
compare(filename3,filename2)
url1 = "/Users/wang/Desktop/number.png"
url2 = "/Users/wang/Desktop/number.txt"
traininglibrary = "/Users/wang/Documents/trainingDigits"
distinguish(url1,url2,traininglibrary)
如何用python实现knn算法1. 数据分类：离散型标签 2. 数据回归：连续型标签 近邻算法python中knn函数的准则是：寻找接近新数据点python中knn函数的训练样本的数目python中knn函数 ， 根据训练样本的信息来预测新数据点的某些信息 。
python之k-近邻算法（sklearn版） 上文借用了numpy和pandas等模块自编了k-近邻算法 python之k-近邻算法（非sklearn版），这次借用sklearn轮子来实现一下
数据还是用上篇文章的数据来
上篇文章我们是利用KNN.py中的自编函数panduan在读取数据的过程中来实现的 ， 而这种转变在sklearn中已经有轮子调用了
这里再补充一点：对于类别数据(对于特征值也是适用的),可以分为 标称特征（nominal feature） 和 有序特征(ordinal feature) .
对于我们这里的数据largeDoses，smallDoses，didntLike应该是对应着有序特征
如果在这里'喜欢的类别'本身不带有有序的含义的话，即largeDoses ， smallDoses，didntLike三个类别没有序别之分，可以借用sklearn里的功能
可以看到借用sklearn是比较方便的
但是 。。。。。但是 。。。。以上的0,1,2在算法看来依然是有顺序的，所以我们可以利用 独热编码（one-hot encoding），即创建一个新的虚拟特征（dummy feature）
也可以利用pandas里的功能
————————————————————————————————————
特征缩放（feature scaling）对于除了决策树和随机森林两个算法没用以外 ， 对其他算法和优化算法来讲都是必不可少的
即上篇文章所涉及到的
对于线性模型来讲，标准化更加好，一是符合线性模型对权重的处理，二是保留了异常值的信息
———————————————————————————————————
上篇文章对于此类问题的处理见 datingClassTest 函数
K-近邻算法被称之为 惰性算法，和其他机器学习算法不一样，因为他仅仅是对训练数据集有记忆功能 ， 而不是从训练集中通过学习得到一个判别函数 ， 即不需要训练 ， 看过上篇文章的小伙伴应该会有体会 。缺点是计算复杂度会随着样本数量的增长而呈线性增长，除非数据集中特征数量有限
PyOD主要算法（KNN、IForest 和 MCD）的原理及使用 Python Outlier Detection（PyOD）是当下最流行python中knn函数的Python异常检测工具库（toolkit） 。该工具库的主要亮点包括python中knn函数：
对于特征空间中的一个样本，如果与之最相似的（即特征空间中距离最近的）k个样本中的大多数都属于某一类别，则该样本的分类结果也是这个类别 。
① 什么叫做KD_tree
K：K邻近查询中的k；D：空间是D维空间（Demension）tree：二叉树

推荐阅读


上一篇：电脑画面渐进是什么原因，电脑画面渐进是什么原因呢

下一篇：首次开直播素材，第一次开直播应该怎么写标题