11.|11. 分类算法-逻辑回归

逻辑回归 逻辑回归是解决二分类问题的利器
逻辑回归公式 11.|11. 分类算法-逻辑回归
文章图片
image.png sklearn逻辑回归的API sklearn.linear_model.LogisticRegression
sklearn.linear_model.LogisticRegression(penalty=‘l2’, C = 1.0)
Logistic:回归分类器
coef_:回归系数
LogisticRegression总结 应用:广告点击率预测、电商购物搭配推荐
优点:适合需要得到一个分类概率的场景
缺点:当特征空间很大时,逻辑回归的性能不是很好(看硬件能力)
非监督学习 k-means(聚类)
k-means步骤
1、随机设置K个特征空间内的点作为初始的聚类中心
2、对于其他每个点计算到K个中心的距离,未知的点选择最近的一个聚类中心点作为标记类别
3、接着对着标记的聚类中心之后,重新计算出每个聚类的新中心点(平均值)
4、如果计算得出的新中心点与原中心点一样,那么结束,否则重新进行第二步过程
k-means API
sklearn.cluster.KMeans
sklearn.cluster.KMeans(n_clsters=8,init=‘k-means++’)
n_clusters:开始的聚类中心数量
init:初始化方法,默认为'k-means ++’
labels_:默认标记的类型,可以和真实值比较(不是值比较)
Kmeans性能评估指标API
API
sklearn.metrics.silhouette_score
sklearn.metrics.silhouette_score(X, labels)
计算所有样本的平均轮廓系数
X:特征值
labels:被聚类标记的目标值
轮廓系数:
11.|11. 分类算法-逻辑回归
文章图片
image.png 注:对于每个点i为已聚类数据中的样本,bi为i到其它族群的所有样本的距离最小值,ai为i到本身族的距离平均值。最终计算出所有的样本点的轮廓系数平均值
Kmeans总结
【11.|11. 分类算法-逻辑回归】特点分析:
采用迭代式算法,直观易懂并且非常实用
缺点:
容易收敛到局部最优解(多次聚类)
需要预先设定簇的数量(k-means++解决)

    推荐阅读