【2018-09-24】高斯判别分析和逻辑回归

判别模型是构造一个函数f(x)去逼近p(y|x),又称条件概率模型【p(class|context)】生成模型是通过贝叶斯模型p(y|x)=p(x|y)p(y)/p(x)求解p(x|y)p(y)来间接得到p(y|x)【p(class,context)=p(class|context)*p(context)】
(1)逻辑回归LR(生成模型)
逻辑分布:
【2018-09-24】高斯判别分析和逻辑回归
文章图片
密度函数:
【2018-09-24】高斯判别分析和逻辑回归
文章图片
【【2018-09-24】高斯判别分析和逻辑回归】假设离散型随机变量Y的取值集合{1,2,...,K},多项逻辑回归模型:


【2018-09-24】高斯判别分析和逻辑回归
文章图片
(2)高斯判别分析GDA(判别模型)
对X和Y有如下假设:


【2018-09-24】高斯判别分析和逻辑回归
文章图片
概率密度:


【2018-09-24】高斯判别分析和逻辑回归
文章图片

    推荐阅读