人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)

【人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)】1.本节大纲:
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片

人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


2.确定概率密度函数(概率质量函数):
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


(推出两种形式来:)
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


(用ln将累乘转化为累加:得到最终式子1)
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


(得到最终式子2:)
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片

人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


用信息论的方法来进行求解:
(信息熵)
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


(交叉熵):
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片

人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片

人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片

人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片

人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


(也得出同样的结论:)
人工智能|西瓜书《机器学习》第三章重点总结(中2,对数几率回归)
文章图片


    推荐阅读