拓端tecdat|拓端tecdat|使用R语言做极大似然估计实例拓端tecdat|使用R语言做极大似然

原文链接：http://tecdat.cn/?p=18970 在普遍的理解中，最大似然估计是使用已知的样本结果信息来反向推断最有可能导致这些样本结果的模型参数值！
换句话说，最大似然估计提供了一种在给定观测数据的情况下评估模型参数的方法，即“模型已确定且参数未知”。
在所有双射函数的意义上，极大似然估计是不变的
文章图片
，如果
文章图片
是
文章图片
的极大似然估计
文章图片
。
让
文章图片
，
文章图片
等于
文章图片
中的似然函数。由于
文章图片
是的最大似然估计
文章图片
，

文章图片

因此，
文章图片
是
文章图片
的最大似然估计。
例如，伯努利分布为
文章图片
，
文章图片

文章图片

给定样本
文章图片
，概率是

文章图片

则对数似然

文章图片

与ICI

文章图片

因此，一阶条件

文章图片

何时满足
文章图片
。为了说明，考虑以下数据

> X \[1\] 0 0 1 1 0 1 1 1 1 0 0 0 1 0 1

（负）对数似然

> loglik=function(p){ + -sum(log(dbinom(X,size=1,prob=p))) + }

我们可以在下面看到

> plot(u,v,type="l",xlab="",ylab="")

文章图片

根据以上计算，我们知道的极大似然估计

文章图片
是

> mean(X) \[1\] 0.53

数值为

$par \[1\] 0.53$value \[1\] 10.36$counts function gradient 20 NA$convergence \[1\] 0$message NULL

我们没有说优化是在区间内

文章图片
。但是，我们的概率估计值属于

文章图片
。为了确保最优值在

文章图片
，我们可以考虑一些约束优化程序

ui=matrix(c(1,-1),2,1), ci=c(0,-1) $par \[1\] 0.53$value \[1\] 10.36$counts function gradient 20 NA$convergence \[1\] 0$message NULL$outer.iterations \[1\] 2$barrier.value \[1\] 6.91e-05

在上一张图中，我们达到了对数似然的最大值

> abline(v=opt$par,col="red")

【拓端tecdat|拓端tecdat|使用R语言做极大似然估计实例】

文章图片

另一种方法是考虑

文章图片
（如指数分布）。则对数似然

文章图片

文章图片

这里

文章图片

因此，一阶条件

文章图片

满足

文章图片

即

文章图片

从数值角度来看，我们有相同的最优值

(opt=optim(0,loglik)) $par \[1\] 0.13$value \[1\] 10.36$counts function gradient 20 NA$convergence \[1\] 0$message NULL> exp(opt$par)/(1+exp(opt$par)) \[1\] 0.53

文章图片

最受欢迎的见解
1.Matlab马尔可夫链蒙特卡罗法（MCMC）估计随机波动率（SV，Stochastic Volatility）模型
2.基于R语言的疾病制图中自适应核密度估计的阈值选择方法
3.WinBUGS对多元随机波动率模型：贝叶斯估计与模型比较
4.R语言回归中的hosmer-lemeshow拟合优度检验
5.matlab实现MCMC的马尔可夫切换ARMA – GARCH模型估计
6.R语言区间数据回归分析
7.R语言WALD检验 VS 似然比检验
8.python用线性回归预测股票价格
9.R语言如何在生存分析与Cox回归中计算IDI，NRI指标