maxima verosimilitud

POISSON

Suponga que la función de verosimilitud depende de 𝑘

parámetros 𝑢1, 𝑢2, . . . , 𝑢𝑘. Escoja como estimaciones los valores de los parámetros que maximicen la verosimilitud 𝐿 (𝑦1, 𝑦2 , … , 𝑦𝑛|𝑢1, 𝑢2, … , 𝑢𝑘)

Como la función de probabilidad de Poisson es

P(x,λ)=\(\frac{e−^\lambda*\lambda^x}{x!}\)

la función de verosimilitud para n datos será:

\(L(x1,x2,...,xk,\lambda)=\frac{e^{-\lambda}*\lambda^{x1}}{x!}.\frac{e^{-\lambda}*\lambda^{x2}}{x!}....\frac{e^{-\lambda}*\lambda^{xn}}{x!}\)

Función Log Verosimilitud

\(ln(e^{-\lambda}⋅\lambda^{x1}⋅e^{-\lambda}⋅\lambda^{x2}...e^{-\lambda}⋅\lambda^{xn})=\)

\(n⋅ln(e^{-\lambda})+\Sigma_{i=1}^{k} ln*\lambda^{xi}\)

\(-n\lambda + \lambda n \Sigma_{x=i}^{n}\)

derivamos respecto de \(\lambda\)

\(-n + \frac{\Sigma_{i=1}xi} {\lambda} = 0\)

\(\frac{\Sigma_{i=1}xi} {\lambda} = n\)

\(\lambda= \frac{\Sigma_{x=1}xi} {n} = \overline x\)

library(ggplot2)
L_poisson <- function(n, S){
 function(lambda){
 exp((- lambda*n) )* lambda^S 
 } 
}
xy <- data.frame(x = 0:1, y = 0:1)
verosimilitud_poisson <- ggplot(xy, aes(x = x, y = y)) +
 stat_function(fun = L_poisson(n = 30, S = 20)) +
 xlab(expression(lambda)) +
 ylab(expression(L(lambda))) +
 ggtitle("Función de verosimilitud Exponencial (n=30, S = 20)")
 verosimilitud_poisson

BERNOULLI

\(𝑓_𝑌(𝑦) = 𝑃[𝑌 = 𝑦] = 𝑝^𝑦(1 − 𝑝)^{1−𝑦}\) \(𝐿(𝑦1, 𝑦2, … , 𝑦𝑛|𝑝 ) =𝑝^{y1}(1 − 𝑝)^{1−y1} ⋅ 𝑝^{y2}(1 − 𝑝)^{1−y2} ⋯ 𝑝^{yn}(1 − 𝑝)^{1−𝑦n} = 𝑝∑^{𝑦𝑖}(1 − 𝑝)^{𝑛−∑𝑦i}\) \(ln (𝐿(𝑦1, 𝑦2, … , 𝑦𝑛|𝑝)) = ln (𝑝∑^{𝑦𝑖}(1 − 𝑝)^{𝑛−∑𝑦𝑖}) = ∑𝑦𝑖ln (𝑝)+ (𝑛 − ∑𝑦𝑖)ln (1 − 𝑝)\) \([ln (𝐿(𝑦1, 𝑦2, … , 𝑦𝑛|𝑝 ))]′ =\frac{∑𝑦𝑖}{𝑝}−\frac{𝑛 − ∑𝑦𝑖}{1 − 𝑝}= 0\)\(𝑝̂=\frac{∑yi}{n}\)

L_bernoulli <- function(n, S){
 function(theta){
 theta ^ S * (1 - theta) ^ (n - S)
 } 
}
# log-verosimilitud
l_bernoulli <- function(n, S){
 function(theta){
 S * log(theta) + (n - S) * log(1 - theta)
 } 
}
xy <- data.frame(x = 0:1, y = 0:1)
verosimilitud_ber <- ggplot(xy, aes(x = x, y = y)) +
 stat_function(fun = L_bernoulli(n = 20, S = 12)) +
 xlab(expression(theta)) +
 ylab(expression(L(theta))) +
 ggtitle("Función de verosimilitud Bernoulli (n=20, S = 12)")
log_verosimilitud <- ggplot(xy, aes(x = x, y = y)) +
 stat_function(fun = l_bernoulli(n = 20, S = 12))+
 xlab(expression(theta)) +
 ylab(expression(l(theta))) +
 ggtitle("log-verosimilitud (n=20, S = 12)")

verosimilitud_ber

Geometrica

\(𝑓_𝑌(𝑦) = 𝑃[𝑌 = 𝑦] = 𝑝(1 − 𝑝)^𝑦, 𝑦 = 0,1, ⋯,n\) \(𝐿 (𝑦1, 𝑦2, … , 𝑦𝑛|𝑝 ) = 𝑝(1 − 𝑝)^{𝑦1} ⋅ 𝑝(1 − 𝑝)^{𝑦2} ⋯ 𝑝(1 − 𝑝)^{𝑦n}= 𝑝^𝑛(1 − 𝑝)+(𝑦1+𝑦2+⋯+𝑦𝑛)\) \(ln (𝐿(𝑦1, 𝑦2, … , 𝑦𝑛|𝑝)) = ln (𝑝^𝑛(1 − 𝑝)^{𝑦1+𝑦2+⋯+𝑦𝑛}) = nln(p) +(𝑦1 + 𝑦2 + ⋯ +𝑦𝑛)ln (1− 𝑝)\) \([ln (𝐿(𝑦1, 𝑦2, … , 𝑦𝑛|𝑝 ))]′ =\frac{𝑛}{𝑝}−\frac{(𝑦1 + 𝑦2 + ⋯ + 𝑦𝑛)}{1 −𝑝}= 0\) \(𝑝̂=\frac{𝑛}{∑ 𝑦𝑖 + 𝑛}=\frac{1}{𝑥̅+ 1}\)

L_geom <- function(n, S){
 function(lambda){
 lambda ^n * (1- lambda)^S 
 } 
}
xy <- data.frame(x = 0:1, y = 0:1)
verosimilitud_geom <- ggplot(xy, aes(x = x, y = y)) +
 stat_function(fun = L_geom(n = 20, S = 12)) +
 xlab(expression(lambda)) +
 ylab(expression(L(lambda))) +
 ggtitle("Función de verosimilitud Geometrica (n=20, S = 12)")
verosimilitud_geom 

EXPONENCIAL

\(𝑓_𝑌(𝑦) = 𝑃[𝑌 = 𝑦] = 𝜆𝑒^{−𝜆}\) \(𝐿 (𝑦1, 𝑦2, … , 𝑦𝑛|𝜆 ) = 𝜆𝑒^{−𝜆𝑦1} ⋅ 𝜆𝑒^{−𝜆𝑦2} ⋯ 𝜆𝑒^{−𝜆𝑦𝑛} = 𝜆^𝑛𝑒^{−𝜆(𝑦1+𝑦2+⋯+𝑦𝑛)}\) \(ln (𝐿(𝑦1, 𝑦2, … , 𝑦𝑛|𝜆 )) = ln (𝜆^𝑛𝑒^{−𝜆(𝑦1+𝑦2+⋯+𝑦𝑛)}) = 𝑛𝑙𝑛(𝜆)− 𝜆(𝑦1 + 𝑦2 + ⋯ +𝑦𝑛)ln (𝑒)\) \([ln (𝐿(𝑦1, 𝑦2, … , 𝑦𝑛|𝜆 ))]′ =\frac{𝑛}{𝜆}− ∑𝑦𝑖 = 0\) \(𝜆̂=\frac{𝑛}{∑ 𝑦i}\)

L_exp <- function(n, S){
 function(lambda){
 lambda ^n * exp((- lambda*S) )
 } 
}
xy <- data.frame(x = 0:1, y = 0:1)
verosimilitud_exp <- ggplot(xy, aes(x = x, y = y)) +
 stat_function(fun = L_exp(n = 2, S = 12)) +
 xlab(expression(lambda)) +
 ylab(expression(L(lambda))) +
 ggtitle("Función de verosimilitud Exponencial (n=2, S = 12)")
verosimilitud_exp