PROBLEMA 2 - PROPIEDADES DE LOS ESTIMADORES

La simulación ayuda a entender y validad las propiedades de los estimadores estadísticos como son. insesgadez, eficiencia y la consistencia principalmente. El siguiente problema permite evidenciar las principales características de un grupo de estimadores propuestos para la estimación de un parámetro asociado a un modelo de probabilidad.

Sean X1, X2, X3 y X4, una muestra aleatoria de tamaño n=4 cuya población la conforma una distribución exponencial con parámetro θ desconocido. Determine las características de cada uno de los siguientes estimadores propuestos:

  • θ1ˆ=(X1 + X2) / 6 + (X3 + X4) / 3

  • θ2ˆ=(X1 + 2 X2 + 3 X3 + 4 X4) / 5

  • θ3ˆ= (X1 + X2 + X3 + X4) / 4 $

  • θ4ˆ=min{X1,X2,X3,X4} + max{X1,X2,X3,X4} / 2

Nota:

  • Genere una muestras de n=20, 50, 100 y 1000 para cada uno de los estimadores planteados.

  • En cada caso evalue las propiedades de insesgadez, eficiencia y consistencia

  • Suponga un valor para el parámetro θ

funciones recomendadas : function(){}, rexp() , data.frame(), apply(), boxplot()

Resultados con diferentes tamaños de muestra:

Genero un código que me cree los estimadores y establezca las simulaciones según el número de repeticiones definidas para evaluar sus propiedades:

library(ggplot2)
set.seed(123)

theta_real <- 4 # Parámetro real θ, es desconocido en el ejercicio, decidí que sea 4

num_repeticiones <- c(20, 50, 100, 1000) # Números de repeticiones deseados

resultados <- data.frame( # Crear un dataframe para almacenar los resultados
  Repeticiones = integer(0),
  Estimador = character(0),
  Insensgadez = numeric(0),
  Eficiencia = numeric(0),
  Consistencia = numeric(0),
  Media= numeric(0)
)


  for (reps in num_repeticiones) {# Genero múltiples repeticiones de tamaño 4 para cada estimador θ
    
    muestra <- matrix(rexp(4 * reps, rate = 1/4), nrow = reps)
  
  # Calculo los estimadores para cada repetición (Con la función rowMeans calculo la media de las filas indicadas de la matriz)
  
    theta1_estimados <- (muestra[, 1] + muestra[, 2]) / 6 + (muestra[, 3] + muestra[, 4]) / 3
    theta2_estimados <- (muestra[, 1] + 2 * muestra[, 2] + 3 * muestra[, 3] + 4 * muestra[, 4]) / 10
    theta3_estimados <- (muestra[, 1] + muestra[, 2] + muestra[, 3] + muestra[, 4]) / 4
    theta4_estimados <- (pmin(muestra[, 1], muestra[, 2], muestra[, 3], muestra[, 4]) + pmax(muestra[, 1], muestra[, 2], muestra[, 3], muestra[, 4])) / 2
    
    
    # Calculo las medias de los estimadores:
  media_theta1 <- mean(theta1_estimados)
  media_theta2 <- mean(theta2_estimados)
  media_theta3 <- mean(theta3_estimados)
  media_theta4 <- mean(theta4_estimados)
  
  
  # Calculo la insesgadez para cada estimador:
  
  insesgadez_theta1 <- mean(theta1_estimados) - theta_real
  insesgadez_theta2 <- mean(theta2_estimados) - theta_real
  insesgadez_theta3 <- mean(theta3_estimados) - theta_real
  insesgadez_theta4 <- mean(theta4_estimados) - theta_real
  
 # Calculo la eficiencia para cada estimador:
  
  eficiencia_theta1 <- var(theta1_estimados)
  eficiencia_theta2 <- var(theta2_estimados)
  eficiencia_theta3 <- var(theta3_estimados)
  eficiencia_theta4 <- var(theta4_estimados)
  
  # Calculo la consistencia para cada estimador:
  
  consistencia_theta1 <- var(theta1_estimados) / reps
  consistencia_theta2 <- var(theta2_estimados) / reps
  consistencia_theta3 <- var(theta3_estimados) / reps
  consistencia_theta4 <- var(theta4_estimados) / reps  
  
  
  # Agrego estos resultados al dataframe
  
   resultados <- rbind(resultados, data.frame(
    Repeticiones = reps,
    Estimador = "θ1",
    Media= media_theta1,
    Insensgadez = insesgadez_theta1,
    Eficiencia = eficiencia_theta1,
    Consistencia = consistencia_theta1
  ))
  
  resultados <- rbind(resultados, data.frame(
    Repeticiones = reps,
    Estimador = "θ2",
    Media= media_theta2,
    Insensgadez = insesgadez_theta2,
    Eficiencia = eficiencia_theta2,
    Consistencia = consistencia_theta2
  ))
  
  resultados <- rbind(resultados, data.frame(
    Repeticiones = reps,
    Estimador = "θ3",
    Media= media_theta3,
    Insensgadez = insesgadez_theta3,
    Eficiencia = eficiencia_theta3,
    Consistencia = consistencia_theta3
  ))
  
  resultados <- rbind(resultados, data.frame(
    Repeticiones = reps,
    Estimador = "θ4",
    Media= media_theta4,
    Insensgadez = insesgadez_theta4,
    Eficiencia = eficiencia_theta4,
    Consistencia = consistencia_theta4
  ))
  }

También puedo tener una representación visual de los resultados:

library(ggplot2)
set.seed(123)

theta_realG <- 4 # Parámetro real θ, es desconocido en el ejercicio, decidí que sea 4

num_repeticionesG <- c(20, 50, 100, 1000) # Números de repeticiones deseados

resultadosG <- data.frame( # Crear un dataframe para almacenar los resultados
  RepeticionesG = integer(0),
  Media= numeric(0)
)

# Crear una lista para almacenar los gráficos
graficos_cajas <- list()

for (reps in num_repeticionesG) {# Genero múltiples repeticiones de tamaño 4 para cada estimador θ
    
    muestraG <- matrix(rexp(4 * reps, rate = 1/4), nrow = reps)
  
    # Calculo los estimadores para cada repetición
    theta1_estimadosG <- (muestraG[, 1] + muestraG[, 2]) / 6 + (muestraG[, 3] + muestraG[, 4]) / 3
    theta2_estimadosG <- (muestraG[, 1] + 2 * muestraG[, 2] + 3 * muestraG[, 3] + 4 * muestraG[, 4]) / 10
    theta3_estimadosG <- (muestraG[, 1] + muestraG[, 2] + muestraG[, 3] + muestraG[, 4]) / 4
    theta4_estimadosG <- (pmin(muestraG[, 1], muestraG[, 2], muestraG[, 3], muestraG[, 4]) + pmax(muestraG[, 1], muestraG[, 2], muestraG[, 3], muestraG[, 4])) / 2

    # Crear un dataframe para cada repetición
    theta1234 <- data.frame(
      RepeticionesG = reps,
      Estimador = c("θ1", "θ2", "θ3", "θ4"),
      Valor_Estimado = c(theta1_estimadosG, theta2_estimadosG, theta3_estimadosG, theta4_estimadosG)
    )

    # Crear el gráfico de cajas y bigotes y almacenarlo en la lista
   grafico_cajas <- ggplot(theta1234, aes(x = as.factor(Estimador), y = Valor_Estimado)) +
      geom_boxplot() +
      labs(title = paste("Comparación de estimadores con n =", reps),
           x = "Estimador",
           y = "Valor Estimado de θ") +
      theme_minimal() +
      geom_hline(yintercept = 4, col = "red")  # Agregar la línea horizontal
      
    graficos_cajas[[as.character(reps)]] <- grafico_cajas
}

# Mostrar los gráficos de cajas y bigotes
for (reps in num_repeticionesG) {
  print(graficos_cajas[[as.character(reps)]])
}

Según lo observado en los gráficos, con 20 repeticiones, el estimador θ1 y θ3 contienen al parámetro entre sus percentiles 25 y 75, el estimador 2 no lo contiene y el extimador θ4, solamente en su límite inferior.

En θ3 parece con menor variabilidad. Observando 50 repeticiones, todas las cajas contienen el valor fijado, con mayor variabilidad el estimador θ2 y θ4, el θ1 también se observa variable. Con 1000 repeticiones, las cajas parecen similares, la mediana del estimador θ4 concuerda con el valor del parámetro (4), el que tiene más variabilidad observada es el θ3.

print(resultados)
##    Repeticiones Estimador    Media  Insensgadez Eficiencia Consistencia
## 1            20        θ1 4.141698  0.141697532   4.354133  0.217706649
## 2            20        θ2 4.087918  0.087917566   3.507508  0.175375399
## 3            20        θ3 4.068516  0.068515572   3.177571  0.158878530
## 4            20        θ4 4.803151  0.803151372   8.331628  0.416581385
## 5            50        θ1 4.124904  0.124904088   3.250885  0.065017700
## 6            50        θ2 4.129552  0.129552387   3.389233  0.067784655
## 7            50        θ3 4.085972  0.085971617   2.812495  0.056249907
## 8            50        θ4 4.548135  0.548134881   4.071023  0.081420459
## 9           100        θ1 3.991821 -0.008179258   4.346341  0.043463412
## 10          100        θ2 4.043760  0.043759565   4.409499  0.044094993
## 11          100        θ3 3.985879 -0.014120648   3.842912  0.038429125
## 12          100        θ4 4.675291  0.675290596   5.679640  0.056796405
## 13         1000        θ1 4.015734  0.015734475   4.705823  0.004705823
## 14         1000        θ2 4.011632  0.011631579   5.088401  0.005088401
## 15         1000        θ3 4.020212  0.020212301   4.401348  0.004401348
## 16         1000        θ4 4.699670  0.699669871   6.766322  0.006766322

Insesgadez:

En relación con la propiedad de insesgadez, este se refiere a cuán cerca está el valor esperado (media) de un estimador del valor real del parámetro que se está estimando (en este caso de 4). Un estimador se considera insesgado si su valor esperado es igual al verdadero valor del parámetro que se está estimando.Un estimador insesgado no tiende a sobreestimar ni subestimar sistemáticamente el parámetro.Se interpreta de la siguiente manera:

  • Una insesgadez cercana a cero, significa que el estimador tiende a proporcionar estimaciones que están muy cerca del valor real del parámetro θ, indica que el estimador no tiene un sesgo sistemático.

  • Una insesgadez positiva, significa que el estimador tiende a sobreestimar el valor real del parámetro θ, tiende a dar valores más altos de θ.

  • Una insesgadez negativa, significa que el estimador tiende a subestimar el valor real del parámetro θ, tiende a dar valores más bajos de θ.

En una simulación con 20 repeticiones, obtuve valores de insesgadez cercanos a 0, lo que no me concuerda con el boxplot, todos los valores son positivos, tendientes a sobre estimar levemente el valor real del parámetro. Un comportamiento similar se observa con los resultados de las 50 simulaciones, el estimador más cercano a cero fue el θ3.

Con una simulación de 100 repeticiones, el θ1 y θ3 tienden a sub estimar el valor real con resultados negativos, sin embargo, son los que más cerca están del valor real. Con 100 repeticiones, se asemejan los resultados de θ1, θ2 y θ3, muy cercanos al valor real, el más alejado es el θ4.

Eficiencia:

La propiedad de eficiencia en estadística se refiere a la precisión o capacidad de un estimador para proporcionar estimaciones con una varianza baja. Un estimador eficiente es aquel que tiene una varianza lo más pequeña posible para una cantidad dada de datos.

n el contexto de tu simulación, donde estás generando estimadores para el parámetro θ a partir de diferentes estimadores, la eficiencia se refiere a qué tan cerca están las estimaciones de cada estimador del valor real del parámetro θ (en tu caso, θ_real = 4) y cómo varían esas estimaciones entre diferentes repeticiones.

Si un estimador es eficiente, significa que, en promedio, tiende a estar cerca del valor real θ_real = 4. Si dos estimadores tienen la misma insesgadez (sesgo) pero uno tiene una varianza menor, el estimador con menor varianza se considerará más eficiente.

Un estimador con alta eficiencia es deseable, ya que proporciona estimaciones precisas con una varianza baja, lo que significa que tiende a dar estimaciones consistentes y cercanas al valor real.

En resumen, una alta eficiencia implica que un estimador es capaz de proporcionar estimaciones precisas y consistentes, lo que es una característica deseable en estadísticas inferenciales.

Teniendo en cuenta los resultados obtenidos de las simulaaciones, encontramos que en 20 repeticiones, encontramos una varianza amplia para todos los estimadores, el que menos varianza tiene es el θ3, teniendo en cuenta que también fue insesgado, para 20 repeticiones, este sería el estimador que más se acerca al parámetro, el que se consideraría insesgado y eficiente.

Con 50 simulaciones, la varianza disminuye en comparacion con las 20 simulaciones, una vez más el θ3, es el estimador que se puede considerar insesgado y eficiente. El estimador θ4 presenta la mayor varianza seguido del θ2.

Con 100 simulaciones, encontré varianzas más grandes que con 50 simulaciones, el estimador θ1 y θ3 eran los más insesgados pero el que tiene menor varianza es el θ3. El θ4 sigue siendo con gran varianza y no tan cerca del parámetro, por lo que para 100 repeticiones, el estimador insesgado y eficiente es el θ3.

En 100 simulaciones, el comportamiento de los estimadores es similar a las 100 simulaciones en cuanto a que son el θ1 y θ3 los que presentan la menor varianza y el θ4 el que está más alejado del parámetro y con mayor varianza. En 100 simulaciones también elijo el estimador θ3 como el insesgado y eficiente.

Consistencia:

La propiedad de consistencia en estadística se refiere a la capacidad de un estimador para converger a medida que aumenta el tamaño de la muestra hacia el valor real del parámetro que se está estimando. En otras palabras, un estimador se considera consistente si, a medida que se recopilan más datos, las estimaciones tienden a acercarse cada vez más al valor real del parámetro.

Interpretación de la consistencia: Un estimador consistente es aquel cuyas estimaciones se vuelven cada vez más precisas y cercanas al valor verdadero del parámetro a medida que se aumenta el tamaño de la muestra, lo que proporciona confianza en la utilidad del estimador para hacer inferencias sobre el parámetro poblacional que se está estimando.

En los resultados obtenidos en las simulaciones, se observa efectivamente cómo cada vez son más consistentes los estimadores, con resultados más cercanos a 0. El Estimador θ1 pasó de una consistencia de 0.2 en 20 simulaciones a 0,004 en 1000 simulaciones. El estimador θ2 pasó de 0.1 en 20 simulaciones a 0.005 en 1000. El estimador θ3 pasó de 0.15 en 20 simulaciones a 0.004 en 1000 repeticiones y el estimador θ4 pasó de 0.41 en 20 simulaciones a 0.006 en 1000 simulaciones.

Según esto, todos los estimadores fueron consistentes, pues a medida que incrementamos las simulaciones, se fue acercando más al valor del parámetro, lo que es indicativo de que son consistentes.

Conclusión:

Teniendo en cuenta todas las propiedades evaluadas, yo me quedaría con el estimador θ3, pues fue el que mostró más insesgadez, mejor eficiencia en todas las simulaciones y también fue consistente.