Tabla de contenido

library(ggplot2)
library(plotly)

Distribuciones de probabilidad

Distribuciones con un intervalo como soporte

Distribución Función Parámetros
Uniforme \(f(x;a,b)=\frac{1}{b-a}I_{[a,b]}(x)\) \(-\infty <a<b<\infty\)
Beta \(f(x;a,b)=\frac{1}{B(a,b)}x^{a-1}(1-x)^{b-1}I_{(0,1)}(x)\) \(a,b>0\)

Distribuciones con soporte los reales positivos

Distribución Función Parámetros
Exponencial \(f_{X}(x;\lambda )=\lambda e^{-\lambda x}I_{[0,\infty)}(x)\) \(\lambda >0\)
Gamma \(f(x;r,\lambda )=\frac{\lambda }{\Gamma (r)}\left( \lambda x\right) ^{r-1}e^{-\lambda x}I_{[0,\infty )}(x)\) \(r,\lambda >0\)
Lognormal \(f(x;\mu ,\sigma )=\frac{1}{x\sqrt{2\pi }\sigma }\exp \left[ -\frac{1}{2\sigma ^{2}}\left( \ln x-\mu \right) ^{2}\right] I_{(0,\infty )}(x)\) \(-\infty <\mu <\infty ,\text{ }\sigma >0\)
Weibull \(f(x,a,b)=abx^{b-1}e^{-ax^{b}}I_{(0,\infty )}(x)\) \(a,b>0\)
Pareto \(f(x,x_{0},\theta )=\frac{\theta }{x_{0}}\left( \frac{x_{0}}{x}\right) ^{\theta +1}I_{(x_{0},\infty )}(x)\) \(x_{0},\theta >0\)
Chi-Cuadrada \(f(x,k)=\frac{1}{\Gamma (k/2)}\left( \frac{1}{2}\right)^{k/2}x^{k/2-1}e^{-(1/2)x}I_{(0,\infty )}(x)\) \(k=1,2,3..\)
Distribución F \(f(x;m,n)=\frac{\Gamma \left( (m+n)/2\right) }{\Gamma \left( m/2\right)\Gamma \left( n/2\right) }\left( \frac{m}{n}\right) ^{m/2}\frac{x^{(m-2)/2}}{\left[ 1+(m/n)x\right] ^{(m+n)/2}}I_{(0,\infty )}(x)\) \(m,n=1,2,...\)

Distribuciones con soporte los reales

Distribución Función Parámetros
Normal \(f(x;\mu ,\sigma )=\frac{1}{\sqrt{2\pi \sigma ^{2}}}e^{-\frac{(x-\mu )^{2}}{2\sigma ^{2}}}I_{(-\infty ,\infty )}(x)\) \(-\infty <\mu <\infty ,\text{ }\sigma >0\)
Cauchy \(f(x;\alpha ,\beta )=\frac{1}{\pi \beta \left[ 1+\left( \frac{x-\alpha }{\beta }\right) ^{2}\right] }I_{(-\infty ,\infty )}(x)\) \(-\infty <\alpha <\infty ,\text{ }\beta >0\)
Doble exponencial \(f(x,\alpha ,\beta )=\frac{1}{2\beta }\exp \left( \frac{-\left\vert x-\alpha \right\vert }{\beta }\right) I_{(-\infty ,\infty )}(x)\) \(-\infty <\alpha <\infty ,\text{ }\beta >0\)
Logística \(f(x;\alpha ,\beta )=\frac{1}{\beta }\frac{\exp \left( \frac{-(x-\alpha )}{\beta }\right) }{\left[ 1+\exp \left( \frac{-(x-\alpha )}{\beta }\right) \right] ^{2}}I_{(-\infty ,\infty )}(x)\) \(-\infty <\alpha <\infty ,\text{ }\beta >0\)
t de Student \(f(x;v)=\frac{\Gamma \left( \frac{v+1}{2}\right)}{\Gamma \left( \frac{v}{2}\right) \sqrt{v\pi }}\left( 1+\frac{x^{2}}{v}\right)^{-\left( \frac{v+1}{2}\right) }I_{(-\infty ,\infty )}(x)\) \(v>0\)

Distribuciones de probabilidad discretas

Distribución Función Parámetros
Uniforme discreta \(f(x;N)=\frac{1}{N}I_{\{1,2,\dots,N\}}(x)\) \(N \in \{1, 2, 3, \dots\}\)
Bernoulli \(f(x;p)=p^{x}(1-p)^{1-x}I_{\{0,1\}}(x)\) \(0 < p < 1\)
Binomial \(f(x;n,p)=\binom{n}{x}p^{x}(1-p)^{n-x}I_{\{0,1,\dots,n\}}(x)\) \(n \in \{1, 2, \dots\}, \text{ } 0 < p < 1\)
Hipergeométrica \(f(x;N,K,n)=\frac{\binom{K}{x}\binom{N-K}{n-x}}{\binom{N}{n}}I_{\{\max(0, n+K-N),\dots,\min(n,K)\}}(x)\) \(N \in \{1,2,\dots\}, \text{ } K \in \{0,\dots,N\}, \text{ } n \in \{1,\dots,N\}\)
Poisson \(f(x;\lambda)=\frac{\lambda^{x}e^{-\lambda}}{x!}I_{\{0,1,2,\dots\}}(x)\) \(\lambda > 0\)
Geométrica \(f(x;p)=p(1-p)^{x-1}I_{\{1,2,3,\dots\}}(x)\) \(0 < p < 1\)
Binomial negativa \(f(x;r,p)=\binom{x-1}{r-1}p^{r}(1-p)^{x-r}I_{\{r,r+1,\dots\}}(x)\) \(r \in \{1, 2, \dots\}, \text{ } 0 < p < 1\)

Distribuciones propias e impripias

En inferencia bayesiana se suelen forzar límites en los parámetros de ciertas familias para construir priors impropios:

Distribución Propia Impropia
Uniforme continua \(-\infty < a < b < \infty\) (intervalo acotado) Cuando \(a \to -\infty\) o \(b \to \infty\), por ejemplo \(f(x) \propto 1\) en \((-\infty, \infty)\) o en \((0, \infty)\).
Uniforme discreta \(N < \infty\) (conjunto finito de valores) Cuando \(N \to \infty\), es decir, \(f(x) \propto 1\) sobre todos los enteros \(\{1, 2, 3, \dots\}\).
Beta \(a > 0, \text{ } b > 0\) Cuando \(a \le 0\) o \(b \le 0\), como el prior de Haldane \(\text{Beta}(0, 0)\) donde \(f(x) \propto x^{-1}(1-x)^{-1}\).
Gamma \(r > 0, \text{ } \lambda > 0\) Cuando \(r \le 0\) o \(\lambda \to 0\), como \(f(x) \propto x^{-1}\) en \((0, \infty)\) (usado como prior impropio para escalas o tasas).
Normal \(\sigma > 0\) finito Cuando \(\sigma \to \infty\) (varianza infinita), convirtiéndose en una constante plana en \((-\infty, \infty)\).

Distribuciones informativas y no informativas

En estadística bayesiana, cualquier distribución de probabilidad puede actuar como informativa o no informativa según los valores que se elijan para sus parámetros. No es el nombre de la distribución lo que la clasifica, sino qué tan concentrada o dispersa está.

Distribuciones No Informativas (Planas o Difusas): Buscan asignar una probabilidad casi igual a todos los valores posibles para no influir en los datos.

Distribuciones Informativas (Concentradas o Específicas): Incorporan conocimiento previo real mediante parámetros ajustados a un rango estrecho y bien definido.

Familia de distribución no Informativa Informativa Qué modela habitualmente
Beta(\(\alpha, \beta\)) \(\text{Beta}(1, 1)\) o \(\text{Beta}(0.5, 0.5)\) \(\text{Beta}(30, 10)\) Probabilidades (\(\theta \in [0, 1]\))
Normal(\(\mu, \sigma\)) \(\text{Normal}(0, 10^4)\) \(\text{Normal}(50, 3)\) Medias o efectos reales
Uniforme(\(a, b\)) \(\text{Uniforme}(0, 1)\) o \((-\infty, \infty)\) \(\text{Uniforme}(0.4, 0.6)\) Rangos acotados
Gamma(\(\alpha, \beta\)) \(\text{Gamma}(0.001, 0.001)\) \(\text{Gamma}(25, 5)\) Tasas o varianzas inversas (\(> 0\))

(Nota: Las débilmente informativas se ubican justo en medio de ambas columnas; por ejemplo, una \(\text{Normal}(0, 10)\) o una \(\text{Beta}(2, 2)\)).

Distribuciones conjuganas y no conjugadas

La propiedad de conjugación pertenece a la pareja formada por una distribución a priori (prior) y una función de verosimilitud (likelihood). Un prior es conjugado cuando la distribución a posteriori resultante pertenece a la misma familia matemática que el prior.

Distribuciones Conjugadas (actúan como prior conjugado):

Verosimilitudes dentro de esquemas conjugados:

Distribuciones no conjugadas (requieren métodos numéricos / MCMC):

Clasificación Distribuciones Rol en el modelo bayesiano
Conjugadas (Priors) Uniforme, Beta, Dirichlet, Gamma, Normal, Normal Multivariada Producen un posterior de la misma familia matemática que el prior.
Verosimilitudes conjugadas Bernoulli, Binomial, Categórica, Multinomial, Exponencial, Poisson Modelan los datos observados que se emparejan con los priors conjugados anteriores.
No Conjugadas Lognormal, Cauchy, t de Student, Doble Exponencial / Laplace No tienen solución analítica cerrada como priors; requieren muestreo MCMC.

En la inferencia bayesiana, una distribución a priori conjugada es aquella que, al combinarse con una función de verosimilitud dada, produce una distribución a posteriori perteneciente a la misma familia de distribuciones que la a priori. Esta conveniencia algebraica implica que la actualización bayesiana puede llevarse a cabo en forma analítica cerrada, sin necesidad de integración numérica ni algoritmos MCMC, requiriendo únicamente una actualización directa de los hiperparámetros de la distribución previa.

Análisis de sensibilidad

Sensibilidad Bayesiana a la distribución a priori

El análisis de sensibilidad en la estadística bayesiana es una técnica que evalúa qué tanto cambian los resultados del modelo (la distribución a posteriori) cuando se modifican las hipótesis de partida o los componentes subjetivos de la distribución a priori.

El análisis de sensibilidad a la distribución a priori bayesiana evalúa en qué medida cambian las conclusiones a posteriori cuando se sustituyen diferentes distribuciones a priori en el mismo modelo. Constituye un diagnóstico crítico para cualquier análisis bayesiano, aportando evidencia de que los resultados reportados están determinados por los datos y no por una elección a priori arbitraria o escasamente justificada.

Análisis de Sensibilidad a los Priors (Distribución A Priori): Evalúa si las creencias previas introducidas en el modelo influyen de manera excesiva o arbitraria en los resultados finales.

• Perturbación discreta (Reajuste manual): Consiste en reestimar el modelo probando distintas familias de distribuciones (por ejemplo, cambiar una Normal por una t de Student o Cauchy) o modificando la escala de los hiperparámetros (duplicar o reducir a la mitad la desviación estándar).

Análisis de sensibilidad:

https://metricgate.com/docs/es/bayesian-sensitivity-prior/

https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2020.608045/full

Método Qué pone a prueba Herramienta habitual en R
Power-Scaling Fuerza del prior y conflicto con datos priorsense
Perturbación discreta Escala y familia del prior brms, rstan
LOO-CV (Pareto \(k\)) Influencia de observaciones individuales loo
Cambio de verosimilitud Sensibilidad a outliers y dispersión brms, cmdstanr

Esto permite que el paquete priorsense evalúe la sensibilidad mediante escalamiento de potencia (power-scaling) sin tener que reajustar el modelo múltiples veces

Problemas en la modelación

Programas

Stan ofrece la mayor estabilidad, diagnóstico estadístico y ecosistema maduro para inferencia bayesiana tradicional, mientras que Julia destaca por su velocidad extrema y flexibilidad en modelos complejos o con ecuaciones diferenciales

Dominios discretos

pmf (Función de masa de probabilidad) \(\text{Bernoulli}(y \mid \theta) = \begin{cases} \theta & \text{si } y = 1 \\ 1 - \theta & \text{si } y = 0 \end{cases}\)
Soporte \(y\): un número entero igual a \(0\) o \(1\)
Parámetro \(\theta\): un número real en el rango de \([0,1]\)
Media \(\theta\)
Varianza \(\theta(1 - \theta)\)
DE (Desviación estándar) \(\sqrt{\theta(1 - \theta)}\)
Tipo de distribución

Esta distribución se utiliza para datos binarios, como el resultado del lanzamiento de una moneda, la decisión de un cliente de comprar un producto o no, y determinar si un medicamento tiene efecto o no.