Teoría de Normalidad
Everyone believes in the [normal] law of errors: the mathematicians, because they think it is an experimental fact; and the experimenters, because they suppose it is a theorem of mathematics …
Contenido
- Teorema Central del Límite
- Pruebas de Normalidad
- Teorema de Chebyshev
- Cotas
- Ejemplos
Teorema Central del Límite
Introducción
Pre-historia (1783)
En un documento de
7
hojas titulado
Approximatio ad summam teminorum binomi in seriem expansi.
Abraham de Moivre aproxima la siguiente probabilidad:
P(Z = [\frac{n}{2}] + i)=2^{-n}\binom{n}{[\frac{n}{2}] + i}
P(Z=[2n]+i)=2−n([2n]+in)
Que haya exactamente [n/2] + i éxitos en n intentos, con n muy grande.
Primero, obtuvo las siguientes aproximaciones:
\frac{\binom{n}{[\frac{n}{2}]}}{2^i}\approx\frac{2}{\sqrt{2\pi n}}
2i([2n]n)≈2πn2
log\Bigg(\frac{\binom{n}{[\frac{n}{2}] + i}}{\binom{n}{[\frac{n}{2}]}}\Bigg)\approx -2\frac{i^2}{n}
log(([2n]n)([2n]+in))≈−2ni2
Para obtener esta approximación utilizó la expansión en serie de potencias de log(1 +x) y la approximación de Stirling para n!
De aquí es fácil probar que:
P(Z = [\frac{n}{2}] + i)\approx\frac{2}{\sqrt{2\pi n}}e^{-2\frac{i^2}{n}}
P(Z=[2n]+i)≈2πn2e−2ni2
P(Z = [\frac{n}{2}] +i) = 2^{-n}\binom{n}{[\frac{n}{2}]+i}=\frac{2}{\binom{n}{[\frac{n}{2}]}\sqrt{2\pi n}}\binom{n}{[\frac{n}{2}]}e^{-2\frac{i^2}{n}}
P(Z=[2n]+i)=2−n([2n]+in)=([2n]n)2πn2([2n]n)e−2ni2
Z=\displaystyle\sum_{i=1}^n x_i; x_i\sim Bernoullie(\frac{1}{2})
Z=i=1∑nxi;xi∼Bernoullie(21)
Introducción
Historia (1774-1853)
Laplace
P\Bigg(\|\displaystyle\sum_{j=1}^n\lambda_j(\epsilon_j-\mu)\|_1\leq a \sqrt{\displaystyle\sum_{j=1}^n\lambda_j^2}\Bigg) \approx \frac{2}{\sigma\sqrt{2\pi}}\int_0^ae^{-\frac{x^2}{2\sigma^2}}dx
P(∥j=1∑nλj(ϵj−μ)∥1≤aj=1∑nλj2)≈σ2π2∫0ae−2σ2x2dx
Quería probar que la probabilidad de la suma de ángulos de trayectorias de cometas se encontraba dentro de ciertos límites.
1786
Laplace nunca dio cuenta del error de aproximación, en lugar de esto confió ciegamente en el poder de la approximación por series de potencias
"The series converges the faster the more complicated the formula is, such that the procedure is more precise the more it becomes necessary"
- Laplace, 1786
E(n) = \displaystyle\sum_{k=1}^m\frac{B_{2k}}{2k(2k-1)n^{2k-1}}
E(n)=k=1∑m2k(2k−1)n2k−1B2k
Desgraciadamente, en 1811 Legendre probó la divergencia de una serie equivalente a la usada por Laplace en su prueba.
[50G-1.87663G; 50+1.87663]
Afortunadamente, Laplace pudo probar que la suma del ángulo de 97 cometas se encuentra dentro del intervalo:
Rechazando así la hipótesis de que estos se mueven de manera aletoria.
Introducción
Historia (1774-1853)
Poisson
P\Bigg(\gamma\leq \frac{\displaystyle\sum_{n=1}^s(X_n-E(X_n))}{\sqrt{\displaystyle\sum_{n=1}^sVar(X_n)}}\leq \gamma'\Bigg) \approx \frac{1}{\sqrt{\pi}}\int_\gamma^{\gamma'}e^{-u^2}du
P(γ≤n=1∑sVar(Xn)n=1∑s(Xn−E(Xn))≤γ′)≈π1∫γγ′e−u2du
Con una noción primitiva de variable aleatoria, Poisson enunció su versión particular del TCL.
A diferencia de Laplace, Poisson fue conciente de las limitaciones de su método y dio un ejemplo de distribución para el cual su teorema no se cumplía.
f(x) = \frac{1}{\pi(1+x^2)}
f(x)=π(1+x2)1
Introducción
Historia (1774-1853)
Cauchy
Esta es la versión más precisa de todas las vistas hasta este momento. Es rigurosamente equivalente a la actual y además da cuenta del error de aproximación.
\Bigg\|P\Bigg(-v\leq\sum_{j=1}^n\lambda_j\epsilon_j\leq v\Bigg)-\frac{2}{\sqrt{\pi}}\int_0^{\frac{v}{2\sqrt{c\Lambda}}}e^{-\theta^2}d\theta\Bigg\| \leq C_1(n) + C_2(n,v) + C_3(n)
P(−v≤∑j=1nλjϵj≤v)−π2∫02cΛve−θ2dθ≤C1(n)+C2(n,v)+C3(n)
Cauchy no se tomó la molestia de dar una prueba formal... sólo dió un esbozo.
Pero si se tomó la molestia de escribir:
"El análisis por medio del cual él (Laplace) estableció las propiedades del método para el cual uso series de potencias cuya convergencia no fue probada. M. Cauchy lo ha reemplazado por una fórmula exacta y rigurosa".
Introducción
Otras contribuciones
- Gauss: Ley de Errores.
- Hagen, Bessel: Redescubrimiento y Generalización de la ley de Errores Elementales.
- Chebyshev: Problema de Momentos.
- Poincaré: Momentos e Hipótesis de errores elementales.
Teroma Central del Límite
Sean
X_1, X_2,... X_n
X1,X2,...Xn
variables aleatorias iid. Con media 0 y
varianza
\sigma^2_x<\infty
σx2<∞
. Supongamos además que la función
generadora de momentos existe.
M_x(t)
Mx(t)
P.D.
{\frac{1}{\sqrt{n\sigma^2_x}}\displaystyle\sum_{i=1}^nx_i} \sim N(0,1)
nσx21i=1∑nxi∼N(0,1)
n\rightarrow\infty
n→∞
d
d
Teroma Central del Límite
Prueba
S_n=\displaystyle\sum_{i=1}^n X_i
Sn=i=1∑nXi
Definamos
y
Z_n=\frac{S_n}{\sqrt{ n\sigma^2_x}}
Zn=nσx2Sn
entonces
M_{S_n}(t)=\frac{d}{dt}E(e^{S_nt})=\frac{d}{dt}E(e^{S_nt})=\frac{d}{dt}E(\prod e^{x_it})=\prod\frac{d}{dt}E(e^{x_it})=M_x^n(t)
MSn(t)=dtdE(eSnt)=dtdE(eSnt)=dtdE(∏exit)=∏dtdE(exit)=Mxn(t)
Luego
M_{Z_n}(t)=\Bigg(M_x\bigg(\frac{t}{\sigma_x\sqrt{n}}\bigg)\Bigg)^n
MZn(t)=(Mx(σxnt))n
Usando Taylor vemos que:
M_x(s)=M_x(0)+sM'_x(0)+\frac{1}{2}s^2M''_x(0)+O(s^{-2})
Mx(s)=Mx(0)+sMx′(0)+21s2Mx′′(0)+O(s−2)
De aquí se sigue que:
M_x(s)=1+\frac{\sigma^2_x}{2}s^2+O(s^{-2})
Mx(s)=1+2σx2s2+O(s−2)
Haciendo
s=\frac{t}{\sigma_x\sqrt{n}}
s=σxnt
tenemos que:
M_{Z_n}(t)=\bigg(1 + \frac{t^2}{2n}+O(n^{-2})\bigg)^n
MZn(t)=(1+2nt2+O(n−2))n
Entonces
\displaystyle\lim_{n\rightarrow\infty}M_{z_n}(t)=\displaystyle\lim_{n\rightarrow\infty}\bigg(1 +\frac{\frac{t^2}{2}+nO(n^{-2})}{n}\bigg)^n
n→∞limMzn(t)=n→∞lim(1+n2t2+nO(n−2))n
\displaystyle\lim_{n\rightarrow\infty}\bigg(1 +\frac{\frac{t^2}{2}}{n}\bigg)^n
n→∞lim(1+n2t2)n
e^{\frac{t^2}{2}}
e2t2
Teroma Central del Límite
Extensiones
- Independencia
- Varianza finita
- Idénticamente distribuidas
Pruebas de Normalidad
Pruebas Estadísticas
Definiciones
Poder
El poder de una prueba que rechaza una hipótesis H si un estadístico de prueba T cae en la región crítica K se define como:
\theta\rightarrow P(T\in K|\theta)
θ→P(T∈K∣θ)
H:\theta\in\Theta_0
H:θ∈Θ0
Tamaño
El tamaño de una prueba se define como:
\alpha^{*}=\displaystyle\min_{\alpha}\bigg\{\displaystyle\sup_{\theta\in\Theta_0}\{\pi_n(\theta)\}\leq\alpha\bigg\}
α∗=αmin{θ∈Θ0sup{πn(θ)}≤α}
Pruebas de Normalidad
Prueba
\chi^2
χ2
\hat{P}
P^
P^*
P∗
\hat{P}
P^
P^*
P∗
Pruebas de Normalidad
Prueba
\chi^2
χ2
\displaystyle\sum_{i=1}^k\frac{n(P_n(S_j)-\hat{P}(S_j))^2}{\hat{P}(S_j)}
i=1∑kP^(Sj)n(Pn(Sj)−P^(Sj))2
\sim\chi_{k-1}^2
∼χk−12
Rechazamos la hipótesis de que vienen de la misma distribución si este valor excede
\alpha
α
El nivel de confianza de la prueba.
Teorema de Chebyshev
Cotas
Ejemplos
Teoría de Normalidad
Teoría de Normalidad
By Luis Roman
Teoría de Normalidad
- 1,675
