Teoría de Normalidad
Everyone believes in the [normal] law of errors: the mathematicians, because they think it is an experimental fact; and the experimenters, because they suppose it is a theorem of mathematics …
Contenido
- Teorema Central del Límite
- Pruebas de Normalidad
- Teorema de Chebyshev
- Cotas
- Ejemplos
Teorema Central del Límite
Introducción
Pre-historia (1783)
En un documento de
7
hojas titulado
Approximatio ad summam teminorum binomi in seriem expansi.
Abraham de Moivre aproxima la siguiente probabilidad:
P(Z = [\frac{n}{2}] + i)=2^{-n}\binom{n}{[\frac{n}{2}] + i}
P(Z=[2n]+i)=2−n([2n]+in)
Que haya exactamente [n/2] + i éxitos en n intentos, con n muy grande.
Primero, obtuvo las siguientes aproximaciones:
\frac{\binom{n}{[\frac{n}{2}]}}{2^i}\approx\frac{2}{\sqrt{2\pi n}}
2i([2n]n)≈2πn2
log\Bigg(\frac{\binom{n}{[\frac{n}{2}] + i}}{\binom{n}{[\frac{n}{2}]}}\Bigg)\approx -2\frac{i^2}{n}
log(([2n]n)([2n]+in))≈−2ni2
Para obtener esta approximación utilizó la expansión en serie de potencias de log(1 +x) y la approximación de Stirling para n!
De aquí es fácil probar que:
P(Z = [\frac{n}{2}] + i)\approx\frac{2}{\sqrt{2\pi n}}e^{-2\frac{i^2}{n}}
P(Z=[2n]+i)≈2πn2e−2ni2
P(Z = [\frac{n}{2}] +i) = 2^{-n}\binom{n}{[\frac{n}{2}]+i}=\frac{2}{\binom{n}{[\frac{n}{2}]}\sqrt{2\pi n}}\binom{n}{[\frac{n}{2}]}e^{-2\frac{i^2}{n}}
P(Z=[2n]+i)=2−n([2n]+in)=([2n]n)2πn2([2n]n)e−2ni2
Z=\displaystyle\sum_{i=1}^n x_i; x_i\sim Bernoullie(\frac{1}{2})
Z=i=1∑nxi;xi∼Bernoullie(21)
Introducción
Historia (1774-1853)
Laplace
P\Bigg(\|\displaystyle\sum_{j=1}^n\lambda_j(\epsilon_j-\mu)\|_1\leq a \sqrt{\displaystyle\sum_{j=1}^n\lambda_j^2}\Bigg) \approx \frac{2}{\sigma\sqrt{2\pi}}\int_0^ae^{-\frac{x^2}{2\sigma^2}}dx
P(∥j=1∑nλj(ϵj−μ)∥1≤aj=1∑nλj2)≈σ2π2∫0ae−2σ2x2dx
Quería probar que la probabilidad de la suma de ángulos de trayectorias de cometas se encontraba dentro de ciertos límites.
1786
Laplace nunca dio cuenta del error de aproximación, en lugar de esto confió ciegamente en el poder de la approximación por series de potencias
"The series converges the faster the more complicated the formula is, such that the procedure is more precise the more it becomes necessary"
- Laplace, 1786
E(n) = \displaystyle\sum_{k=1}^m\frac{B_{2k}}{2k(2k-1)n^{2k-1}}
E(n)=k=1∑m2k(2k−1)n2k−1B2k
Desgraciadamente, en 1811 Legendre probó la divergencia de una serie equivalente a la usada por Laplace en su prueba.
[50G-1.87663G; 50+1.87663]
Afortunadamente, Laplace pudo probar que la suma del ángulo de 97 cometas se encuentra dentro del intervalo:
Rechazando así la hipótesis de que estos se mueven de manera aletoria.
Introducción
Historia (1774-1853)
Poisson
P\Bigg(\gamma\leq \frac{\displaystyle\sum_{n=1}^s(X_n-E(X_n))}{\sqrt{\displaystyle\sum_{n=1}^sVar(X_n)}}\leq \gamma'\Bigg) \approx \frac{1}{\sqrt{\pi}}\int_\gamma^{\gamma'}e^{-u^2}du
P(γ≤n=1∑sVar(Xn)n=1∑s(Xn−E(Xn))≤γ′)≈π1∫γγ′e−u2du
Con una noción primitiva de variable aleatoria, Poisson enunció su versión particular del TCL.
A diferencia de Laplace, Poisson fue conciente de las limitaciones de su método y dio un ejemplo de distribución para el cual su teorema no se cumplía.
f(x) = \frac{1}{\pi(1+x^2)}
f(x)=π(1+x2)1
Introducción
Historia (1774-1853)
Cauchy
Esta es la versión más precisa de todas las vistas hasta este momento. Es rigurosamente equivalente a la actual y además da cuenta del error de aproximación.
\Bigg\|P\Bigg(-v\leq\sum_{j=1}^n\lambda_j\epsilon_j\leq v\Bigg)-\frac{2}{\sqrt{\pi}}\int_0^{\frac{v}{2\sqrt{c\Lambda}}}e^{-\theta^2}d\theta\Bigg\| \leq C_1(n) + C_2(n,v) + C_3(n)
P(−v≤∑j=1nλjϵj≤v)−π2∫02cΛve−θ2dθ≤C1(n)+C2(n,v)+C3(n)
Cauchy no se tomó la molestia de dar una prueba formal... sólo dió un esbozo.
Pero si se tomó la molestia de escribir:
"El análisis por medio del cual él (Laplace) estableció las propiedades del método para el cual uso series de potencias cuya convergencia no fue probada. M. Cauchy lo ha reemplazado por una fórmula exacta y rigurosa".
Introducción
Otras contribuciones
- Gauss: Ley de Errores.
- Hagen, Bessel: Redescubrimiento y Generalización de la ley de Errores Elementales.
- Chebyshev: Problema de Momentos.
- Poincaré: Momentos e Hipótesis de errores elementales.
Teorema Central del Límite
Sean
X_1, X_2,... X_n
X1,X2,...Xn
variables aleatorias iid. Con media 0 y
varianza
\sigma^2_x<\infty
σx2<∞
. Supongamos además que la función
generadora de momentos existe.
M_x(t)
Mx(t)
P.D.
{\frac{1}{\sqrt{n\sigma^2_x}}\displaystyle\sum_{i=1}^nx_i} \sim N(0,1)
nσx21i=1∑nxi∼N(0,1)
n\rightarrow\infty
n→∞
d
d
Teorema Central del Límite
Prueba
S_n=\displaystyle\sum_{i=1}^n X_i
Sn=i=1∑nXi
Definamos
y
Z_n=\frac{S_n}{\sqrt{ n\sigma^2_x}}
Zn=nσx2Sn
entonces
M_{S_n}(t)=\frac{d}{dt}E(e^{S_nt})=\frac{d}{dt}E(e^{S_nt})=\frac{d}{dt}E(\prod e^{x_it})=\prod\frac{d}{dt}E(e^{x_it})=M_x^n(t)
MSn(t)=dtdE(eSnt)=dtdE(eSnt)=dtdE(∏exit)=∏dtdE(exit)=Mxn(t)
Luego
M_{Z_n}(t)=\Bigg(M_x\bigg(\frac{t}{\sigma_x\sqrt{n}}\bigg)\Bigg)^n
MZn(t)=(Mx(σxnt))n
Usando Taylor vemos que:
M_x(s)=M_x(0)+sM'_x(0)+\frac{1}{2}s^2M''_x(0)+O(s^{-2})
Mx(s)=Mx(0)+sMx′(0)+21s2Mx′′(0)+O(s−2)
De aquí se sigue que:
M_x(s)=1+\frac{\sigma^2_x}{2}s^2+O(s^{-2})
Mx(s)=1+2σx2s2+O(s−2)
Haciendo
s=\frac{t}{\sigma_x\sqrt{n}}
s=σxnt
tenemos que:
M_{Z_n}(t)=\bigg(1 + \frac{t^2}{2n}+O(n^{-2})\bigg)^n
MZn(t)=(1+2nt2+O(n−2))n
Entonces
\displaystyle\lim_{n\rightarrow\infty}M_{z_n}(t)=\displaystyle\lim_{n\rightarrow\infty}\bigg(1 +\frac{\frac{t^2}{2}+nO(n^{-2})}{n}\bigg)^n
n→∞limMzn(t)=n→∞lim(1+n2t2+nO(n−2))n
\displaystyle\lim_{n\rightarrow\infty}\bigg(1 +\frac{\frac{t^2}{2}}{n}\bigg)^n
n→∞lim(1+n2t2)n
e^{\frac{t^2}{2}}
e2t2
Teorema Central del Límite
Extensiones
- Independencia
- Varianza finita
- Idénticamente distribuidas
Pruebas de Normalidad
Pruebas Estadísticas
Definiciones
Poder
El poder de una prueba que rechaza una hipótesis H si un estadístico de prueba T cae en la región crítica K se define como:
\theta\rightarrow P(T\in K|\theta)
θ→P(T∈K∣θ)
H:\theta\in\Theta_0
H:θ∈Θ0
Tamaño
El tamaño de una prueba se define como:
\alpha^{*}=\displaystyle\min_{\alpha}\bigg\{\displaystyle\sup_{\theta\in\Theta_0}\{\pi_n(\theta)\}\leq\alpha\bigg\}
α∗=αmin{θ∈Θ0sup{πn(θ)}≤α}
Pruebas de Normalidad
Prueba
\chi^2
χ2
\hat{P}
P^
P^*
P∗
\hat{P}
P^
P^*
P∗
Pruebas de Normalidad
Prueba
\chi^2
χ2
\displaystyle\sum_{i=1}^k\frac{n(P_n(S_j)-\hat{P}(S_j))^2}{\hat{P}(S_j)}
i=1∑kP^(Sj)n(Pn(Sj)−P^(Sj))2
\sim\chi_{k-1}^2
∼χk−12
Rechazamos la hipótesis de que vienen de la misma distribución si este valor excede
\alpha
α
El nivel de confianza de la prueba.
Teorema de Chebyshev
Pafnuty Lvóvich Chebyshev
La unión de la teoría y la práctica proporciona los resultados más provechosos. Con ello, no sólo gana la práctica, sino que también salen beneficiadas las ciencias. La práctica descubre a la teoría nuevos objetivos de investigación o nuevas facetas en los objetos ya conocidos
Teorema de Chebyshev
Para cualquier conjunto de datos de una población o muestra y cualquier constante k mayor a 1, el porcentaje de datos que debe de caer dentro de k desviaciones estándar de cualquier lado de la media es de por lo menos
1-\frac{1}{k^2}
1−k21
Teorema de Chebyshev
Teorema de Chebyshev
Teorema de Chebyshev
\mu
μ
\sigma
σ
Sea y la media y la varianza respectivamente de una variable aleatoria , entonces para cualquier constante positiva k tenemos que:
P(|X-\mu|< k \sigma) \ge 1-\frac{1}{k^2}
P(∣X−μ∣<kσ)≥1−k21
X
X
Cotas
Regla empírica
Regla empírica
Dada una distribución de mediciones que tienen una forma de campana:
El intervalo contiene aproximadamente 68% de las mediciones.
El intervalo contiene aproximadamente 95% de las mediciones.
El intervalo contiene todas o casi todas las mediciones
|\mu-\sigma|
∣μ−σ∣
|\mu-2\sigma|
∣μ−2σ∣
|\mu-3\sigma|
∣μ−3σ∣
Regla empírica
Ejemplos
https://github.com/DennyMtz/CompuStat/tree/master/Normalidad
En R Studio:
shiny::runGitHub('CompuStat','DennyMtz', subdir='Normalidad')
Teoría de Normalidad
Copy of Copy of Teoría de Normalidad
By Luis Roman
Copy of Copy of Teoría de Normalidad
- 256
