Estymator obciążony

Estymator obciążony
Polecane artykuły
Przedział ufności Estymator nieobciążony Regresja liniowa Współczynnik korelacji rang Spearmana Metody statystyczne Test zgodności chi-kwadrat Wariancja Test Shapiro-Wilka Estymacja

Estymator jest oceną parametru populacji. Jeżeli parametr populacji generalnej oznaczymy przez Q, przez Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle Z_n} - funkcję (estymator) wartości zmiennych uzyskanych na podstawie próby:

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle Z_n= f\left (X_1, X_2, X_3....X_n\right)} ,

to konkretna wartość T, jaką zmienna będzie przyjmować, nazywamy oceną punktową parametru Q- czyli wartość estymatora.

Estymator nazywamy obciążonym, jeżeli jego wartość oczekiwana nie jest równa faktycznej wartości parametru populacji generalnej, tj:

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (Z_n)\ne Q}

a wyrażenie

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle b (Z_n)= E (Z_n)- Q}

nazywamy obciążeniem estymatora.(M.Sobczyk, 2005)

Tak więc z estymatorem obciążonym mamy do czynienia jeżeli pomiędzy średnią wartością estymatora a wartością parametru występuje różnica.

Im większa jest ta różnica, tym parametr populacji oszacowany jest z większym błędem systematycznym, nielosowym. Jedynie estymator nieobciążony

pozwala przyjmować założenie, że suma błędów popełnionych przy wielokrotnym (teoretycznie nieskończonym) powtarzaniu szacunku parametru

populacji na podstawie próby jest równa zeru. (Jeżeli Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle b (Z_n)} > 0 to estymator obciążony daje oceny przeciętnie zawyżone w stosunku do szacowanego parametru,

natomiast jeżeli b (Zn) < 0 to estymator obciążony daje oceny przeciętnie zaniżone w stosunku do szacowanego parametru).

TL;DR

Estymator jest oceną parametru populacji. Estymator jest obciążony, jeśli wartość oczekiwana różni się od wartości parametru. Różnica między średnią wartością estymatora a wartością parametru mówi o błędzie systematycznym. Estymator nieobciążony zakłada, że suma błędów przy wielokrotnym szacowaniu parametru jest równa zeru. Przykładem estymatora obciążonego jest estymator wariancji. W przypadku dużych prób estymator wariancji jest asymptotycznie nieobciążony. Estymatory podstawowych parametrów rozkładu jednej zmiennej to średnia arytmetyczna, częstość względna i wariancja.

Dowód na obciążenie estymatora

Nieobciążony estymator wariancji (znajoma jest nam wartość oczekiwana Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle m} ):

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle S^2=\frac{1}{n}\sum_{k=1}^{n}\left (X_k- m\right)^2} Obciążony estymator wariancji (nie wiemy jaka jest wartość oczekiwana Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle m} , więc zastępujemy ją estymatorem Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle \bar{X}} ):

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle S^2=\frac{1}{n}\sum_{k=1}^{n}\left (X_k-\bar{X}\right)^2}

Rozwijając równanie otrzymujemy:

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle S^2=\frac{1}{n}\sum_{k=1}^{n}\left (X_k-\bar{X}+m-m\right)^2=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n}\sum_{k=1}^{n}\left ((X_k-m)-(\bar{X}-m)\right)^2=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n}\sum_{k=1}^{n}\left ((X_k-m)^2+(\bar{X}-m)^2 - 2(X_k-m)(\bar{X}-m)\right)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n}\sum_{k=1}^{n}\left (X_k-m)^2+\frac{1}{n}n (\bar{X}-m)^2 - 2(\bar{X}-m) \frac{1}{n}\sum_{k=1}^{n}(X_k-m\right)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =S^2+(\bar{X}-m)^2- 2(\bar{X}-m)(\frac{1}{n}\sum_{k=1}^{n}X_k-\frac{1}{n}nm)} =

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =S^2+(\bar{X}-m)^2-2((\bar{X}-m)(\bar{X}-m)} =

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =S^2-(\bar{X}-m)^2}

Aby dowiedzieć się, że powyższy estymator jest obciążony musimy zbadać wartość oczekiwaną: Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (S^2)=E (S^2-(\bar{X}-m)^2)}

Można zapisać: Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (S^2)=E (S^2)-E ((\bar{X}-m)^2)}

gdzie Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (S^2)=\sigma^2} to wartość nieobciążonego estymatora wariancji

W celu rozwinięcia wprowadzamy zmienną losową Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle Y} : Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle Y=\frac{1}{n}\sum_{k=1}^{n}X_k}

Zakładamy, że ciąg Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle X_k} jest ciągiem zmiennych losowych niezależnych o jednakowym rozkładzie i parametrach Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle m} oraz Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle \sigma^2} . Założenie to jest prawdziwe, ponieważ ciąg Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle X_k} jest realizacją próby Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle (X1, X2,..., Xn)} Wartość oczekiwania zmiennej losowej Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle Y} : Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (Y)=E (\frac{1}{n}\sum_{k=1}^{n}X_k)}

Na podstawie własności wartości oczekiwanej można powyższe równanie rozwiązać w następujący sposób:

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (Y)=E (\frac{1}{n}\sum_{k=1}^{n}X_k)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n}E (\sum_{k=1}^{n}X_k)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n}\sum_{k=1}^{n}E (X_k)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n}nm=m}

Wariancja losowej Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle Y} : Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle D^2(Y)=D^2(\frac{1}{n}\sum_{k=1}^{n}X_k)}

Rozwijając to równanie otrzymujemy:

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle D^2(Y)=D^2(\frac{1}{n}\sum_{k=1}^{n}X_k)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n^2}D^2(\sum_{k=1}^{n}X_k)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n^2}\sum_{k=1}^{n}D^2(X_k)=}

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle =\frac{1}{n^2}n\sigma^2=\frac{\sigma^2}{n}}

Z powyższych równań można wywnioskować: Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E ((\bar{X}-m)^2)=E ((Y-m)^2)=D^2(Y)=\frac{\sigma^2}{n}}

Podstawiając równania:

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (S^2)=\sigma^2} oraz Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E ((\bar{X}-m)^2)=\frac{\sigma^2}{n}} do Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (S^2)=E (S^2)-E ((\bar{X}-m)^2)}

Otrzymujemy: Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (S^2)=\sigma^2 -(\frac{\sigma^2}{n})} Co pokazuje że wartość oczekiwana obciążonego estymatora jest różna od prawdziwej wartości wariancji: Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E (S^2) \neq \sigma^2} c.n.d (M. Bodjański, 2008)

Przykład

Dla dowolnego rozkładu populacji z wariancją Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle \sigma^2} oraz średnią m., niech statystyki: Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle S^2=\frac{1}{n}\sum_{i=1}^{n}\left (X_i-\bar{X}\right)^2}

będą estymatorami wariancji Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle \sigma^2} w n-elementowej próbie. Można wykazać, że

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E\left (S^2\right)=\sigma^2\frac{n-1}{n}}

oraz

Parser nie mógł rozpoznać (SVG (MathML może zostać włączone przez wtyczkę w przeglądarce): Nieprawidłowa odpowiedź („Math extension cannot connect to Restbase.”) z serwera „https://wikimedia.org/api/rest_v1/”:): {\displaystyle E\left (\bar{S^2}\right) = \sigma^2.}

Oznacza to, że statystyka ${\bar {S^{2}}}$ jest estymatorem nieobciążonym wariancji, natomiast statystyka $S^{2}$ - estymatorem obciążonym wariancji.

Obciążenie estymatora $S^{2}$ wynosi

$b_{n}=E\left(S^{2}\right)$ - $\sigma ^{2}=\sigma ^{2}{\frac {n-1}{n}}-\sigma ^{2}$ = $-\sigma ^{2}{\frac {1}{n}}$

Obciążenie to jest mniejsze od zera, co oznacza, że statystyka $S^{2}$ przeciętnie nie doszacowuje wartości $\sigma ^{2}$ populacji. Ponieważ:

$\lim _{n\rightarrow \infty }b_{n}=\lim _{n\rightarrow \infty }\left(-\sigma ^{2}{\frac {1}{n}}\right)=0$

to oznacza, że statystyka $S^{2}$ jest estymatorem asymptotycznie nieobciążonym (przy dużych próbach obciążenie to nie ma praktycznie znaczenia).

Estymatory podstawowych parametrów

Estymację parametrów rozkładu jednej zmiennej ograniczę do estymacji średniej arytmetycznej, częstości względnej (frakcji) oraz wariancji

populacji generalnej. Wyodrębnię estymację przedziałową tych parametrów w przypadkach dużej próby losowej (n>30) i małej próby losowej (n<30).

Estymatory wymienionych parametrów rozkładów jednej zmiennej są następujące:

1. Estymatorem średniej arytmetycznej populacji generalnej $E\left({\bar {x}}\right)=E(X)$ jest średnia arytmetyczna z próby losowej ${\bar {x}}$,

o rozkładzie normalnym Gaussa- Laplace`a, w przypadku dużej próby i o rozkładzie t Studenta, w przypadku małej próby

2. Estymatorem częstości względnej z populacji generalnej $E\left(w_{i}\right)=p_{i}$ jest częstosć względna (wskaźnik struktury) z próby losowej $w_{i}$

o rozkładzie normalnym Gaussa- Laplace`a w przypadku dużej próby i o rozkładzie dwumianowym Bernouliego- w przypadku małej próby.

3. Estymatorem odchylenia standardowego z populacji generalnej $E\left[S\left(x\right)\right]=\sigma (X)$ jest odchylenie standardowe z próby

losowej S (x) o rozkładzie normalnym Gaussa- Laplace`a w przypadku dużej próby, natomiast estymatorem wariancji z populacji generalnej $E\left[S\left(x\right)\right]=\sigma ^{2}(X)$ w przypadku małej próby jest wariancja z próby $S^{2}$(x) o rozkładzie chi-kwadrat.(M. Krzysztofiak, 1976)

Bibliografia

• Adrian A. (2014) Statystyka i Opracowanie Danych
• Błaszczyński J. (2018) Estymatory - Statystyka i analiza danych 2017/2018
• Bodjański M. (2008) Estymator wariancji - dowód na obciążenie, Problemy techniki uzbrojenia, s. 96
• Krzysztofiak M. (1976) Statystyka, PWE, Warszawa, s. 172
• Sobczyk M. (2005) Statystyka, PWN, Warszawa, s. 141

Autor: Nowacka Bernadeta, Kamil Niemiec