Standardna greška

Za vrednost koja je uzorkovana sa nepristrasnom normalno raspodeljenom greškom, gore prikazano predstavlja udeo uzoraka koji bi pao između 0, 1, 2 i 3 standardne devijacije iznad i ispod stvarne vrednosti.

Standardna greška (engl. Standard error - SE) statističkog parametra (obično procene parametra) je standardna devijacija njegove distribucije uzorkovanja ili procena tog standardnog odstupanja. Ako je parametar ili statistika srednja vrednost, ona se naziva standardnom greškom srednje vrednosti (engl. standard error of the mean - SEM).

Distribucija uzorka populacione srednje vrednosti se generiše ponovljenim uzorkovanjem i beleženjem dobijenih srednjih vrednosti. Ovo formira distribuciju različitih srednjih vrednosti, i ova distribucija ima svoju srednju vrednosti i varijansu. Matematički, dobijena varijansa distribucije uzorkovanja jednaka je varijansi populacije podeljenoj veličinom uzorka. To je zato što kako se veličina uzorka povećava, srednje vrednosti uzoraka se bliže grupišu oko oko populacione srednje vrednosti. Stoga je odnos između standardne greške i standardne devijacije takav da je za datu veličinu uzorka standardna greška jednaka standardnoj devijaciji podeljenoj sa kvadratnim korenom veličine uzorka. Drugim rečima, standardna greška srednje vrednosti je mera disperzije srednjih vrednosti uzorka oko populacione srednje vrednosti.

U regresijskoj analizi, izraz „standardna greška” odnosi se na kvadratni koren redukovane hi-kvadratne statistike ili na standardnu grešku za dati koeficijent regresije (kao što se koristi, na primer, u intervalima poverenja).

Standardna greška srednje vrednosti

Populacija

Standardna greška srednje vrednosti (SEM) se može izraziti kao:

${\sigma }_{\bar {x}}\ ={\frac {\sigma }{\sqrt {n}}}$

gde je

σ - standardna devijacija populacije.

n - veličina (broj opservacija) uzorka.

Procena

Budući da je populaciona standardna devijacija retko poznata, standardna greška srednje vrednosti obično se procenjuje kao standardna devijacija uzorka podeljena sa kvadratnim korenom veličine uzorka (pod pretpostavkom statističke nezavisnosti vrednosti u uzorku).

${\sigma }_{\bar {x}}\ \approx {\frac {s}{\sqrt {n}}}$

gde je

s - standarcna devijacija uzorka (i.e., procena bazirana na uzorku standardne devijacije populacije), i

n - veličina (broj opservacija) uzorka.

Primer

U onim kontekstima u kojima je standardna greška srednje vrednosti definisana ne kao standardna devijacija srednje vrednosti uzorka, već kao njena procena, ta se procena tipično daje kao njena vrednost. Stoga je uobičajeno da se standardna devijaciju srednje vrednosti alternativno definiše kao:

${\text{s}}_{\bar {x}}\ ={\frac {s}{\sqrt {n}}}$

Standardna devijacija prosečne vrednosti uzorka jednaka je standardnoj devijaciji greške u srednjoj vrednosti uzorka u odnosu na pravu srednju vrednost, jer je srednja vrednost uzorka nepristrani procenjivač. Stoga se standardna greška srednje vrednosti može razumeti i kao standardna devijacija greške u srednjoj vrednosti uzorka u odnosu na pravu srednju vrednost (ili procenu te statistike).

Napomena: standardna greška i standardna devijacija malih uzoraka imaju tendenciju da sistematski potcenjuju populacionu standardnu grešku i standardnu devijaciju: standardna greška srednje vrednosti je pristrani procenjivač populacione standardne greške. Sa n = 2, podcenjivanje je oko 25%, doj je za n = 6, podcenjivanje je samo 5%. Gurland i Tripati (1971) daju korekciju i jednačinu ovog efekta. Sokal i Rohlf (1981) daju jednačinu korekcijskog faktora za male uzorke od n < 20. Pogledajte nepristrasnu procenu standardne devijacije za dalju diskusiju.

Praktični rezultat: Smanjenje neizvesnosti u proceni srednje vrednosti za faktor dva zahteva dobijanje četiri puta više opažanja u uzorku. Ili za smanjenje standardne greške za deset puta potrebno je sto puta više opažanja.

Derivacije

Glavni članak: Variansa § Suma nekoreliranih promenljivih (Bjenemeova formula)

Formula se može izvesti iz varijanse sume nezavisnih randomnih promenljivih.

• Ako su $x_{1},x_{2},\ldots ,x_{n}$ $n$ nezavisnih opservacija iz populacije koja ima srednju vrednost $\mu$ i standardnu devijaciju $\sigma$, onda je $n\sigma ^{2}$ varijansa totala $T=(x_{1}+x_{2}+\cdots +x_{n})$.
• Varijansa od $T/n$ (srednje vrednosti ${\bar {x}}$) je $n\left({\frac {\sigma ^{2}}{n^{2}}}\right)={\frac {\sigma ^{2}}{n}}.$ Alternativno, ${\text{var}}({\frac {T}{n}})={\frac {1}{n^{2}}}{\text{var}}(T)={\frac {1}{n^{2}}}n\sigma ^{2}={\frac {\sigma ^{2}}{n}}.$
• Standardna devijacija od $T/n$ je $\sigma /{\sqrt {n}}$

Nezavisne i identično distribuirane randomne promenljive sa randomnom veličinom uzorka

Postoje slučajevi kada se uzima uzorak, a da se unapred ne zna koliko će opažanja biti prihvatljiva prema nekom kriterijumu. U takvim slučajevima, veličina uzorka N je randomna promenljiva čija varijacija se dodaje varijaciji X, tako da

Var(T) = E(N)Var(X) + Var(N)E²(X).

Ako N ima Puasonovu distribuciju, onda je E(N) = Var(N) sa procenjivačem N=n. Stoga procenjivač za Var(T) postaje nS²_X + nXbar² dajući

standardna greška(Xbar) = √[(S²_X + Xbar²)/n].

Studentova aproksimacija kad je σ vrednost nepoznata

Glavni članak: Studentova t-distribucija § Interval poverenja

U mnogim praktičnim aplikacijama prava vrednost σ nije poznata. Konsekventno, neophodno je da se koristi distribuciju koja uzima u obzir opseg mogućih σ vrednosti. Kada je poznato da je istinska ishodišna distribucija Gausijan, iako sa nepoznatim σ, tada dobijena procenjena distribucija sledi Studentovu t-distribuciju. Standardna greška je standardna devijacija Studentove t-distribucije. T-distribucije se donekle razlikuju od Gausove i variraju u zavisnosti od veličine uzorka. Mali uzorci u izvesnoj meri verovatnije mogu da dovedu do podcenjivanja populacione standardne devijacije i imaju srednju vrednost koja se razlikuje od stvarne populacione srednje vrednosti. Studentova t-distribucija daje verovatnoću ovih događaja s nešto težim repovima u poređenju sa Gausovom. Za procenu standardne greške Studentove t-distribucije dovoljno je da se koristi uzorkovanje standardne devijacije s umjesto σ, i to se može koristiti za izračunavanje intervala poverenja.

Napomena: Studentova raspodela verovatnoće je dobra aproksimacija za Gausovu raspodelu kad je veličina uzorka veća od 100. Za takve uzorke može se koristiti potonja raspodela, koja je znatno jednostavnija.

Vidi još

• Koeficijent varijacije
• Ilustracija centralne granične teoreme
• Verovatna greška
• Ponderisana aritmetička sredina
• Srednja vrednost i kovarijansa uzorka
• Varijansa

Literatura

• Edwards, A.W.F (2002). Pascal's arithmetical triangle: the story of a mathematical idea (2nd изд.). JHU Press. ISBN 0-8018-6946-3. 
• Huygens, Christiaan (1657). De ratiociniis in ludo aleæ (English translation, published in 1714). 
• Blitzstein, Joe; Hwang, Jessica (2014). Introduction to Probability. CRC Press. ISBN 9781466575592. 
• Fristedt, Bert; Gray, Lawrence (1996). A modern approach to probability theory. Boston: Birkhäuser. ISBN 3-7643-3807-5. 
• Kallenberg, Olav (1986). Random Measures (4th изд.). Berlin: Akademie Verlag. ISBN 0-12-394960-2. MR 0854102. 
• Kallenberg, Olav (2001). Foundations of Modern Probability (2nd изд.). Berlin: Springer Verlag. ISBN 0-387-95313-2. 
• Papoulis, Athanasios (1965). Probability, Random Variables, and Stochastic Processes (9th изд.). Tokyo: McGraw–Hill. ISBN 0-07-119981-0. 
• Yates, Daniel S.; Moore, David S; Starnes, Daren S. (2003). The Practice of Statistics (2nd изд.). New York: Freeman. ISBN 978-0-7167-4773-4. Архивирано из оригинала 2005-02-09. г. 
• „Random Variables”. www.stat.yale.edu. Приступљено 2020-08-21. 
• Dekking, Frederik Michel; Kraaikamp, Cornelis; Lopuhaä, Hendrik Paul; Meester, Ludolf Erwin (2005). „A Modern Introduction to Probability and Statistics”. Springer Texts in Statistics (на језику: енглески). ISBN 978-1-85233-896-1. ISSN 1431-875X. doi:10.1007/1-84628-168-7. 
• L. Castañeda; V. Arunachalam; S. Dharmaraja (2012). Introduction to Probability and Stochastic Processes with Applications. Wiley. стр. 67. ISBN 9781118344941. 
• Bertsekas, Dimitri P. (2002). Introduction to Probability. Tsitsiklis, John N., Τσιτσικλής, Γιάννης Ν. Belmont, Mass.: Athena Scientific. ISBN 188652940X. OCLC 51441829. 
• Strang, Gilbert; Borre, Kae (1997). Linear algebra, geodesy, and GPS (на језику: енглески). Wellesley-Cambridge Press. стр. 301. ISBN 9780961408862. 
• Koch, Karl-Rudolf (2013). Parameter Estimation and Hypothesis Testing in Linear Models (на језику: енглески). Springer Berlin Heidelberg. Section 3.2.5. ISBN 9783662039762. 
• Senn, S.; Richardson, W. (1994). „The first t-test”. Statistics in Medicine. 13 (8): 785—803. PMID 8047737. doi:10.1002/sim.4780130802. 
• Hogg RV, Craig AT (1978). Introduction to Mathematical Statistics (4th изд.). New York: Macmillan. ASIN B010WFO0SA. 
• Venables, W. N.; Ripley, B. D. (2002). Modern Applied Statistics with S (Fourth изд.). Springer. 
• Gelman, Andrew; John B. Carlin; Hal S. Stern; Donald B. Rubin (2003). Bayesian Data Analysis (Second изд.). CRC/Chapman & Hall. ISBN 1-58488-388-X. 

Spoljašnje veze

• Mathematica demonstration showing the sampling distribution of various statistics (e.g. Σx²) for a normal population