letní semestr 2012 Katedra pravděpodobnosti a matematické statistiky Matematicko-fyzikální fakulta Univerzity Karlovy Matematická statistika

Transkript

1 Šárka Hudecová Katedra pravděpodobnosti a matematické statistiky Matematicko-fyzikální fakulta Univerzity Karlovy letní semestr 2012

2 Opakování t- vs. neparametrické Wilcoxonův jednovýběrový test

3 Opakování t- vs. neparametrické Wilcoxonův jednovýběrový test Wilcoxonův jednovýběrový test: Situace: X 1,...X n výběr ze spojitého symetrického rozdělení H 0 : m X = m 0, proti H 1 : m X m 0 normální rozdělení jednovýběrový t-test porušení normality jednovýběrový

4 Opakování Wilcoxonův jednovýběrový test Postup test sleduje vzdálenosti (resp. jejich pořadí) pozorování X 1,...,X n od bodu m 0 vyloučíme případy X i = m 0 (a dle toho upravíme n) Y i = X i m 0 uspořádáme Y i dle velikosti sledujeme R + i pořadí Y i za H 0 by součty R + i pro kladná a záporná Y i měly být srovnatelné vezmeme W součet pořadí R + i pro Y i > 0 přesný test asymptotický test založený na statistice Z asymptotický test s korekcí pro spojitost

5 Situace: Párová pozorování (X 1,Y 1 ),...,(X n,y n ), zajímá nás, zda jsou veličiny X a Y co do polohy stejné na každém subjektu měříme dvě veličiny jejich porovnání příklady: věk rodičů, síla stisku levé a pravé ruky, hmotnost před a po dietě,...

6 Situace: Párová pozorování (X 1,Y 1 ),...,(X n,y n ), zajímá nás, zda jsou veličiny X a Y co do polohy stejné na každém subjektu měříme dvě veličiny jejich porovnání příklady: věk rodičů, síla stisku levé a pravé ruky, hmotnost před a po dietě,... Postup zavedeme Z i = X i Y i budeme chtít testovat, zda Z i koĺısají kolem nuly, tj. zda m Z = 0 problém převeden na jednovýběrový případ

7 Postup: mají-li Z 1,...,Z n normální rozdělení t-test porušení normality jednovýběrový předpoklad: Z 1,...,Z n spojité symetrické rozdělení vyloučíme případy Z i = 0 určíme pořadí R + i absolutních hodnot Z i W součet pořadí R + i, kde Z i > 0 testová Z = W n(n+1) 4 n(n+1)(2n+1) 24 za H 0 má Z přibližně N(0,1) rozdělení

8 Příklad porovnání dvou metod učení nazpamět Příklad Porovnání dvou metod učení (poslouchání vs. čtení). studie zahrnující 9 osob pozorování (X i,y i ) chceme vědět, zda je mezi oběma způsoby rozdíl i X i Y i H 0 : rozdělení X a Y je stejné

9 Příklad pokrač. zavedeme rozdíly Z i = X i Y i předpoklad symetrie H 0 : m Z = 0 i Z i Z i R + i W = = 28 Z = W n(n+1) 4 n(n+1)(2n+1) 24 = = 1.4 test: Z < z = 1.96 nelze zamítnout H 0 program R: oprava na spojitost, bere ohled na shody p-hodnota 0.18

10 Situace: dva nezávislé náhodné výběry X 1,...,X n a Y 1,...,Y m, oba ze spojitého rozdělení, chceme testovat (tj. i mediány se rovnají) H 0 : rozdělení X a Y jsou stejná

11 Situace: dva nezávislé náhodné výběry X 1,...,X n a Y 1,...,Y m, oba ze spojitého rozdělení, chceme testovat (tj. i mediány se rovnají) H 0 : rozdělení X a Y jsou stejná Postup uděláme společný (tzv. sdružený) výběr X 1,...,X n,y 1,...,Y m a uspořádáme jej podle velikosti za H 0 jsou výběry X a Y dobře promíchané určíme pořadí v rámci spojeného výběru za H 0 by se průměrná pořadí X a Y neměla velmi lišit

12 vezmeme W součet pořadí X 1,...,X n proti H 0 svědčí velmi velké a velmi malé hodnoty W testová : Z = W n(n+m+1) 2 nm(n+m+1) 12 má za H 0 přibližně N(0,1) rozdělení Test: hypotézu H 0 o shodě rozdělení zamítneme, pokud Z > z 1 α/2 lze uvažovat i jednostranné alternativy

13 Poznámky test se někdy nazývá Mannův-Whitneyův test obecně formulovaná hypotéza: test citlivý zejména vůči posunutí, méně citlivý na nestejný rozptyl při větším počtu shod X i a Y i korekce ve jmenovateli Z existují i přesné postupy (bez použití aproximací)

14 Příklad výnos pšenice Příklad Vliv nového způsobu hnojení na výnos pšenice: 13 poĺı stejné kvality 8 nový způsob, 5 ošetřeno standardně měřeny výnosy v tunách na hektar X i nový způsob: 5.7, 5.5, 4.3, 5.9, 5.2, 5.6, 5.8, 5.1 Y i standardní hnojivo: 5.0, 4.5, 4.2, 5.4, 4.4 Chceme testovat: H 0 : způsob hnojení nemá vliv na výnos pšenice

15 Příklad grafické znázornění dat Vynos psenice [t/ha] novy tradicni Zpusob

16 Příklad řešení Použijeme popsaný postup: W = = 70 testová Z = 70 8(5+8+1) (5+8+1) 12 = Z > z = zamítáme H 0

17 Řešení v programu R R počítá W pořadí Y, zde W = 21 uvádí Mannovu-Whitneyovu statistiku U = mn+ 1 n(n+1) W 2 pak U udává počet případů, kdy X i > Y j > wilcox.test(x,y,correct=f,exact=f) Wilcoxon rank sum test data: x and y W = 34, p-value = alternative hypothesis: true location shift is not equal to 0

18 Shrnutí jeden výběr párová pozorování dva nezávislé výběry normální rozdělení spojité rozdělení jednovýběrový jednovýběrový Wilcoxon t-test párový t-test párový Wilcoxon dvouvýběrový t-test dvouvýběrový Wilcoxon Dále: Testy v binomickém rozdělení jednovýběrová situace dvouvýběrová situace Nyní: srovnání středních hodnot v k výběrech

19 Motivační příklad znečištění řeky Cu pět různých míst na řece vyloveno vždy 7 ryb zjišt ována koncentrace mědi v játrech liší se znečištění řeky na zkoumaných místech? Log(Cu) A B C D E Misto A B C D E Misto

20 Motivační příklad znečištění řeky Místo Cu A B C D E průměr směr.odch Místo log Cu A B C D E průměr směr.odch porovnání středních hodnot 5 náhodných výběrů zobecnění dvouvýběrového t-testu analýza (ANOVA)

21 jednoduchého třídění Situace: k nezávislých náhodných výběrů z normálních rozdělení se shodnými rozptyly Y 11,...,Y 1n1 výběr z N(µ 1,σ 2 ) Y 21,...,Y 2n2 výběr z N(µ 2,σ 2 ). Y k1,...,y knk výběr z N(µ k,σ 2 ) Chceme testovat na hladině α proti H 1 : neplatí H 0. H 0 : µ 1 = µ 2 = = µ k

22 Značení Označíme Y 1 výběrový průměr v 1. výběru Y 2 výběrový průměr v 2. výběru... Y k výběrový průměr v k. výběru Y celkový (společný) výběrový průměr n = n 1 + +n k model nazveme vyvážený, pokud n 1 = n 2 = = n k

23 Celkový součet čtverců Celková variabilita v datech: k n i S T = (Y ij Y ) 2 (celkový součet čtverců) i=1 j=1 log(cu) A B C D E Mista

24 Rozklad součtu čtverců Idea: rozklad celkového součtu čtverců k n i (Y ij Y ) 2 = i=1 j=1 } {{ } S T k n i (Y i Y ) 2 + i=1 } {{ } S A k n i (Y ij Y i ) 2 i=1 j=1 } {{ } S e S T = S A +S e (celková variabilita) = (variabilita mezi) +(variabilita uvnitř)

25 Rozklad součtu čtverců Idea: rozklad celkového součtu čtverců k n i (Y ij Y ) 2 = i=1 j=1 } {{ } S T k n i (Y i Y ) 2 + i=1 } {{ } S A k n i (Y ij Y i ) 2 i=1 j=1 } {{ } S e S T = S A +S e (celková variabilita) = (variabilita mezi) +(variabilita uvnitř) za H 0 pochází všechny výběry z jednoho stejného rozdělení variabilita mezi by měla být menší než variabilita uvnitř do úvahy je třeba brát tzv. stupně volnosti f T = f A +f e (n 1) = (k 1)+(n k)

26 Rozklad součtu čtverců pokrač. (celková variabilita) = (variabilita mezi) +(variabilita uvnitř) k n i k k n i (Y ij Y ) 2 = n i (Y i Y ) 2 + (Y ij Y i ) 2 i=1 j=1 i=1 i=1 j=1 log(cu) A B C D E Mista

27 Testová Máme rovnost Testová S T = S A +S e F A = S A fa S e f e proti H 0 svědčí velké hodnoty F A za H 0 má F A tzv. F-rozdělení s f A = k 1 a f e = n k stupni volnosti H 0 zamítneme, pokud F A F k 1,n k (1 α), kde F k 1,n k (1 α) je 1 α kvantil F k 1,n k rozdělení

28 F-rozdělení f Fisherovo-Snedecorovo rozdělení dva parametry m, n: F m,n rozdělení rozdělení na kladných číslech F(30,30) F(10,5) F(10,20) F(5,10) F(3,10) x

29 Tabulka analýzy variabilita f S S/f F p-hodnota výběry f A = k 1 S A S A /f A F A p reziduální f e = n k S e S e /f e celková f T = n 1 S T S součty čtverců f počet stupňů volnosti S/f průměrné čtverce p-hodnota odpovídající testu H 0 : µ 1 = = µ k

30 Příklad znečištění variabilita f S S/f F p-hodnota místo reziduální celková vyšlo F A = 5.9 > F 4,30 = 2.69 na hladině významnosti 5 % zamítáme H 0, tj. prokázali jsme významný rozdíl ve znečištění

31 Předpoklady metody 1 nezávislost výběrů mělo by být zajištěno provedením (plánem) pokusu předpoklad nelze nahradit 2 normalita dat nutné ověřit, zda Y ij Y i mají normální rozdělení N(0,σ 2 ) pro všechna i,j standardní postupy pro ověření normality vyvážený model není velmi citlivý na porušení při výrazném porušení existují neparametrické postupy 3 shoda rozptylů neformální posouzení směrodatných odchylek : Levenův, Bartlettův vyvážený model není velmi citlivý na porušení

32 Příklad znečištění normalita: Shapirův-Wilkův test: p-hodnota Sample Quantiles Normal Q Q Plot Theoretical Quantiles shoda rozptylů: Levenův test p-hodnota 0.648, Bartlettův test p-hodnota 0.453

33 Mnohonásobná porovnání Příklad znečištění: prokázali jsme, že je statisticky významný rozdíl ve znečištění jednotlivých míst zatím ale nevíme, která místa se od sebe navzájem významně liší metody mnohonásobného porovnání

34 Mnohonásobná porovnání Příklad znečištění: prokázali jsme, že je statisticky významný rozdíl ve znečištění jednotlivých míst zatím ale nevíme, která místa se od sebe navzájem významně liší metody mnohonásobného porovnání Tukeyho metoda které dvojice µ i, µ j se od sebe liší? posouzení rozdílu Y i a Y j : Y i Y j q k,n k (α) S e 2f e ( 1 n i + 1 n j ), kde q k,n k (α) je tabelovaná kritická hodnota.

35 Příklad znečištění Místo A B C D E počet (n i ) průměr (Y i ) q 5,30 (α) = 4.102, S e /f e = kritická mez: ( S e 1 q k,n k (α) + 1 ) = f e n i n j = nejnižší průměr místo D =0.365 na hladině 5 % se od místa D liší všechna další místa s průměrem alespoň místo D se tedy významně liší od A, B a C

36 Příklad obrázek Grafické znázornění Tukeyho porovnání: B A C A D A E A C B D B E B D C E C E D 95% family wise confidence level Differences in mean levels of Misto

37 Poznámky lze složitější modely analýzy vliv více faktorů analýza dvojného třídění, trojnéhop třídění,... existují i další metody mnohonásobného porovnání existují neparametrické postupy, které lze použít při porušení předpokladů ANOVA