401. ANOVA jednoczynnikowa – idea analizy wariancji
W poprzednich lekcjach porównywaliśmy dwie grupy. Gdy jednak badanie obejmuje trzy lub więcej niezależnych grup, wielokrotne wykonywanie testów t prowadzi do narastania ryzyka błędu pierwszego rodzaju. ANOVA jednoczynnikowa jest podstawowym sposobem sprawdzenia, czy średnie kilku grup można uznać za zgodne z jednym wspólnym poziomem, czy też dane wskazują na różnice między grupami. Jej nazwa może być myląca: procedura nie porównuje bezpośrednio samych wariancji jako celu merytorycznego, lecz wykorzystuje rozkład zmienności do testowania różnic średnich.
1. Kiedy stosuje się ANOVA jednoczynnikową?
ANOVA jednoczynnikowa służy do analizy sytuacji, w której mamy:
- jedną zmienną zależną ilościową, na przykład stężenie glukozy, wynik skali depresji, ciśnienie skurczowe albo czas reakcji;
- jeden czynnik grupujący, czyli zmienną jakościową mającą co najmniej trzy poziomy;
- niezależne obserwacje, a więc każda osoba lub jednostka badania należy zasadniczo do jednej grupy.
Przykładowo czynnikiem może być rodzaj programu rehabilitacyjnego z trzema poziomami: program standardowy, program ćwiczeń oporowych i program ćwiczeń aerobowych. Zmienną zależną może być zmiana wyniku sześciominutowego testu marszowego. Pytanie brzmi: czy średnia zmiana wyniku jest taka sama we wszystkich trzech grupach?
W zapisie formalnym hipoteza zerowa ma postać:
H0: μ1 = μ2 = … = μk
Hipoteza alternatywna nie oznacza, że wszystkie średnie muszą się różnić. Brzmi precyzyjniej:
H1: co najmniej dwie średnie populacyjne są różne.
To rozróżnienie jest kluczowe. Istotny wynik ANOVA mówi, że dane są niezgodne z założeniem pełnej równości średnich, ale sam test globalny nie wskazuje jeszcze, które pary grup się różnią.
2. Dlaczego nie wykonywać wielu testów t?
Dla trzech grup można wykonać trzy porównania parami: grupa 1 z 2, 1 z 3 oraz 2 z 3. Dla czterech grup liczba porównań rośnie do sześciu, a dla pięciu do dziesięciu. Ogólny wzór na liczbę porównań parami to:
k(k − 1) / 2
Jeżeli każde porównanie przeprowadzimy przy poziomie α = 0,05, to prawdopodobieństwo uzyskania przynajmniej jednego fałszywie dodatniego wyniku w całym zbiorze analiz może przekroczyć 0,05. Nie należy przy tym interpretować wartości p jako prawdopodobieństwa prawdziwości hipotezy zerowej. Wartość p informuje o zgodności danych z hipotezą zerową przy założeniu modelu i nie jest miarą prawdopodobieństwa, że H0 jest prawdziwa.
ANOVA rozwiązuje pierwszy etap problemu: wykonuje jeden test globalny dotyczący wszystkich średnich. Dopiero gdy istnieje uzasadnienie dla dalszych porównań, można zastosować odpowiednią procedurę post hoc, na przykład test Tukeya, albo wcześniej zaplanowane kontrasty. Takie podejście ogranicza inflację błędu pierwszego rodzaju i porządkuje analizę (Bewick, Cheek i Ball, 2004; Kao i Green, 2008).
3. Główna idea: rozkład całkowitej zmienności
Podstawą ANOVA jest rozdzielenie całkowitej zmienności wyników na dwie części:
- zmienność między grupami – związana z tym, że średnie grupowe różnią się od średniej ogólnej;
- zmienność wewnątrz grup – wynikająca z różnic między osobami należącymi do tej samej grupy, pomiaru, biologicznej różnorodności i innych czynników niewyjaśnionych przez analizowany czynnik.
Niech yij oznacza wynik j-tej osoby w i-tej grupie, ȳi – średnią w grupie i, a ȳ – średnią ogólną. Każde odchylenie wyniku od średniej ogólnej można rozłożyć następująco:
yij − ȳ = (ȳi − ȳ) + (yij − ȳi)
Pierwszy składnik opisuje odchylenie średniej grupowej od średniej ogólnej, a drugi – odchylenie konkretnej obserwacji od średniej własnej grupy. Po podniesieniu odchyleń do kwadratu i zsumowaniu otrzymujemy rozkład sum kwadratów:
SSTotal = SSBetween + SSWithin
- SSTotal – całkowita suma kwadratów, czyli całkowita zmienność wyników wokół średniej ogólnej;
- SSBetween – suma kwadratów między grupami;
- SSWithin – suma kwadratów wewnątrz grup, nazywana także sumą kwadratów błędu lub reszt.
W ANOVA porównuje się nie same sumy kwadratów, lecz ich uśrednione wersje, czyli średnie kwadraty:
MSBetween = SSBetween / (k − 1)
MSWithin = SSWithin / (N − k)
Symbol k oznacza liczbę grup, a N – łączną liczbę obserwacji. Dzielenie przez stopnie swobody pozwala porównywać składniki zmienności w sposób uwzględniający ich wymiar informacyjny.
4. Statystyka F
Statystyka testowa ANOVA ma postać:
F = MSBetween / MSWithin
Jeżeli hipoteza zerowa jest prawdziwa, różnice między średnimi grupowymi powinny być niewielkie w porównaniu ze zróżnicowaniem osób wewnątrz grup. Wtedy licznik i mianownik mają podobny rząd wielkości, a statystyka F jest zwykle bliska 1. Jeżeli średnie grupowe są bardziej od siebie oddalone, licznik rośnie względem mianownika, a wartość F staje się większa.
W klasycznej ANOVA przy spełnieniu założeń statystyka F jest porównywana z rozkładem F o k − 1 i N − k stopniach swobody. Otrzymujemy wartość p. Mała wartość p oznacza, że tak duża dysproporcja między zmiennością między grupami a zmiennością wewnątrz grup byłaby mało zgodna z H0. Nie oznacza natomiast, że wynik jest ważny klinicznie, duży w sensie wielkości efektu ani że analizowany czynnik wywołał obserwowaną różnicę.
5. Przykład liczbowy
Załóżmy, że trzy grupy pacjentów uzyskały następujące wyniki zmiany poziomu bólu po programie edukacyjnym:
| Grupa | Wyniki | Średnia |
|---|---|---|
| A – standardowa edukacja | 2, 3, 4 | 3 |
| B – edukacja z treningiem relaksacyjnym | 5, 6, 7 | 6 |
| C – edukacja z konsultacją indywidualną | 3, 4, 5 | 4 |
Średnia ogólna wynosi 4,33. Średnie grupowe są więc od niej oddalone odpowiednio o około −1,33, 1,67 i −0,33. Zmienność między grupami jest wyraźna, natomiast rozrzut wewnątrz każdej grupy jest niewielki. W rezultacie iloraz MSBetween / MSWithin będzie duży. W praktycznej analizie program statystyczny podałby wartość F, stopnie swobody i wartość p.
Wniosek nie powinien brzmieć: „program B na pewno zmniejsza ból”. Jeżeli badanie było randomizowane i prawidłowo przeprowadzone, można rozważać interpretację przyczynową. Jeżeli jednak grupy powstały z obserwacji pacjentów wybierających różne formy pomocy, ostrożniejszy wniosek brzmi: „średnie zmiany poziomu bólu różniły się między grupami”. Aby określić, które grupy różnią się między sobą, potrzebne są porównania post hoc lub zaplanowane kontrasty.
6. Założenia ANOVA jednoczynnikowej
Niezależność obserwacji
Wyniki poszczególnych osób powinny być niezależne. Naruszeniem tego założenia może być analiza kilku pomiarów tej samej osoby jako odrębnych obserwacji albo ignorowanie grupowania pacjentów w poradniach. W pierwszej sytuacji rozważa się ANOVA z powtarzanymi pomiarami lub model mieszany, a w drugiej – model uwzględniający strukturę klastrową.
Rozkład reszt
W klasycznym modelu zakłada się, że reszty w grupach mają rozkład w przybliżeniu normalny. Nie chodzi o to, aby każda grupa miała idealnie normalne wyniki, lecz aby reszty nie wykazywały silnej asymetrii, ciężkich ogonów ani pojedynczych obserwacji o nadmiernym wpływie. Ocena powinna opierać się na wykresach, wiedzy dziedzinowej i liczebnościach, a nie wyłącznie na mechanicznym teście normalności.
Homogeniczność wariancji
Zakłada się, że wariancje w populacjach grupowych są podobne. Warto obejrzeć wykresy rozrzutu, porównać odchylenia standardowe i rozważyć test Levene’a lub jego odporną wersję. Przy nierównych wariancjach i nierównych liczebnościach klasyczny test F może działać gorzej; alternatywą bywa test Welcha, który nie wymaga przyjęcia równości wariancji (Lix, Keselman i Keselman, 1996).
ANOVA jest metodą dla danych ilościowych, ale nie oznacza to, że można bezrefleksyjnie analizować każdą skalę sumaryczną. W przypadku wyniku silnie skośnego, porządkowego, z licznymi wartościami skrajnymi lub ograniczonego do niewielkiej liczby kategorii należy rozważyć transformację, model odpowiedni dla charakteru wyniku albo test Kruskala–Wallisa. Wybór powinien wynikać z pytania badawczego i konstrukcji danych, nie z samego pragnienia uzyskania istotności.
7. Przykład praktyczny
Badacz zdrowia publicznego chce porównać średni poziom wypalenia zawodowego wśród pielęgniarek pracujących na trzech typach oddziałów: internistycznym, chirurgicznym i ratunkowym. Każda osoba wypełnia tę samą skalę, a wynik traktowany jest jako zmienna ilościowa.
- Najpierw badacz przedstawia liczebności, średnie, odchylenia standardowe i wykresy wyników w każdej grupie.
- Następnie sprawdza, czy obserwacje są niezależne oraz czy nie występują oczywiste problemy z resztami i wariancjami.
- Formułuje H0: średni poziom wypalenia jest taki sam na wszystkich trzech typach oddziałów.
- Wykonuje ANOVA jednoczynnikową albo – przy nierównych wariancjach – test Welcha.
- Jeśli test globalny jest istotny, stosuje porównania skorygowane o wielokrotność, na przykład Tukeya lub Gamesa–Howella, zależnie od założeń.
- Raportuje nie tylko wartość p, lecz także średnie, różnice między grupami, przedziały ufności i miarę wielkości efektu, na przykład η² albo ω².
Przykładowy poprawny opis może brzmieć: „Średni wynik wypalenia różnił się między typami oddziałów, F(2, 147) = 5,84, p = 0,004, η² = 0,074. Analizy post hoc wskazały różnicę między oddziałem ratunkowym a internistycznym; pozostałe porównania nie osiągnęły przyjętego poziomu istotności”. Taki zapis wymaga jeszcze podania średnich, odchyleń standardowych i przedziału ufności dla różnicy. Nie wolno jednak bez dodatkowych przesłanek napisać, że praca na określonym oddziale „powoduje” wypalenie.
8. Najczęstsze błędy
- Wykonywanie wielu testów t bez korekty. Zwiększa to ryzyko fałszywie dodatniego wyniku.
- Interpretowanie istotnej ANOVA jako dowodu, że wszystkie grupy są różne. Test globalny wskazuje tylko, że co najmniej jedna różnica istnieje.
- Wnioskowanie przyczynowe z badania obserwacyjnego. Sama ANOVA nie zmienia schematu badania w eksperyment.
- Raportowanie wyłącznie wartości p. Bez średnich, miar rozrzutu i wielkości efektu nie wiadomo, jak duża i praktycznie ważna jest różnica.
- Mechaniczne traktowanie testu Shapiro–Wilka jako ostatecznego arbitra. Należy analizować także wykresy, reszty, liczebności i wpływ obserwacji odstających.
- Ignorowanie nierównych wariancji i liczebności. W takiej sytuacji warto rozważyć test Welcha i odpowiednie porównania post hoc.
- Analizowanie powtarzanych pomiarów jak danych niezależnych. Prowadzi to do zaniżenia niepewności i błędnych stopni swobody.
9. Co warto zapamiętać?
- ANOVA jednoczynnikowa porównuje średnie co najmniej trzech niezależnych grup.
- Jej idea polega na zestawieniu zmienności między grupami ze zmiennością wewnątrz grup.
- Statystyka F jest ilorazem średniego kwadratu między grupami i średniego kwadratu wewnątrz grup.
- Istotny wynik ANOVA oznacza, że co najmniej dwie średnie różnią się, ale nie wskazuje, które.
- Po teście globalnym potrzebne są właściwie zaplanowane kontrasty lub procedury post hoc.
- Wartość p nie jest prawdopodobieństwem prawdziwości hipotezy zerowej.
- Interpretacja powinna obejmować wielkość efektu, przedziały ufności i znaczenie praktyczne.
- Założenia dotyczą przede wszystkim niezależności obserwacji, rozkładu reszt i porównywalności wariancji.
ANOVA jednoczynnikowa jest więc nie tylko „testem dla trzech grup”. To sposób myślenia o danych: najpierw określamy, jaka część zmienności wiąże się z podziałem na grupy, następnie porównujemy ją z naturalnym zróżnicowaniem wewnątrz grup i dopiero potem formułujemy wniosek. W dalszych lekcjach szkolenia na statystyk.edu.pl rozwiniemy interpretację tabeli ANOVA, wielkości efektu oraz procedur post hoc.
Źródła i dalsza lektura
- Viv Bewick, Liz Cheek, Jonathan Ball (2004). Statistics review 9: One-way analysis of variance. Critical Care, 8(2), 130–136. DOI: 10.1186/cc2836.
- Lillian S. Kao, Charles E. Green (2008). Analysis of Variance: Is There a Difference in Means and What Does It Mean?. Journal of Surgical Research, 144(1), 158–170. DOI: 10.1016/j.jss.2007.02.053.
- Lisa M. Lix, Joanne C. Keselman, H. J. Keselman (1996). Consequences of Assumption Violations Revisited: A Quantitative Review of Alternatives to the One-Way Analysis of Variance F Test. Review of Educational Research, 66(4), 579–619. DOI: 10.3102/00346543066004579.
- NIST/SEMATECH (2003). NIST/SEMATECH e-Handbook of Statistical Methods: One-Way ANOVA. National Institute of Standards and Technology. Źródło.
- Pennsylvania State University (2024). STAT 200: Elementary Statistics, Lesson 10: One-Way ANOVA. The Pennsylvania State University. Źródło.
Jeden komentarz