404. Założenia jednoczynnikowej ANOVA
Jednoczynnikowa analiza wariancji, czyli one-way ANOVA, służy do porównania średnich w co najmniej trzech grupach zdefiniowanych przez jedną zmienną jakościową. Samo obliczenie statystyki F nie gwarantuje jednak poprawnego wnioskowania. Wynik testu zależy od planu badania, jakości danych i spełnienia – albo przynajmniej rozsądnej oceny – założeń modelu. W tej lekcji, stanowiącej część publicznego szkolenia metodologicznego na statystyk.edu.pl, uporządkujemy te założenia od podstaw.
1. Co właściwie zakłada jednoczynnikowa ANOVA?
Załóżmy, że badacz porównuje średnie wartości zmiennej ilościowej Y w k grupach. Grupy mogą odpowiadać na przykład trzem metodom leczenia, czterem poziomom obciążenia pracą albo pięciu kategoriom statusu społeczno-ekonomicznego. Klasyczny model jednoczynnikowej ANOVA można zapisać następująco:
Yij = μ + τi + εij
Yij– wynik j-tej osoby lub obserwacji w i-tej grupie;μ– średnia ogólna, czyli średni poziom wyniku w całym badaniu;τi– efekt przynależności do i-tej grupy, rozumiany jako odchylenie średniej tej grupy od średniej ogólnej;εij– składnik losowy, czyli część wyniku niewyjaśniona przez przynależność do grupy.
W klasycznej wersji przyjmuje się, że składniki losowe są niezależne, mają średnią równą zero, wspólną wariancję oraz rozkład normalny. Ważne jest jednak precyzyjne rozumienie tego zapisu: normalność dotyczy przede wszystkim reszt modelu, a nie mechanicznie surowych wyników w każdej grupie. W praktyce diagnostyka powinna obejmować wykresy danych, reszt i wartości dopasowanych, a nie tylko pojedynczy test normalności.
2. Najważniejsze założenia
2.1. Zmienna zależna powinna być ilościowa
Jednoczynnikowa ANOVA porównuje średnie, dlatego zmienna zależna powinna mieć sensowną interpretację ilościową. Typowymi przykładami są: stężenie glukozy we krwi, ciśnienie skurczowe, czas reakcji, wynik skali psychologicznej lub liczba punktów w teście.
Nie oznacza to, że każda zmienna zapisana liczbowo nadaje się do ANOVA. Liczba rozpoznań, liczba hospitalizacji albo liczba zdarzeń w określonym czasie jest zmienną zliczeniową. Często ma ona rozkład skośny i wariancję zależną od średniej, dlatego może wymagać modelu Poissona, ujemnego dwumianu albo innego modelu dla danych zliczeniowych. Z kolei pojedyncza odpowiedź „tak/nie” nie jest zmienną ciągłą.
2.2. Czynnik powinien mieć kategorie
W jednoczynnikowej ANOVA jedna zmienna niezależna jest czynnikiem kategorialnym. Może mieć dwa poziomy, ale klasycznie ANOVA jest szczególnie użyteczna przy trzech lub większej liczbie grup. Przykładowo czynnik „rodzaj interwencji” może obejmować edukację standardową, edukację rozszerzoną i edukację z telemonitoringiem.
Jeżeli zmienna niezależna jest w istocie ilościowa, sztuczne dzielenie jej na kategorie może prowadzić do utraty informacji i zniekształcenia zależności. W takim przypadku lepsza może być regresja liniowa, analiza kowariancji albo model z nieliniowym składnikiem.
2.3. Niezależność obserwacji
Niezależność oznacza, że wynik jednej obserwacji nie jest systematycznie zależny od wyniku innej obserwacji, poza zależnością wyjaśnioną przez model. To założenie wynika przede wszystkim z planu badania, a nie z testu statystycznego.
Przykładowo, jeżeli każdy pacjent uczestniczy tylko w jednym ramieniu badania i pomiary pochodzą od różnych osób, niezależność między grupami może być wiarygodna. Jeżeli natomiast tych samych pacjentów mierzono przed leczeniem i po leczeniu, obserwacje są zależne. Nie jest to sytuacja dla klasycznej ANOVA dla grup niezależnych; trzeba rozważyć analizę powtarzanych pomiarów, model mieszany albo inną metodę uwzględniającą korelację.
Podobny problem występuje, gdy dane pochodzą od pacjentów z tych samych oddziałów, uczniów z tych samych szkół lub mieszkańców tych samych gmin. Osoby w obrębie klastra mogą być do siebie bardziej podobne niż osoby z różnych klastrów. Wtedy klasyczna ANOVA może zaniżać błąd standardowy. Odpowiednim rozwiązaniem może być model wielopoziomowy, analiza z błędami skorygowanymi dla klastrów albo agregacja danych – zależnie od pytania badawczego.
2.4. Normalność reszt
W modelu klasycznym zakłada się, że składniki losowe mają rozkład normalny. W praktycznej analizie ocenia się więc, czy reszty w poszczególnych grupach nie wykazują silnej asymetrii, ciężkich ogonów lub innych nietypowych cech.
Do diagnostyki można wykorzystać:
- histogramy wyników i reszt;
- wykresy kwantyl–kwantyl, czyli Q–Q plots;
- wykresy pudełkowe w grupach;
- miary skośności i kurtozy, interpretowane razem z wykresami;
- testy normalności, traktowane pomocniczo, a nie jako automatyczny przełącznik „ANOVA tak/nie”.
Test normalności może dać istotny wynik przy dużej próbie nawet wtedy, gdy odchylenie od normalności nie ma praktycznego znaczenia. Przy małej próbie może natomiast nie wykryć istotnego problemu. Dlatego nie należy interpretować wartości p z testu Shapiro–Wilka jako prawdopodobieństwa, że dane są normalne, ani jako dowodu spełnienia założenia.
Klasyczna ANOVA bywa stosunkowo odporna na umiarkowane odchylenia od normalności, zwłaszcza gdy grupy są podobnie liczne i nie ma silnych obserwacji odstających. Odporność nie jest jednak bezwarunkowa. Szczególnie niebezpieczne jest jednoczesne występowanie silnej asymetrii, różnych liczebności i nierównych wariancji (Glass, Peckham, & Sanders, 1972; Blanca et al., 2017).
2.5. Homogeniczność wariancji
Założenie homogeniczności wariancji oznacza, że zmienność wyników w populacjach odpowiadających poszczególnym grupom jest podobna. Formalnie zakłada się:
σ12 = σ22 = ... = σk2
Nie chodzi o to, aby wariancje były identyczne co do ostatniego miejsca po przecinku. Pytanie brzmi raczej, czy ich różnice są na tyle duże, że mogą zmienić wiarygodność wnioskowania.
Wizualnie warto porównać rozpiętość pudełek i wąsy na wykresie pudełkowym. Można także zastosować test Levene’a lub jego odporniejszą odmianę Browna–Forsythe’a. Testy te nie zastępują jednak oceny merytorycznej. Ich wynik zależy od liczebności próby, a sam test równości wariancji nie odpowiada na pytanie, czy klasyczna ANOVA jest w danym badaniu praktycznie bezpieczna (Levene, 1960; Brown & Forsythe, 1974).
Jeżeli wariancje są nierówne, a grupy mają podobne liczebności, klasyczna ANOVA może nadal działać akceptowalnie w wielu sytuacjach. Jeżeli jednak najmniejsza grupa ma największą wariancję albo występują duże różnice liczebności, ryzyko błędnych wniosków rośnie. W takim przypadku należy rozważyć test Welcha dla wielu średnich, który nie wymaga założenia równości wariancji w klasycznej postaci (Welch, 1951).
2.6. Brak silnych obserwacji odstających
Obserwacja odstająca to wynik wyraźnie różniący się od pozostałych. Nie każda obserwacja odstająca jest błędem. Może oznaczać prawdziwy, ale rzadki przypadek kliniczny, nietypową reakcję na interwencję albo poprawnie zmierzony skrajny wynik.
Najpierw trzeba sprawdzić dane źródłowe: jednostki, przecinki dziesiętne, pomyłki przy wprowadzaniu i zgodność z dokumentacją. Usunięcie obserwacji wyłącznie dlatego, że pogarsza wynik ANOVA, jest niedopuszczalne. Jeżeli obserwacja jest prawidłowa, można wykonać analizę wrażliwości: porównać wynik analizy podstawowej z wynikiem po zastosowaniu metody odpornej, transformacji lub procedury bootstrapowej. Decyzję należy opisać przed interpretacją końcowego rezultatu.
3. Jak praktycznie sprawdzać założenia?
Ocena założeń powinna być częścią całego procesu analitycznego, a nie formalnością wykonywaną po uzyskaniu interesującej wartości p. Użyteczna kolejność jest następująca:
- Sprawdź, czy pytanie badawcze dotyczy porównania średnich i czy czynnik rzeczywiście ma charakter kategorialny.
- Zweryfikuj jednostkę analizy oraz niezależność obserwacji na podstawie planu badania.
- Obejrzyj surowe dane w grupach: wykresy pudełkowe, punkty, histogramy.
- Dopasuj model i obejrzyj reszty względem wartości dopasowanych oraz względem grup.
- Oceń podobieństwo wariancji, uwzględniając liczebności grup i możliwe obserwacje odstające.
- Wybierz metodę główną i zaplanuj analizę wrażliwości, jeżeli założenia są częściowo naruszone.
Nie należy tworzyć reguły typu: „jeśli test Levene’a ma p > 0,05, używam ANOVA, a jeśli p < 0,05, używam Kruskala–Wallisa”. Taka procedura ignoruje wielkość naruszenia, plan badania, cel analizy i własności alternatywnych metod.
4. Co zrobić, gdy założenia są naruszone?
| Problem | Możliwe działanie | O czym pamiętać |
|---|---|---|
| Nierówne wariancje | ANOVA Welcha, odpowiednie porównania post hoc, np. Gamesa–Howella | Szczególnie ważne przy nierównych liczebnościach |
| Silna asymetria wyników | Transformacja, model odpowiedni dla skali danych, metoda odporna lub bootstrap | Transformacja musi mieć uzasadnienie merytoryczne |
| Obserwacje odstające | Kontrola danych, analiza wrażliwości, metody odporne | Nie usuwać automatycznie poprawnych pomiarów |
| Zależność obserwacji | Model mieszany, ANOVA dla pomiarów powtarzanych, model wielopoziomowy | Problem dotyczy planu, nie tylko rozkładu |
| Zmienna zliczeniowa lub binarna | Model uogólniony dopasowany do typu wyniku | Nie każda zmienna liczbowa jest ciągła |
Test Kruskala–Wallisa nie jest uniwersalnym zamiennikiem ANOVA. Porównuje rozkłady rang i przy dodatkowych warunkach może być interpretowany jako test różnic położenia. Nie odpowiada automatycznie na dokładnie to samo pytanie co ANOVA o średnich.
5. Przykład praktyczny: trzy programy rehabilitacji
W badaniu porównano zmianę wyniku testu sprawności fizycznej po 12 tygodniach u pacjentów uczestniczących w trzech programach rehabilitacji: standardowym, intensywnym i z telemonitoringiem. Zmienną zależną była liczba punktów uzyskanych w teście, a czynnikiem – rodzaj programu.
Najpierw badacz powinien sprawdzić, czy każdy pacjent należy tylko do jednej grupy, czy grupy zostały określone przed pomiarem i czy nie ma powtarzanych pomiarów traktowanych jako niezależne osoby. Następnie należy obejrzeć rozkłady zmian w każdej grupie. Jeżeli grupa telemonitoringu obejmuje kilka bardzo nietypowych, ale prawidłowych przypadków, nie należy ich usuwać bez uzasadnienia.
Załóżmy, że grupy liczą odpowiednio 45, 44 i 18 osób. Wariancja w najmniejszej grupie jest wyraźnie największa. W takiej sytuacji klasyczna ANOVA jest mniej wiarygodna, ponieważ nierówność wariancji łączy się z nierównością liczebności. Rozsądniejszym rozwiązaniem jest ANOVA Welcha wraz z odpowiednimi porównaniami parami. W raporcie należy podać średnie, odchylenia standardowe lub przedziały ufności, wynik testu, wielkość efektu oraz informację o diagnostyce założeń.
Jeżeli natomiast wariancje są podobne, grupy mają zbliżone liczebności, a reszty nie wykazują silnych odstających obserwacji, można zastosować klasyczną ANOVA. Nadal nie oznacza to, że program rehabilitacji „spowodował” różnice, jeśli badanie było obserwacyjne i pacjenci sami wybierali program. Wtedy ostrożniej mówi się o różnicach między grupami lub związku rodzaju programu z wynikiem.
6. Przykład z psychologii: wynik skali stresu
Psycholog porównuje średni wynik skali stresu w trzech grupach pracowników: pracujących zdalnie, hybrydowo i wyłącznie stacjonarnie. Skala składa się z kilku pozycji ocenianych od 1 do 5, a wynik całkowity jest sumą punktów.
Przed zastosowaniem ANOVA należy sprawdzić, czy wynik całkowity ma wystarczającą zmienność i czy rozkłady w grupach nie są silnie skupione przy minimum lub maksimum skali. Jeżeli większość osób uzyskuje wynik bliski maksymalnemu, średnia może nie oddawać dobrze struktury danych. Warto również zbadać, czy grupy różnią się wiekiem, rodzajem zawodu lub wymiarem czasu pracy. Same różnice średnich nie wskazują jeszcze na efekt trybu pracy, jeśli istnieją istotne czynniki zakłócające.
Jeżeli wyniki są umiarkowanie niesymetryczne, grupy są dostatecznie liczne i podobne pod względem liczebności, ANOVA może być użyteczna. Jeżeli jednak skala ma charakter porządkowy, liczebności są małe, a rozkłady bardzo różne, należy rozważyć model porządkowy, analizę odporną albo inną metodę zgodną z pytaniem badawczym.
Najczęstsze błędy
- Badanie normalności każdej grupy jako jedynego kryterium. Założenie dotyczy struktury błędu modelu, a decyzja powinna uwzględniać wykresy, liczebności i odporność metody.
- Traktowanie wartości p jako dowodu normalności. Nieistotny wynik testu nie dowodzi, że rozkład jest normalny.
- Automatyczne usuwanie obserwacji odstających. Najpierw należy sprawdzić poprawność pomiaru i zaplanować analizę wrażliwości.
- Ignorowanie nierównych liczebności. Sama nierówność liczebności nie dyskwalifikuje ANOVA, ale w połączeniu z różnymi wariancjami może być poważnym problemem.
- Używanie klasycznej ANOVA przy danych zależnych. Pomiarów powtarzanych, danych klastrowych i kilku obserwacji tej samej osoby nie wolno traktować jak niezależnych rekordów.
- Wybór metody po obejrzeniu wartości p. Postępowanie analityczne powinno wynikać z pytania, planu i właściwości danych, a nie z poszukiwania korzystnego wyniku.
- Mylenie istotności statystycznej z ważnością kliniczną. Nawet poprawnie zastosowana ANOVA nie mówi, czy różnica ma znaczenie dla pacjentów, pracowników lub systemu ochrony zdrowia.
Co warto zapamiętać?
- Jednoczynnikowa ANOVA zakłada przede wszystkim niezależność obserwacji, odpowiedni typ zmiennej zależnej, sensowny model średnich, przybliżoną normalność reszt i podobieństwo wariancji.
- Niezależność wynika z planu badania i nie może być wiarygodnie „naprawiona” samym testem statystycznym.
- Normalność należy oceniać przy użyciu wykresów i wiedzy o danych, a nie tylko na podstawie jednego testu.
- Nierówność wariancji jest szczególnie problematyczna wtedy, gdy grupy mają różne liczebności.
- Przy heterogeniczności wariancji warto rozważyć ANOVA Welcha zamiast klasycznego testu F.
- Nie każda zmienna liczbowa nadaje się do porównywania średnich metodą ANOVA.
- Wynik ANOVA powinien być uzupełniony o statystyki opisowe, przedziały ufności, wielkość efektu, analizę porównań post hoc oraz opis sposobu oceny założeń.
- Spełnienie założeń nie czyni badania przyczynowym. O przyczynowości decydują przede wszystkim projekt, randomizacja, kontrola zakłóceń i sposób pomiaru.
Zasada praktyczna: nie pytaj wyłącznie, czy założenia są „spełnione”. Zapytaj, jak duże jest naruszenie, jakie może mieć konsekwencje dla wnioskowania i która metoda najlepiej odpowiada rzeczywistej strukturze danych.
Źródła i dalsza lektura
- National Institute of Standards and Technology (2012). The one-way ANOVA model and assumptions. NIST/SEMATECH e-Handbook of Statistical Methods. National Institute of Standards and Technology. Źródło.
- Gene V. Glass, Percy D. Peckham, James R. Sanders (1972). Consequences of Failure to Meet Assumptions Underlying the Fixed Effects Analyses of Variance and Covariance. Review of Educational Research, 42(3), 237–288. DOI: 10.3102/00346543042003237.
- Morton B. Brown, Alan B. Forsythe (1974). Robust Tests for the Equality of Variances. Journal of the American Statistical Association, 69(346), 364–367. DOI: 10.1080/01621459.1974.10482955.
- Howard Levene (1960). Robust Tests for Equality of Variances. Stanford University Press.
- B. L. Welch (1951). On the Comparison of Several Mean Values: An Alternative Approach. Biometrika, 38(3–4), 330–336. DOI: 10.1093/biomet/38.3-4.330.
- Javier Blanca, Rafael Alarcón, Jaume Arnau, Roser Bono, Rebecca Bendayan (2017). Non-normal data: Is ANOVA still a valid option?. Psicothema, 29(4), 552–557. DOI: 10.7334/psicothema2016.383.