405. ANOVA Welcha – gdy wariancje nie są równe

W klasycznej jednoczynnikowej analizie wariancji zakłada się między innymi, że wariancje w porównywanych grupach są podobne. W praktyce założenie to często nie jest spełnione: grupy mogą różnić się zarówno rozproszeniem wyników, jak i liczebnością. W takiej sytuacji standardowa ANOVA może mieć zniekształcony poziom błędu I rodzaju, zwłaszcza gdy mała grupa charakteryzuje się dużą wariancją albo duża grupa ma małą wariancję. Rozwiązaniem jest ANOVA Welcha — metoda porównująca średnie kilku grup bez wymagania równości wariancji.

W tej lekcji, będącej częścią publicznego szkolenia na statystyk.edu.pl, przeanalizujemy sens tego testu, jego wzór, założenia, sposób raportowania oraz postępowanie po uzyskaniu wyniku istotnego statystycznie.

1. Jaki problem rozwiązuje ANOVA Welcha?

Jednoczynnikowa ANOVA bada hipotezę:

H₀: średnie w k populacjach są równe, czyli μ₁ = μ₂ = … = μ_k.

Hipoteza alternatywna mówi, że co najmniej jedna średnia różni się od pozostałych. Standardowa statystyka F opiera się na porównaniu zmienności między grupami ze zmiennością wewnątrz grup. W klasycznej wersji wariancja wewnątrz grup jest łączona w jeden wspólny estymator. Takie rozwiązanie jest uzasadnione, gdy wariancje populacyjne można traktować jako równe.

ANOVA Welcha postępuje inaczej. Każdą średnią grupową waży zależnie od jej precyzji. Grupa o większej liczebności i mniejszej wariancji otrzymuje większą wagę, ponieważ jej średnia jest zwykle oszacowana dokładniej. Grupa mała lub bardzo zróżnicowana wpływa na wynik w mniejszym stopniu. Welch zmienia również przybliżone stopnie swobody, aby lepiej kontrolować poziom błędu I rodzaju (Welch, 1951).

Nie oznacza to, że ANOVA Welcha „naprawia” każdy problem z danymi. Nadal porównujemy średnie, dlatego trzeba uwzględnić typ zmiennej, niezależność obserwacji, obserwacje odstające i kształt rozkładów.

2. Równość wariancji a nierówność wariancji

Założenie homogeniczności wariancji oznacza, że wariancje populacyjne są podobne:

σ₁² ≈ σ₂² ≈ … ≈ σ_k².

Nie chodzi o matematyczną identyczność wariancji w próbach. Wariancje próbkowe zawsze będą się nieco różniły wskutek losowego charakteru danych. Pytanie brzmi, czy obserwowane różnice są na tyle duże, aby klasyczna ANOVA mogła utracić właściwości przyjęte w modelu.

Wstępna ocena powinna obejmować:

• liczebności grup;
• odchylenia standardowe i wariancje;
• wykresy pudełkowe lub wykresy punktowe;
• ocenę wartości odstających;
• rozważenie, czy większa wariancja nie pojawia się systematycznie w grupie o najmniejszej liczebności.

Można także stosować test Levene’a lub jego odporną odmianę Brown–Forsythe’a. Test Brown–Forsythe’a wykorzystuje odchylenia od median grupowych i jest mniej wrażliwy na nienormalność niż klasyczny test oparty na odchyleniach od średnich (Brown i Forsythe, 1974). Nie należy jednak traktować testu równości wariancji jako automatycznego przełącznika: „wynik nieistotny — ANOVA klasyczna, wynik istotny — ANOVA Welcha”. Decyzja powinna uwzględniać także liczebności, wykresy i cel badania.

3. Intuicja działania ANOVA Welcha

Załóżmy, że badacz porównuje średni czas powrotu do sprawności po trzech metodach rehabilitacji. W grupie pierwszej wyniki są dość jednorodne, w grupie drugiej występuje duże zróżnicowanie, a grupa trzecia jest najmniej liczna. Standardowa ANOVA traktuje wspólną zmienność wewnątrz grup w sposób oparty na założeniu wspólnej wariancji. ANOVA Welcha pozwala, aby każda grupa miała własny wkład zależny od jej wariancji.

Największą wagę uzyskuje grupa o małej wariancji, ponieważ jej średnia jest bardziej precyzyjna. Formalnie waga jest odwrotnie proporcjonalna do wariancji:

w_i = n_i / s_i²

Oznaczenia są następujące:

• i — numer grupy, od 1 do k;
• n_i — liczebność i-tej grupy;
• s_i² — wariancja w i-tej grupie;
• w_i — waga przypisana i-tej grupie;
• k — liczba porównywanych grup.

Ważona średnia ogólna wynosi:

x̄_w = [Σ w_ix̄_i] / [Σ w_i]

W tym wzorze x̄_i jest średnią w i-tej grupie, a symbol Σ oznacza sumowanie po wszystkich grupach. Średnia ważona nie jest zwykłą średnią arytmetyczną średnich grupowych.

4. Wzór statystyki Welcha

Jedna z często stosowanych postaci statystyki ANOVA Welcha ma następującą formę:

F_W = [1/(k − 1)] Σ w_i(x̄_i − x̄_w)² / [1 + {2(k − 2)/(k² − 1)} Σ ((1 − w_i/Σw_i)²/(n_i − 1))]

Interpretacja elementów:

• x̄_i − x̄_w opisuje, jak daleko średnia danej grupy znajduje się od średniej ważonej;
• w_i zwiększa wpływ grup o większej precyzji;
• licznik mierzy ważoną zmienność średnich między grupami;
• mianownik zawiera korektę wynikającą z nierównych wariancji i liczebności;
• F_W jest porównywana z rozkładem F, ale z odpowiednio wyznaczonymi stopniami swobody.

Pierwszy stopień swobody wynosi:

df₁ = k − 1.

Drugi stopień swobody można zapisać jako:

df₂ = (k² − 1) / [3Σ((1 − w_i/Σw_i)²/(n_i − 1))].

W praktyce obliczenia wykonuje program statystyczny. Ważne jest jednak rozumienie, dlaczego w raporcie pojawiają się niecałkowite stopnie swobody, na przykład F(2, 34,7) = 5,81. Nie jest to błąd. Stopnie swobody ANOVA Welcha są przybliżeniem wynikającym z korekty dla heterogeniczności wariancji.

5. Założenia ANOVA Welcha

Niezależność obserwacji

Każda osoba powinna wnosić do analizy niezależną obserwację, chyba że zastosowano model uwzględniający zależność. Jeżeli pacjenci są mierzeni przed leczeniem i po leczeniu, nie mamy prostego układu niezależnych grup. Wtedy należy rozważyć analizę dla pomiarów powtarzanych, model mieszany lub analizę zmiany, zależnie od projektu.

Skala ilościowa wyniku

ANOVA Welcha służy do porównywania średnich zmiennej ilościowej. Może być stosowana dla wyników ciągłych, a w pewnych sytuacjach także dla wyników dyskretnych o wystarczająco bogatej skali. Dla zmiennej nominalnej, takiej jak typ powikłania, właściwe będą inne metody.

Rozkład wyników i obserwacje odstające

ANOVA Welcha jest bardziej odporna na nierówność wariancji niż klasyczna ANOVA, ale nie jest całkowicie odporna na skrajne obserwacje i silną skośność. Przy bardzo małych grupach pojedynczy wynik może znacząco zmienić średnią i wariancję. W takiej sytuacji trzeba rozważyć transformację, metody odporne, bootstrap albo model odpowiedni dla charakteru wyniku.

6. Przykład medyczny: ciśnienie skurczowe w trzech grupach

W badaniu obserwacyjnym porównano skurczowe ciśnienie tętnicze po 12 tygodniach u pacjentów stosujących trzy strategie postępowania. Grupy liczyły odpowiednio 42, 18 i 11 osób. Średnie wynosiły 132, 128 i 141 mmHg, a odchylenia standardowe 10, 12 i 25 mmHg.

Najmniejsza grupa ma jednocześnie największe rozproszenie. Jest to układ, w którym klasyczna ANOVA może być szczególnie problematyczna: mała grupa o dużej wariancji może wpływać na estymację wspólnego błędu w sposób nieproporcjonalny do precyzji jej średniej.

ANOVA Welcha może dać wynik, na przykład F(2, 24,6) = 4,92, p = 0,016. Taki rezultat oznacza, że dane dostarczają podstaw do odrzucenia hipotezy o równości wszystkich średnich. Nie oznacza natomiast, że wszystkie trzy grupy różnią się od siebie ani że strategia leczenia spowodowała różnice. Badanie obserwacyjne nie zapewnia automatycznie podstaw do wnioskowania przyczynowego.

Następnym krokiem powinny być porównania parami z korektą dla wielokrotnych porównań. Przy nierównych wariancjach i liczebnościach często stosuje się procedurę Gamesa-Howella. Jej działanie uwzględnia nierówność wariancji i kontrolę skumulowanego ryzyka błędu I rodzaju (Games i Howell, 1976). Wynik ogólny ANOVA Welcha i wyniki post hoc odpowiadają na różne pytania: pierwszy mówi, czy występuje jakiekolwiek zróżnicowanie średnich, a drugi pomaga ustalić, między którymi parami grup można zlokalizować różnicę.

7. Przykład psychologiczny: wynik lęku w grupach o różnej liczebności

Psycholog porównuje średni wynik kwestionariusza lęku wśród studentów pierwszego roku, studentów ostatniego roku i osób pracujących. Grupy liczą odpowiednio 80, 35 i 14 osób. W grupie osób pracujących wyniki są wyraźnie bardziej zróżnicowane, ponieważ obejmuje ona osoby o bardzo różnych warunkach zatrudnienia i obciążeniu rodzinnym.

W tym przypadku równość wariancji może być mało wiarygodna nie dlatego, że dane są „wadliwe”, lecz dlatego, że populacje są rzeczywiście heterogeniczne. Zastosowanie ANOVA Welcha jest uzasadnione metodologicznie, ponieważ nie wymusza wspólnej wariancji dla wszystkich grup.

Jeżeli test Welcha jest nieistotny, na przykład F(2, 31,8) = 1,74, p = 0,191, nie należy pisać, że „grupy są takie same”. Ostrożniejszy wniosek brzmi: „Nie uzyskano wystarczających dowodów na różnice średnich wyników lęku między grupami”. Warto podać oszacowane średnie, przedziały ufności i wielkość próby, ponieważ wynik nieistotny może wynikać także z małej mocy badania.

8. ANOVA Welcha a test Kruskala-Wallisa

Obie metody bywają wybierane, gdy standardowa ANOVA budzi wątpliwości, ale nie są równoważne.

• ANOVA Welcha porównuje średnie i jest szczególnie przydatna przy nierównych wariancjach.
• Test Kruskala-Wallisa opiera się na rangach i nie testuje bezpośrednio równości średnich.

Jeżeli pytanie badawcze dotyczy średniego poziomu hemoglobiny, średniego wyniku depresji lub średniego czasu hospitalizacji, ANOVA Welcha może być bardziej zgodna z celem analizy. Jeżeli wynik jest silnie skośny, zawiera wiele wartości odstających lub ma charakter porządkowy, test rangowy może być bardziej adekwatny. Nie należy jednak wybierać Kruskala-Wallisa wyłącznie dlatego, że wariancje są nierówne.

9. Jak wykonać i raportować analizę?

1. Zdefiniuj zmienną zależną oraz zmienną grupującą.
2. Sprawdź liczebności, średnie, odchylenia standardowe i wykresy.
3. Oceń, czy różnice wariancji są praktycznie istotne i czy liczebności są mocno nierówne.
4. Wybierz ANOVA Welcha, gdy założenie równości wariancji jest niewiarygodne.
5. Jeśli wynik ogólny jest istotny, zastosuj odpowiednią procedurę post hoc, na przykład Gamesa-Howella.
6. Raportuj średnie, miary rozproszenia, statystykę testową, stopnie swobody, wartość p oraz — jeśli to możliwe — przedziały ufności i wielkość efektu.

Przykładowy zapis może wyglądać następująco: „Ze względu na nierówne wariancje i zróżnicowane liczebności zastosowano jednoczynnikową ANOVA Welcha. Stwierdzono różnice między średnimi grup, F(2, 24,6) = 4,92, p = 0,016. W porównaniach Gamesa-Howella istotna była różnica między grupą A i C, średnia różnica = −9,0 mmHg, 95% CI [−16,7; −1,3]”.

Wartość p nie jest prawdopodobieństwem prawdziwości hipotezy zerowej. Nie informuje też sama w sobie o wielkości różnicy ani jej znaczeniu klinicznym. Różnica 2 mmHg może być statystycznie istotna przy dużej próbie, ale niekoniecznie ważna klinicznie. Z kolei różnica 10 mmHg może nie osiągnąć istotności przy bardzo małej próbie, choć może mieć znaczenie praktyczne.

10. Najczęstsze błędy

• Automatyczne stosowanie klasycznej ANOVA. Sama obecność kilku grup nie uzasadnia założenia równych wariancji.
• Traktowanie testu Levene’a jako jedynej podstawy decyzji. Należy analizować także liczebności, wykresy i kontekst pomiaru.
• Wykonywanie wielu testów t zamiast testu ogólnego. Zwiększa to ryzyko skumulowanego błędu I rodzaju.
• Stosowanie testu Tukeya po ANOVA Welcha. Klasyczny Tukey HSD zakłada sytuację inną niż nierówne wariancje; częściej właściwy będzie Games-Howell.
• Interpretowanie istotnego wyniku jako dowodu przyczynowości. ANOVA porównuje grupy, lecz nie zmienia projektu obserwacyjnego w eksperyment.
• Pomijanie różnic w liczebnościach. Nierówne grupy mogą wpływać na precyzję oszacowań i stabilność wyników.
• Raportowanie wyłącznie wartości p. Potrzebne są także średnie, rozproszenie, przedziały ufności i informacja o procedurze post hoc.
• Wnioskowanie, że brak istotności oznacza równość grup. Wynik nieistotny oznacza brak wystarczających dowodów na różnicę przy zastosowanym planie i próbie.

11. Co warto zapamiętać?

• ANOVA Welcha służy do porównywania średnich kilku niezależnych grup przy nierównych wariancjach.
• Jest szczególnie użyteczna, gdy wariancje i liczebności grup różnią się jednocześnie.
• Wagi zależą od liczebności i wariancji: dokładniej oszacowane średnie mają większy wpływ na wynik.
• Stopnie swobody ANOVA Welcha mogą być niecałkowite — jest to normalny skutek zastosowanej korekty.
• Istotny test ogólny nie wskazuje, które grupy się różnią; do tego potrzebne są porównania post hoc.
• Games-Howell jest częstym wyborem przy nierównych wariancjach i nierównych liczebnościach.
• Interpretuj osobno istotność statystyczną, wielkość efektu i znaczenie praktyczne.
• Dobór testu powinien wynikać z pytania badawczego, projektu i właściwości danych, a nie wyłącznie z jednej wartości p.

ANOVA Welcha jest więc nie tyle „alternatywną wersją ANOVA”, ile świadomą odpowiedzią na konkretny problem modelu: średnie grup są porównywane w warunkach, w których wspólna wariancja nie jest wiarygodnym założeniem. Jej zastosowanie zwiększa wiarygodność wnioskowania, ale nie zastępuje oceny jakości projektu, pomiaru i interpretacji merytorycznej.

Źródła i dalsza lektura

1. Welch, B. L. (1951). On the Comparison of Several Mean Values: An Alternative Approach. Biometrika, 38(3–4), 330–336. DOI: 10.1093/biomet/38.3-4.330.
2. Brown, M. B.; Forsythe, A. B. (1974). Robust Tests for the Equality of Variances. Journal of the American Statistical Association, 69(346), 364–367. DOI: 10.1080/01621459.1974.10482955.
3. Games, P. A.; Howell, J. F. (1976). Pairwise Multiple Comparison Procedures with Unequal N’s and/or Variances: A Monte Carlo Study. Journal of Educational Statistics, 1(2), 113–125. DOI: 10.3102/10769986001002113.
4. Ruxton, G. D. (2006). The Unequal Variance t-Test Is an Underused Alternative to Student’s t-Test and the Mann–Whitney U Test. Behavioral Ecology, 17(4), 688–690. DOI: 10.1093/beheco/ark016.
5. Kirkwood, B. R.; Sterne, J. A. C. (2003). Essential Medical Statistics. 2nd edition. Blackwell Science. Informacja wydawcy / źródło.
6. Field, A. P. (2018). Discovering Statistics Using IBM SPSS Statistics. 5th edition. SAGE Publications. Informacja wydawcy / źródło.