299. Rozkład danych a rozkład statystyki – ważne rozróżnienie

W poprzednich lekcjach modułu 15 pojawiały się rozkłady normalny, t-Studenta, chi-kwadrat, F oraz rozkłady próbkowania. Łatwo jednak pomieszać dwa różne poziomy opisu: rozkład wartości obserwowanych u osób lub obiektów oraz rozkład statystyki obliczanej na podstawie próby. To rozróżnienie jest jednym z fundamentów wnioskowania statystycznego. Bez niego trudno poprawnie zrozumieć błąd standardowy, przedział ufności, test hipotezy czy centralne twierdzenie graniczne.

W tej lekcji szkolenia na statystyk.edu.pl uporządkujemy oba pojęcia od podstaw. Zobaczymy, że dane mogą być silnie skośne, a średnia z wielu prób może mieć rozkład zbliżony do normalnego. Wyjaśnimy także, dlaczego odchylenie standardowe opisuje rozproszenie obserwacji, a błąd standardowy opisuje niepewność statystyki.

Dwa różne pytania statystyczne

Rozkład danych odpowiada na pytanie: jak różnią się między sobą obserwowane jednostki? Mogą nimi być pacjenci, wyniki testu psychologicznego, czasy przyjazdu zespołu ratownictwa, ciśnienie tętnicze albo liczba hospitalizacji.

Rozkład statystyki odpowiada na inne pytanie: jak zmieniałaby się obliczona statystyka, gdybyśmy wielokrotnie losowali nowe próby z tej samej populacji? Przedmiotem zainteresowania nie są już pojedyncze wartości, lecz wyniki procedury obliczeniowej, na przykład średnie, mediany, odsetki, różnice średnich albo współczynniki regresji.

Można to zapisać w prostym schemacie:

• populacja lub dane: wartości X₁, X₂, …, X_n;
• statystyka: funkcja tych wartości, na przykład średnia X̄;
• rozkład próbkowania: rozkład wartości tej statystyki w wielu możliwych próbach.

Jedna konkretna próba daje jedną konkretną wartość statystyki. Rozkład próbkowania jest konstrukcją teoretyczną albo symulacyjną: pokazuje, co otrzymalibyśmy w wielu powtórzeniach badania.

Rozkład danych

Rozkład danych opisuje częstość występowania poszczególnych wartości lub przedziałów wartości. Możemy go przedstawić za pomocą tabeli liczebności, histogramu, wykresu pudełkowego, średniej, mediany, odchylenia standardowego, rozstępu międzykwartylowego albo percentyli.

Przykładowo, jeśli badamy czas oczekiwania pacjentów w izbie przyjęć, większość obserwacji może skupiać się między 30 a 90 minutami, ale niewielka liczba pacjentów może czekać kilka godzin. Taki rozkład będzie prawdopodobnie prawoskośny. Średnia może być większa od mediany, ponieważ długie czasy oczekiwania „ciągną” średnią w prawo.

Rozkład danych zależy od charakterystyki populacji, sposobu pomiaru i doboru próby. Jeżeli mierzymy wiek pacjentów na oddziale pediatrycznym, otrzymamy inny rozkład niż w poradni geriatrycznej. Nie istnieje jeden uniwersalny rozkład wszystkich danych medycznych czy społecznych.

Odchylenie standardowe dotyczy danych

Odchylenie standardowe, oznaczane zwykle jako SD, opisuje typową zmienność pojedynczych obserwacji wokół średniej. W próbie można je zapisać jako:

s = √[Σ(xᵢ − x̄)² / (n − 1)]

gdzie xᵢ oznacza i-tą obserwację, x̄ jest średnią z próby, n oznacza liczebność próby, a s jest estymatorem odchylenia standardowego populacji. Odchylenie standardowe ma tę samą jednostkę co badana zmienna: minuty dla czasu oczekiwania, mmHg dla ciśnienia lub punkty dla testu psychologicznego.

Odchylenie standardowe nie mówi bezpośrednio, jak precyzyjnie oszacowaliśmy średnią populacyjną. Do tego celu służy błąd standardowy.

Rozkład statystyki i rozkład próbkowania

Statystyka jest funkcją próby. Jeśli w każdej wylosowanej próbie obliczymy średnią, otrzymamy wiele wartości średniej: x̄₁, x̄₂, x̄₃ i tak dalej. Rozkład tych średnich nazywamy rozkładem próbkowania średniej.

Jeżeli populacyjna średnia wynosi μ, a populacyjne odchylenie standardowe σ, to dla losowej próby o liczebności n:

E(X̄) = μ

SE(X̄) = σ / √n

Pierwszy wzór oznacza, że wartość oczekiwana średniej z prób jest równa średniej populacyjnej. Drugi wzór określa odchylenie standardowe rozkładu średniej, nazywane błędem standardowym średniej. Symbol SE pochodzi od angielskiego standard error. Im większa liczebność próby, tym mniejsza zmienność średnich z hipotetycznych powtórzeń.

W praktyce σ zwykle nie znamy, dlatego używamy przybliżenia:

SE(x̄) = s / √n

W tym zapisie s jest odchyleniem standardowym w konkretnej próbie, a n jej liczebnością. Błąd standardowy ma tę samą jednostkę co średnia, ale nie opisuje rozproszenia pojedynczych osób. Opisuje niepewność oszacowania średniej.

Dlaczego rozkład danych i rozkład średniej mogą wyglądać inaczej?

Załóżmy, że czas oczekiwania w populacji jest silnie prawoskośny. Pojedynczy pacjent może czekać 20 minut, inny 40, a jeszcze inny 300 minut. Jeżeli jednak będziemy wielokrotnie losować próby po 100 pacjentów i za każdym razem obliczać średnią, ekstremalnie długie oczekiwania będą częściowo równoważone przez krótsze. Średnie z prób będą zwykle skupione w węższym zakresie.

To intuicyjnie prowadzi do centralnego twierdzenia granicznego: przy odpowiednio dużej liczebności próby rozkład średniej często zbliża się do rozkładu normalnego, nawet gdy rozkład pojedynczych obserwacji nie jest normalny. Nie oznacza to, że dane stały się normalne. Normalizuje się jedynie rozkład statystyki, a nie rozkład obserwacji.

Wielkość próby nie usuwa skośności danych. Duża próba pozwala natomiast często lepiej oszacować parametry populacji, a rozkład statystyki może mieć własności umożliwiające stosowanie przybliżeń normalnych lub innych metod asymptotycznych.

Przykład 1: ciśnienie tętnicze pacjentów

W badaniu 40 pacjentów zmierzono skurczowe ciśnienie tętnicze. Średnia wyniosła 142 mmHg, a odchylenie standardowe 16 mmHg.

Wynik 142 ± 16 mmHg opisuje rozproszenie ciśnień wśród badanych pacjentów. Nie oznacza, że średnia została oszacowana z niepewnością 16 mmHg. Błąd standardowy średniej wynosi:

SE = 16 / √40 ≈ 2,53 mmHg

Interpretacja jest więc następująca: wartości poszczególnych pacjentów różniły się typowo o około 16 mmHg od średniej, natomiast średnia z próby ma szacowaną zmienność około 2,53 mmHg między hipotetycznymi próbami o tej samej liczebności.

Gdybyśmy wykonali wiele niezależnych badań po 40 pacjentów z tej samej populacji, średnie tych badań byłyby znacznie mniej rozproszone niż indywidualne pomiary ciśnienia. To właśnie różnica między rozkładem danych a rozkładem statystyki.

Przykład 2: wynik testu lęku u studentów

Psycholog bada wynik kwestionariusza lęku u 200 studentów. Rozkład wyników jest lekko prawoskośny: większość osób uzyskuje wyniki umiarkowane, ale niewielka grupa ma bardzo wysokie wyniki.

Jeżeli badacz opisuje dane, powinien pokazać histogram, medianę, kwartyle oraz ewentualnie średnią i odchylenie standardowe. Jeżeli natomiast chce oszacować przeciętny poziom lęku w populacji studentów, interesuje go rozkład średniej. Ten drugi rozkład jest zwykle węższy niż rozkład indywidualnych wyników.

Nie należy więc pisać, że „odchylenie standardowe wyniku średniego wynosi 0,8”, jeśli 0,8 jest w rzeczywistości błędem standardowym. Taki zapis miesza opis danych z oceną precyzji oszacowania (Altman i Bland, 2005).

Rozkład statystyki nie zawsze oznacza rozkład średniej

Rozkład próbkowania może dotyczyć wielu statystyk:

• średniej arytmetycznej;
• mediany;
• odsetka pacjentów z określonym rozpoznaniem;
• różnicy średnich między grupami;
• ilorazu szans lub ryzyka względnego;
• współczynnika korelacji;
• parametru modelu regresji;
• statystyki testowej, na przykład t, χ² albo F.

Każda z tych statystyk ma własny rozkład próbkowania, zależny od schematu badania, liczebności próby, sposobu losowania, parametrów populacji oraz założeń modelu. Rozkład statystyki t nie jest rozkładem obserwowanych wyników pacjentów. Jest rozkładem określonej funkcji danych, używanej między innymi wtedy, gdy odchylenie populacyjne jest nieznane i szacowane z próby.

Znaczenie dla przedziałów ufności i testów

Wnioskowanie statystyczne opiera się na rozkładzie statystyki. Jeżeli znamy lub potrafimy przybliżyć jego kształt, możemy określić, jak bardzo wynik z jednej próby może różnić się od wartości populacyjnej wskutek losowania.

Przedział ufności dla średniej jest konstruowany z wykorzystaniem oszacowanej średniej, błędu standardowego oraz odpowiedniego kwantyla rozkładu, często rozkładu t:

x̄ ± t* × SE(x̄)

Symbol t* oznacza kwantyl rozkładu t-Studenta zależny od przyjętego poziomu ufności i liczby stopni swobody. Nie jest to odchylenie danych. Jest to wartość wynikająca z rozkładu statystyki.

Wartość p również odnosi się do rozkładu statystyki przy założeniu modelu lub hipotezy zerowej. Nie jest prawdopodobieństwem, że hipoteza zerowa jest prawdziwa. Nie mówi także, jaki odsetek danych „wynika z przypadku”. Wynik testu powinien być interpretowany wraz z wielkością efektu, przedziałem ufności, jakością pomiaru i znaczeniem praktycznym.

Przykład praktyczny: program skracający czas oczekiwania

Szpital wdrożył zmianę organizacyjną i porównał czas oczekiwania przed oraz po wdrożeniu. W grupie przed zmianą mediana wyniosła 78 minut, a w grupie po zmianie 64 minuty. Różnica median wyniosła 14 minut.

Rozkład danych w obu grupach może być prawoskośny, ponieważ część pacjentów czeka bardzo długo. Nie należy automatycznie zakładać, że rozkład obserwacji jest normalny tylko dlatego, że analiza dotyczy średniej lub różnicy średnich.

Badacz może jednak wykorzystać metodę bootstrapową albo model odpowiedni dla mediany, aby otrzymać rozkład różnicy median w wielu resamplowanych próbach. Otrzymany rozkład będzie rozkładem statystyki, nie rozkładem indywidualnych czasów oczekiwania.

Jeśli przedział ufności dla różnicy wynosi od 6 do 23 minut, można powiedzieć, że dane są zgodne z różnicą o takim zakresie przy przyjętej procedurze. Nie można natomiast stwierdzić wyłącznie na tej podstawie, że każdemu pacjentowi czas oczekiwania skrócił się o 14 minut. Statystyka grupowa nie opisuje automatycznie zmiany u każdej osoby.

Najczęstsze błędy

1. Traktowanie odchylenia standardowego jak błędu standardowego. SD opisuje zmienność obserwacji, a SE zmienność statystyki między próbami.
2. Twierdzenie, że duża próba czyni dane normalnymi. Duża próba może sprawić, że rozkład średniej będzie zbliżony do normalnego; nie zmienia to rozkładu pojedynczych obserwacji.
3. Ocenianie normalności danych na podstawie rozkładu statystyki. To dwa różne obiekty. Należy sprawdzić, czego dotyczy wykres lub założenie modelu.
4. Interpretowanie jednego wyniku jako całego rozkładu próbkowania. Jedna próba daje jeden wynik. Rozkład próbkowania jest teoretyczny albo uzyskiwany przez powtórzenia, symulację lub resampling.
5. Mylenie małego błędu standardowego z dużym efektem. Duża próba może dać bardzo precyzyjne oszacowanie małej różnicy. Precyzja i wielkość efektu to odrębne kwestie.
6. Wnioskowanie przyczynowe z samego rozkładu statystyki. Rozkład próbkowania pomaga ocenić niepewność, ale nie zastępuje randomizacji, właściwego projektu i kontroli zakłóceń.
7. Raportowanie samej wartości p. Przejrzysty opis powinien obejmować statystykę, miarę zmienności lub przedział ufności, wielkość efektu oraz uzasadnienie praktyczne. Takie podejście jest zgodne z zaleceniami dotyczącymi przejrzystego raportowania badań (Vandenbroucke i in., 2007; American Psychological Association, 2018).

Jak rozpoznać, z którym rozkładem mamy do czynienia?

Pomocne są trzy pytania:

1. Co jest pojedynczą obserwacją? Jeśli pojedynczą obserwacją jest czas oczekiwania jednego pacjenta, mówimy o rozkładzie danych.
2. Co jest obliczane dla każdej próby? Jeśli dla każdej próby obliczamy średnią, różnicę średnich lub odsetek, mówimy o rozkładzie statystyki.
3. Jaki rodzaj zmienności opisujemy? Zmienność osób lub pomiarów wskazuje na SD; zmienność oszacowania między próbami wskazuje na SE lub inny odpowiedni miernik błędu.

W raportowaniu badań warto jasno określać, czy przedstawiany histogram, przedział lub odchylenie dotyczy surowych danych, resamplowanych statystyk czy rozkładu teoretycznego. Zwiększa to przejrzystość i ułatwia ocenę, czy zastosowana metoda odpowiada projektowi badania.

Co warto zapamiętać?

• Rozkład danych opisuje wartości uzyskane u badanych jednostek.
• Rozkład statystyki opisuje zmienność wyniku obliczeń między hipotetycznymi próbami.
• Rozkład danych może być skośny, podczas gdy rozkład średniej z dużych prób może być bliski normalnemu.
• Odchylenie standardowe opisuje rozproszenie obserwacji, a błąd standardowy precyzję statystyki.
• Wzór SE(x̄) = s / √n pokazuje, że precyzja średniej rośnie wraz z liczebnością próby, ale nie oznacza to, że dane stają się mniej zróżnicowane.
• Przedziały ufności i testy hipotez opierają się na rozkładzie statystyki, a nie bezpośrednio na rozkładzie pojedynczych obserwacji.
• Istotność statystyczna nie jest tym samym co wielkość efektu ani znaczenie praktyczne.

Najkrótsza reguła brzmi: dane opisują jednostki, a rozkład statystyki opisuje zachowanie wyniku procedury badawczej w powtarzanych próbach. To rozróżnienie pozwala poprawnie przejść od opisu zebranych obserwacji do ostrożnego wnioskowania o populacji.

Źródła i dalsza lektura

1. Altman, D. G.; Bland, J. M. (2005). Standard deviations and standard errors. BMJ, 331(7521), 903. DOI: 10.1136/bmj.331.7521.903.
2. Vandenbroucke, J. P.; von Elm, E.; Altman, D. G.; Gøtzsche, P. C.; Mulrow, C. D.; Pocock, S. J.; Poole, C.; Schlesselman, J. J.; Egger, M.; for the STROBE Initiative (2007). Strengthening the Reporting of Observational Studies in Epidemiology (STROBE): Explanation and Elaboration. Epidemiology, 18(6), 805–835. DOI: 10.1097/EDE.0b013e3181577511.
3. Altman, Douglas G. (1991). Practical Statistics for Medical Research. 1st edition. Chapman and Hall. Informacja wydawcy / źródło.
4. Kirkwood, Betty R.; Sterne, Jonathan A. C. (2003). Essential Medical Statistics. 2nd edition. Blackwell Scientific Publications. Informacja wydawcy / źródło.
5. National Institute of Standards and Technology; SEMATECH (2012). NIST/SEMATECH e-Handbook of Statistical Methods. National Institute of Standards and Technology. Źródło.
6. American Psychological Association (2018). Journal Article Reporting Standards for Quantitative Research (JARS–Quant). American Psychological Association. Źródło.