316. Bootstrap – intuicyjne wprowadzenie do estymacji

W poprzednich lekcjach omawialiśmy przedziały ufności dla średniej, proporcji, różnic i miar względnych. W wielu praktycznych analizach pojawia się jednak problem: wzór na błąd standardowy albo przedział ufności jest trudny do wyprowadzenia, wymaga silnych założeń lub nie pasuje do nietypowej statystyki. Bootstrap jest metodą, która pozwala przybliżyć niepewność estymacji za pomocą wielokrotnego ponownego losowania obserwacji z już zebranej próby. Nie zastępuje rozumowania metodologicznego, ale dostarcza bardzo użytecznego narzędzia obliczeniowego i intuicyjnego modelu zmienności wyników.

1. Od problemu estymacji do idei bootstrapu

Załóżmy, że interesuje nas pewien parametr populacji, na przykład średnie skurczowe ciśnienie tętnicze, mediana czasu oczekiwania na pomoc ratowniczą albo odsetek pacjentów, u których wystąpiło działanie niepożądane. Parametr populacji oznaczymy przez θ. Nie znamy go, ponieważ nie badamy wszystkich członków populacji. Z próby obliczamy statystykę θ̂, która służy jako estymator parametru.

Sam wynik punktowy nie mówi jednak, jak bardzo mógłby się zmienić, gdybyśmy pobrali inną próbę z tej samej populacji. Właśnie ta zmienność próby jest podstawą wnioskowania statystycznego. Klasyczne metody często wyznaczają ją za pomocą wzoru analitycznego, na przykład dla średniej wykorzystującego odchylenie standardowe i liczebność próby. Bootstrap proponuje inne pytanie: co by się stało, gdybyśmy wielokrotnie tworzyli próby podobne do obecnej próby?

Nie mamy dostępu do całej populacji, więc nie możemy rzeczywiście pobierać z niej tysięcy nowych prób. Możemy jednak potraktować badaną próbę jako przybliżenie populacji i losować z niej obserwacje z powtórzeniami. Tak powstają tak zwane próby bootstrapowe.

2. Na czym polega resampling?

Resampling oznacza wielokrotne tworzenie nowych zbiorów danych na podstawie danych już zaobserwowanych. W klasycznym bootstrapie nieparametrycznym:

1. punktem wyjścia jest próba zawierająca n niezależnych obserwacji;
2. losujemy z niej n obserwacji, każdorazowo ze zwracaniem;
3. dla tak utworzonej próby obliczamy interesującą statystykę;
4. powtarzamy losowanie i obliczanie statystyki bardzo wiele razy;
5. otrzymujemy empiryczny rozkład statystyki bootstrapowej.

Losowanie ze zwracaniem oznacza, że ta sama obserwacja może pojawić się w jednej próbie bootstrapowej kilka razy, a inna obserwacja może nie pojawić się ani razu. Jeżeli próba pierwotna ma pięć obserwacji, przykładowa próba bootstrapowa może wyglądać tak: obserwacja 2, obserwacja 2, obserwacja 5, obserwacja 1, obserwacja 4. Nadal ma pięć elementów, lecz nie jest identyczna z próbą wyjściową.

Ważne jest, że bootstrap nie tworzy nowych wartości mierzonych u nowych osób. Powiela i pomija wartości już obserwowane. Jego zadaniem nie jest zwiększenie liczebności próby, lecz przybliżenie tego, jak zachowywałby się estymator w hipotetycznych powtórzeniach badania.

3. Algorytm bootstrapowy krok po kroku

3.1. Oznaczenia

Niech próba będzie zapisana jako:

x = (x1, x2, ..., xn)

gdzie x_i oznacza wartość zmiennej u i-tej osoby, a n jest liczebnością próby. Interesująca nas statystyka jest funkcją danych:

θ̂ = t(x1, x2, ..., xn)

Symbol t oznacza regułę obliczania statystyki. Może to być średnia, mediana, różnica średnich, iloraz ryzyka, współczynnik korelacji, współczynnik regresji albo inna miara.

Dla b-tej próby bootstrapowej obliczamy:

θ̂*b = t(x*1b, x*2b, ..., x*nb)

Gwiazdka oznacza, że wynik pochodzi z próby bootstrapowej, a indeks b wskazuje numer powtórzenia. Po wykonaniu B powtórzeń otrzymujemy wartości θ̂^*₁, θ̂^*₂, …, θ̂^*_B.

3.2. Błąd standardowy bootstrapu

Rozrzut wyników bootstrapowych może służyć do oszacowania błędu standardowego estymatora:

SEboot(θ̂) = √[ 1/(B − 1) × Σb=1B (θ̂*b − θ̄*)2 ]

gdzie:

• B – liczba prób bootstrapowych;
• θ̂^*_b – wartość statystyki w b-tej próbie bootstrapowej;
• θ̄^* – średnia wartości bootstrapowych;
• SE_boot(θ̂) – bootstrapowy szacunek błędu standardowego.

Im większy rozrzut wartości bootstrapowych, tym mniej precyzyjna jest estymacja. Nie należy jednak utożsamiać błędu standardowego z błędem pomiaru ani z błędem systematycznym. Bootstrap opisuje przede wszystkim zmienność wynikającą z losowania próby, o ile mechanizm resamplingu odpowiada schematowi badania.

4. Bootstrapowy przedział ufności

Najbardziej intuicyjną metodą budowania przedziału ufności jest metoda percentylowa. Porządkujemy B wyników bootstrapowych od najmniejszego do największego, a następnie wybieramy odpowiednie kwantyle. Dla przedziału 95% granicami są zwykle 2,5. i 97,5. percentyl rozkładu bootstrapowego:

CI95% = [Q0,025(θ̂*), Q0,975(θ̂*)]

Q_0,025 oznacza 2,5. percentyl, a Q_0,975 – 97,5. percentyl. Na przykład, jeżeli po 10 000 powtórzeń otrzymamy granice 4,1 i 8,7 punktu, raportujemy bootstrapowy 95% przedział ufności od 4,1 do 8,7 punktu.

Metoda percentylowa jest łatwa do wyjaśnienia, ale nie zawsze jest optymalna. Rozkład bootstrapowy może być asymetryczny, obciążony lub zależny od szczególnych cech statystyki. W takich sytuacjach rozważa się między innymi przedział skorygowany o obciążenie i przyspieszenie, czyli BCa, przedział studentyzowany albo przedział oparty na odwróceniu testu bootstrapowego. Wybór metody powinien wynikać z właściwości danych, estymatora i projektu badania, a nie wyłącznie z dostępności określonej opcji w programie komputerowym (Carpenter i Bithell, 2000).

5. Przykład 1: średnie ciśnienie tętnicze

W badaniu 12 pacjentów poradni podstawowej opieki zdrowotnej zmierzono skurczowe ciśnienie tętnicze po tygodniu stosowania programu edukacyjnego. Średnia w próbie wyniosła 138 mmHg. Badacz chce ocenić precyzję średniej, ale rozkład wyników jest umiarkowanie asymetryczny, a próba niewielka.

Procedura może wyglądać następująco:

1. z 12 wyników losujemy ze zwracaniem 12 wartości;
2. obliczamy średnią dla tej próby;
3. powtarzamy czynność 10 000 razy;
4. otrzymujemy 10 000 średnich bootstrapowych;
5. wyznaczamy 2,5. i 97,5. percentyl.

Załóżmy, że bootstrapowy przedział 95% wyniósł 131–146 mmHg. Interpretacja brzmi: na podstawie zastosowanej procedury bootstrapowej dane wskazują na niepewność estymacji średniego ciśnienia, której przedział obejmuje wartości od 131 do 146 mmHg. Nie oznacza to, że 95% pojedynczych pacjentów ma ciśnienie w tym zakresie ani że istnieje 95% prawdopodobieństwo, iż stała średnia populacji znajduje się w tym konkretnym, już obliczonym przedziale.

W praktyce należy także sprawdzić, czy 12 obserwacji można traktować jako niezależne oraz czy nie występują wartości odstające. Jeżeli pomiary były powtarzane u tych samych osób, zwykłe losowanie pojedynczych pomiarów może naruszać strukturę danych. Wtedy jednostką resamplingu powinien być pacjent, a nie pojedynczy pomiar.

6. Przykład 2: mediana czasu oczekiwania na pomoc

W analizie zespołu ratownictwa medycznego badano czas od przyjęcia zgłoszenia do przybycia zespołu. Rozkład czasu był silnie prawoskośny: większość zgłoszeń obsłużono szybko, ale kilka przypadków trwało bardzo długo. Mediana wyniosła 11 minut.

Dla mediany klasyczny wzór oparty na rozkładzie normalnym może być mniej naturalny niż dla średniej. Bootstrap pozwala wielokrotnie obliczać medianę dla prób losowanych ze zwracaniem. Jeżeli 95% przedział percentylowy wynosi 9–15 minut, wynik można przedstawić jako: „mediana czasu oczekiwania wyniosła 11 minut, a bootstrapowy 95% przedział ufności dla mediany wyniósł 9–15 minut”.

W tym przykładzie bootstrap jest atrakcyjny, ponieważ nie wymaga przyjęcia, że czas oczekiwania ma rozkład normalny. Nie oznacza to jednak, że jest całkowicie bezzałożeniowy. Nadal potrzebujemy sensownego schematu próbkowania, odpowiedniej reprezentatywności danych i właściwego uwzględnienia zależności, na przykład różnic między rejonami operacyjnymi, porami dnia lub typami zgłoszeń.

7. Bootstrap parametryczny i nieparametryczny

W bootstrapie nieparametrycznym losujemy bezpośrednio z obserwowanej próby. Nie zakładamy konkretnego rozkładu populacji, choć pozostają założenia dotyczące niezależności i podobieństwa próby do populacji.

W bootstrapie parametrycznym najpierw dopasowujemy model, na przykład rozkład normalny, Poissona albo model regresji. Następnie generujemy nowe dane z tego modelu, używając oszacowanych parametrów. Metoda może być efektywniejsza, jeśli model jest dobrze określony, ale będzie wrażliwa na jego błędną specyfikację.

W danych zależnych stosuje się odmiany dopasowane do struktury obserwacji, na przykład bootstrap blokowy dla szeregów czasowych, bootstrap klastrowy dla osób zgrupowanych w placówkach oraz bootstrap warstwowy, gdy projekt obejmuje warstwy o odmiennych prawdopodobieństwach doboru. Nie wolno mechanicznie stosować zwykłego bootstrapu do każdego zbioru danych (Davison i Hinkley, 1997).

8. Ile powtórzeń bootstrapowych?

Liczba powtórzeń B wpływa na stabilność wyników obliczeń. Dla prostego oszacowania błędu standardowego często wystarcza kilka tysięcy powtórzeń. Dla kwantyli, skrajnych percentyli, przedziałów BCa lub złożonych statystyk korzystne może być 10 000 albo więcej powtórzeń. Sama duża liczba powtórzeń nie naprawi jednak złego projektu badania, zależności między obserwacjami ani niereprezentatywnej próby.

Wynik bootstrapowy zawiera także losowość obliczeniową. Dwa uruchomienia procedury mogą dać nieco inne granice, zwłaszcza gdy B jest małe. Z tego powodu warto ustawić ziarno generatora liczb losowych, podać liczbę powtórzeń i opisać metodę konstruowania przedziału. Przejrzystość raportowania jest częścią jakości analizy.

9. Najczęstsze błędy

• Traktowanie bootstrapu jako sposobu na zwiększenie próby. Powtórzenia danych nie tworzą nowych niezależnych uczestników.
• Losowanie pojedynczych obserwacji mimo zależności. W badaniach podłużnych, klastrowych i powtarzanych pomiarów trzeba resamplować właściwe jednostki.
• Automatyczny wybór przedziału percentylowego. Percentylowy bootstrap nie jest zawsze najlepszą metodą, zwłaszcza przy silnej asymetrii lub obciążeniu.
• Ignorowanie małej liczebności próby. Bootstrap nie gwarantuje dobrego przybliżenia przy bardzo małej próbie i problematycznej reprezentatywności.
• Mylenie bootstrapu z testem permutacyjnym. Bootstrap służy zwykle do przybliżenia zmienności estymatora, natomiast permutacja konstruuje rozkład statystyki pod określoną hipotezą zerową.
• Interpretowanie przedziału jako prawdopodobieństwa dla parametru. W klasycznej interpretacji częstość pokrycia dotyczy procedury stosowanej w hipotetycznych powtórzeniach badań.
• Raportowanie wyłącznie wartości p. Bootstrap powinien pomagać opisywać niepewność, wielkość efektu i zakres wartości zgodnych z danymi, a nie zastępować ocenę znaczenia praktycznego.

10. Przykład praktyczny: różnica median w psychologii zdrowia

Załóżmy, że w badaniu programu redukcji stresu porównano czas trwania snu w grupie interwencyjnej i kontrolnej. W każdej grupie rozkład czasu snu jest asymetryczny, dlatego badacz jako miarę położenia wybiera medianę. Różnica median wynosi 42 minuty.

Można przeprowadzić bootstrap niezależny: w każdym powtórzeniu losować ze zwracaniem tyle osób z grupy interwencyjnej, ile liczyła grupa pierwotna, oraz tyle osób z grupy kontrolnej, ile liczyła grupa kontrolna. Następnie obliczyć różnicę median. Po 10 000 powtórzeń otrzymano przedział BCa 95% od 8 do 76 minut.

Wniosek powinien być ostrożny: dane są zgodne z dodatnią różnicą median czasu snu, a jej niepewność została oszacowana na 8–76 minut. Jeżeli badanie było randomizowane i właściwie przeprowadzone, można rozważać interpretację przyczynową w odniesieniu do programu. Jeżeli był to projekt obserwacyjny, wynik należy opisać jako różnicę między grupami, bez stwierdzania, że program spowodował wydłużenie snu.

Warto również ocenić znaczenie praktyczne. Dolna granica 8 minut może być mała z punktu widzenia pacjentów, podczas gdy 76 minut może być bardzo istotne. Sam fakt, że przedział nie obejmuje zera, nie rozstrzyga, czy efekt jest klinicznie lub społecznie ważny. Bootstrap pomaga opisać precyzję, ale próg istotności praktycznej musi wynikać z wiedzy dziedzinowej.

11. Jak raportować bootstrap?

Dobry opis powinien zawierać: statystykę estymowaną, sposób resamplingu, jednostkę losowania, liczbę powtórzeń, rodzaj przedziału ufności oraz granice przedziału. Przykład: „Różnicę median oszacowano metodą nieparametrycznego bootstrapu klastrowego z 10 000 powtórzeń. Zastosowano przedział BCa 95%, który wyniósł od 8 do 76 minut”.

Jeżeli analiza była wykonana w ramach projektu opisywanego w publicznym szkoleniu na statystyk.edu.pl, warto zachować zgodność między kodem, tabelą i opisem metody. Czytelnik powinien móc odtworzyć procedurę albo przynajmniej zrozumieć, jakie decyzje analityczne podjęto.

Co warto zapamiętać?

• Bootstrap przybliża zmienność estymatora przez wielokrotne losowanie z próby.
• W klasycznym bootstrapie losujemy ze zwracaniem tyle obserwacji, ile zawiera próba pierwotna.
• Rozkład bootstrapowy może służyć do oszacowania błędu standardowego oraz przedziału ufności.
• Przedział percentylowy jest intuicyjny, lecz nie zawsze najlepszy; istnieją także metody BCa i studentyzowane.
• Bootstrap nie naprawia błędów projektu, niereprezentatywności próby ani zależności nieuwzględnionych w resamplingu.
• Wniosek statystyczny należy oddzielić od oceny wielkości efektu, znaczenia praktycznego i ewentualnych wniosków przyczynowych.

Bootstrap warto traktować jako sposób myślenia o estymacji: zamiast pytać wyłącznie o jeden wynik, badamy, jak wynik zachowuje się w wielu wiarygodnych odtworzeniach próby. Dzięki temu metoda dobrze łączy intuicję, obliczenia komputerowe i formalne wnioskowanie o niepewności.

Źródła i dalsza lektura

1. Efron, B. (1979). Bootstrap Methods: Another Look at the Jackknife. The Annals of Statistics, 7(1), 1–26. DOI: 10.1214/aos/1176344552.
2. Efron, B.; Tibshirani, R. J. (1993). An Introduction to the Bootstrap. Chapman & Hall. Informacja wydawcy / źródło.
3. Davison, A. C.; Hinkley, D. V. (1997). Bootstrap Methods and Their Application. Cambridge University Press. Informacja wydawcy / źródło.
4. Carpenter, J.; Bithell, J. (2000). Bootstrap Confidence Intervals: When, Which, What? A Practical Guide for Medical Statisticians. Statistics in Medicine, 19(9), 1141–1164. DOI: 10.1002/(SICI)1097-0258(20000515)19:9<1141::AID-SIM479>3.0.CO;2-F.
5. Hesterberg, T. C. (2015). What Teachers Should Know About the Bootstrap: Resampling in the Undergraduate Statistics Curriculum. The American Statistician, 69(4), 371–386. DOI: 10.1080/00031305.2015.1089789.