473. Regresja logistyczna – gdy wynik jest 0/1

Lekcja 473 z 560. Moduł 24: Regresja i modelowanie.

W poprzednich lekcjach analizowaliśmy regresję liniową, w której zmienna wynikowa była ilościowa, na przykład ciśnienie tętnicze albo wynik testu psychologicznego. W praktyce badawczej często interesuje nas jednak wynik mający tylko dwie kategorie: wystąpiła hospitalizacja albo nie, pacjent przeżył albo zmarł, rozpoznano depresję albo nie rozpoznano jej, badany podjął interwencję albo jej nie podjął. W takich sytuacjach naturalnym narzędziem jest regresja logistyczna.

Model ten nie służy wyłącznie do „przewidywania etykiety” 0/1. Pozwala także opisać związek między wynikiem binarnym a jednym lub wieloma predyktorami, z uwzględnieniem potencjalnych zmiennych zakłócających. Jak zawsze w kursie na statystyk.edu.pl, kluczowe jest nie tylko wykonanie obliczeń, lecz także poprawne określenie pytania badawczego, schematu badania i sposobu interpretacji wyniku.

Kiedy stosuje się regresję logistyczną?

Regresję logistyczną stosujemy wtedy, gdy zmienna wynikowa ma dwie wzajemnie wykluczające się wartości. Można je zapisać jako:

  • Y = 1 — wystąpienie zdarzenia będącego przedmiotem zainteresowania;
  • Y = 0 — brak tego zdarzenia.

Przykładami są: zakażenie tak/nie, readmisja w ciągu 30 dni tak/nie, palenie papierosów tak/nie, obecność objawów tak/nie, zdanie egzaminu tak/nie. Kodowanie 0 i 1 jest techniczne. Nie oznacza, że kategorie są ilościami ani że różnica między 0 i 1 ma taki sam sens jak różnica między 40 a 41 punktami.

Regresja logistyczna może mieć jeden predyktor, ale często używa się jej w modelu wielozmiennowym. Predyktorami mogą być zmienne ilościowe, takie jak wiek, stężenie glukozy lub liczba godzin snu, a także zmienne kategorialne, na przykład płeć, rodzaj leczenia czy poziom wykształcenia. Zmienne kategorialne wprowadza się do modelu za pomocą odpowiedniego kodowania, zwykle zmiennych zero-jedynkowych.

Dlaczego nie wystarczy regresja liniowa?

Gdybyśmy zastosowali regresję liniową do wyniku 0/1, otrzymalibyśmy model, który może przewidywać wartości mniejsze od 0 albo większe od 1. Nie byłyby one interpretowalne jako prawdopodobieństwa. Ponadto regresja liniowa zakłada między innymi stałą wariancję reszt, a dla wyniku binarnego wariancja zależy od średniej.

Regresja logistyczna rozwiązuje ten problem, modelując nie bezpośrednio prawdopodobieństwo, lecz logit, czyli logarytm ilorazu szans. Dzięki temu prawdopodobieństwo wynikające z modelu zawsze mieści się w przedziale od 0 do 1, a zależność między predyktorami i przekształconym wynikiem może być liniowa.

Model regresji logistycznej

Podstawowy model można zapisać następująco:

logit(p) = ln(p / (1 − p)) = β₀ + β₁X₁ + β₂X₂ + ... + βₖXₖ

W tym wzorze:

  • p oznacza prawdopodobieństwo wystąpienia zdarzenia, czyli prawdopodobieństwo, że Y = 1;
  • p / (1 − p) to szanse wystąpienia zdarzenia, zwane też odds;
  • ln oznacza logarytm naturalny;
  • β₀ jest wyrazem wolnym, czyli wartością logitu dla osoby lub jednostki, dla której wszystkie predyktory mają wartość 0;
  • β₁, β₂, …, βₖ są współczynnikami regresji;
  • X₁, X₂, …, Xₖ oznaczają wartości predyktorów.

Model można również przekształcić do postaci prawdopodobieństwa:

p = exp(β₀ + β₁X₁ + ... + βₖXₖ) / (1 + exp(β₀ + β₁X₁ + ... + βₖXₖ))

W praktyce badacz zwykle nie interpretuje bezpośrednio współczynnika β w skali logitu. Bardziej intuicyjną miarą jest iloraz szans:

OR = exp(β)

Iloraz szans opisuje zmianę szans wystąpienia zdarzenia związanej ze wzrostem danego predyktora o jedną jednostkę, przy pozostałych predyktorach utrzymanych na stałym poziomie.

Jak interpretować iloraz szans?

Interpretacja zależy od wartości OR:

  • OR = 1 oznacza brak związku w modelu dla określonej zmiany predyktora;
  • OR > 1 oznacza większe szanse wystąpienia zdarzenia;
  • OR < 1 oznacza mniejsze szanse wystąpienia zdarzenia.

Jeżeli dla palenia papierosów uzyskano OR = 1,80, można powiedzieć, że — przy pozostałych zmiennych stałych — szanse badanego zdarzenia są 1,80 razy większe w grupie palaczy niż w grupie niepalących. Nie należy automatycznie mówić, że ryzyko jest o 80% większe. Iloraz szans i iloraz ryzyka są różnymi miarami, a ich wartości mogą znacznie się różnić, szczególnie gdy zdarzenie nie jest rzadkie (Sperandei, 2014).

Jeżeli OR = 0,70, szanse są 0,70 wartości referencyjnej. Można to także opisać jako względne zmniejszenie szans o 30%, obliczając (1 − 0,70) × 100%. Nadal nie jest to automatycznie 30-procentowe zmniejszenie ryzyka.

Każdy iloraz szans powinien być przedstawiany z przedziałem ufności, najczęściej 95%, oraz informacją o sposobie kodowania i jednostce predyktora. Dla zmiennej „wiek w latach” OR dotyczy wzrostu wieku o jeden rok. Jeżeli taki efekt jest mały lub trudny do interpretacji, można przeskalować zmienną, na przykład raportować OR dla każdych 10 lat.

Przykład 1: readmisja pacjentów

Załóżmy, że w badaniu obserwacyjnym analizowano, czy pacjent został ponownie przyjęty do szpitala w ciągu 30 dni od wypisu. Wynik zakodowano jako 1 — readmisja i 0 — brak readmisji. Predyktorami były: wiek, liczba chorób przewlekłych, długość hospitalizacji oraz obecność niewydolności serca.

W modelu uzyskano następujące wyniki:

Predyktor OR 95% PU p
Wiek, każdy dodatkowy rok 1,02 1,00–1,04 0,041
Każda dodatkowa choroba przewlekła 1,35 1,18–1,55 <0,001
Niewydolność serca: tak vs nie 1,90 1,25–2,89 0,002

Interpretacja pierwszego wiersza brzmi: przy stałym poziomie pozostałych predyktorów każdy dodatkowy rok wieku wiąże się z ilorazem szans readmisji równym 1,02. W praktyce pojedynczy rok daje niewielką różnicę, ale efekt dla 10 lat można oszacować jako 1,02¹⁰ ≈ 1,22, o ile założenie liniowości wieku na skali logitu jest rozsądne.

Pacjenci z każdą dodatkową chorobą przewlekłą mają w tym modelu 1,35 razy większe szanse readmisji, czyli około 35% większe szanse. Wynik nie dowodzi jednak, że choroby przewlekłe przyczyniają się do readmisji w sensie przyczynowym. Jeśli badanie było obserwacyjne, możliwe są niepełna kontrola zakłóceń, błąd pomiaru i selekcja pacjentów.

Przykład 2: objawy depresyjne i jakość snu

W badaniu studentów psychologii wynikiem była obecność istotnych klinicznie objawów depresyjnych: 1 — tak, 0 — nie. Analizowano liczbę godzin snu, poziom stresu, aktywność fizyczną i sytuację materialną. Dla liczby godzin snu uzyskano OR = 0,82 dla każdej dodatkowej godziny, po uwzględnieniu pozostałych zmiennych.

Oznacza to, że każda dodatkowa godzina snu wiąże się z ilorazem szans objawów depresyjnych równym 0,82, czyli z około 18% mniejszymi szansami w analizowanej populacji. Nie można jednak stwierdzić, że wydłużenie snu o jedną godzinę spowoduje zmniejszenie ryzyka depresji, jeśli dane mają charakter przekrojowy. Kierunek zależności może być częściowo odwrotny: objawy depresyjne mogą wpływać na sen. Wnioski przyczynowe wymagają odpowiedniego projektu badania i kontroli założeń identyfikacyjnych.

Estymacja i testowanie współczynników

Współczynniki regresji logistycznej są zwykle estymowane metodą największej wiarygodności. Procedura poszukuje takich wartości parametrów, dla których zaobserwowane dane są najbardziej zgodne z modelem. Współczynnik można testować za pomocą statystyki Walda, testu ilorazu wiarygodności albo testu wynikającego z porównania modeli.

Wartość p informuje o zgodności danych z hipotezą zerową, najczęściej zakładającą, że dany współczynnik w populacji wynosi 0, a więc że OR = 1. Nie jest prawdopodobieństwem prawdziwości hipotezy zerowej, prawdopodobieństwem braku efektu ani prawdopodobieństwem, że wynik został uzyskany „przypadkiem”. Interpretację należy łączyć z przedziałem ufności, wielkością efektu, jakością danych i znaczeniem praktycznym.

W modelu wielozmiennowym współczynnik opisuje związek predyktora z wynikiem po uwzględnieniu innych zmiennych znajdujących się w modelu. Nie oznacza to jednak, że model automatycznie kontroluje wszystkie możliwe czynniki zakłócające. Dobór zmiennych powinien wynikać z wiedzy dziedzinowej, projektu badania i celu analizy, a nie wyłącznie z mechanicznego pozostawiania zmiennych o małych wartościach p.

Ocena modelu

Dopasowanie i kalibracja

Model należy oceniać nie tylko na podstawie pojedynczego testu istotności. Ważne są miary dopasowania, kalibracji i zdolności dyskryminacyjnej. Kalibracja opisuje zgodność przewidywanych prawdopodobieństw z częstościami obserwowanymi. Model przewidujący prawdopodobieństwo 0,20 powinien, w grupach podobnych pod względem przewidywań, generować zdarzenie mniej więcej u 20% osób.

Dyskryminacja oznacza zdolność modelu do nadawania większych przewidywanych prawdopodobieństw osobom, u których zdarzenie wystąpiło, niż osobom bez zdarzenia. Często podaje się pole pod krzywą ROC, czyli AUC. AUC nie mówi jednak, czy prawdopodobieństwa są dobrze skalibrowane, ani czy model jest klinicznie użyteczny.

Walidacja

Jeżeli model ma służyć do prognozowania, trzeba ocenić jego działanie na danych innych niż te, na których go zbudowano. Walidacja wewnętrzna może wykorzystywać bootstrap lub walidację krzyżową. Walidacja zewnętrzna sprawdza model w innej populacji, ośrodku lub okresie. Nadmiernie rozbudowany model może dobrze pasować do próby, ale słabo działać poza nią, co określa się jako przeuczenie. Problematyka budowy i walidacji modeli predykcyjnych jest szeroko omawiana przez Steyerberga (2019).

Założenia i decyzje modelowe

  • Binarny wynik: obserwacje powinny mieć jasno zdefiniowaną kategorię zdarzenia i kategorię odniesienia.
  • Niezależność obserwacji: zwykła regresja logistyczna nie jest właściwa, gdy osoby tworzą klastry, na przykład pacjenci są zagnieżdżeni w szpitalach. Wtedy należy rozważyć modele wielopoziomowe lub metody uwzględniające korelację.
  • Liniowość na skali logitu: dla ciągłego predyktora zakłada się, że jego związek z logitem prawdopodobieństwa jest liniowy, chyba że model zawiera wielomiany, splajny albo inne funkcje nieliniowe.
  • Brak nadmiernej współliniowości: silnie skorelowane predyktory mogą destabilizować współczynniki i zwiększać ich niepewność.
  • Wystarczająca liczba zdarzeń: niewiele zdarzeń w stosunku do liczby parametrów może prowadzić do niestabilnych estymacji i przeuczenia. Dawna prosta reguła „10 zdarzeń na zmienną” nie powinna być traktowana jako uniwersalne prawo, ale mała liczba zdarzeń rzeczywiście wymaga ostrożności i często metod redukujących obciążenie (Peduzzi i in., 1996).

Przykład praktyczny: analiza przypadku

Zespół ratownictwa chce ocenić, czy na podstawie wieku, częstości oddechów, saturacji i zaburzeń świadomości można oszacować prawdopodobieństwo przyjęcia pacjenta na oddział intensywnej terapii. Wynik jest binarny: 1 — przyjęcie na OIT, 0 — brak przyjęcia.

Najpierw badacze powinni zdefiniować populację, moment pomiaru predyktorów oraz kryteria wyniku. Jeżeli saturację mierzono już po wdrożeniu leczenia, może ona nie odpowiadać stanowi pacjenta przy przyjęciu. Następnie należy sprawdzić brakujące dane, rozkłady predyktorów, liczbę przyjęć na OIT oraz ewentualne zależności nieliniowe.

Załóżmy, że dla saturacji, po przeskalowaniu o 5 punktów procentowych, otrzymano OR = 0,64. Interpretacja brzmi: spadek saturacji o 5 punktów wiąże się z mnożnikiem szans przyjęcia na OIT równym 1/0,64, czyli około 1,56, przy pozostałych zmiennych stałych. Trzeba jednak jasno wskazać kierunek kodowania i jednostkę zmiany. Samo zdanie „saturacja ma OR = 0,64” jest niepełne.

W raporcie należy podać liczbę obserwacji, liczbę zdarzeń, definicję wyniku, listę predyktorów, sposób kodowania kategorii, sposób postępowania z brakami danych, OR z 95% PU oraz metody oceny modelu. Takie elementy są zgodne z duchem wytycznych STROBE dla badań obserwacyjnych (von Elm i in., 2007).

Najczęstsze błędy

  1. Mylenie OR z ryzykiem. Iloraz szans nie jest tym samym co iloraz ryzyka ani różnica ryzyka.
  2. Interpretowanie OR bez jednostki. Dla wieku, ciśnienia czy wyniku testu trzeba podać, jakiej zmiany predyktora dotyczy OR.
  3. Traktowanie wartości p jako prawdopodobieństwa hipotezy. Wartość p nie mówi, że H0 ma na przykład 4% szans na prawdziwość.
  4. Automatyczne wnioskowanie przyczynowe. Model obserwacyjny może opisywać skorygowany związek, ale sama regresja nie usuwa wszystkich źródeł zakłócenia.
  5. Usuwanie zmiennych wyłącznie na podstawie wartości p. Zmienna może być ważna jako potencjalny czynnik zakłócający mimo braku statystycznej istotności.
  6. Ignorowanie nieliniowości. Wiek lub biomarker może nie mieć liniowego związku z logitem. Warto sprawdzić wykresy, splajny lub uzasadnione kategorie.
  7. Budowanie modelu na zbyt małej liczbie zdarzeń. Wtedy współczynniki mogą być skrajne, a przedziały ufności bardzo szerokie.
  8. Raportowanie wyłącznie AUC. Dobra dyskryminacja nie gwarantuje dobrej kalibracji ani użyteczności klinicznej.
  9. Brak informacji o kategorii referencyjnej. OR dla płci, leczenia lub poziomu wykształcenia nie da się poprawnie odczytać bez wskazania grupy odniesienia.

Co warto zapamiętać?

  • Regresja logistyczna służy do modelowania wyniku binarnego, najczęściej zakodowanego jako 0/1.
  • Model jest liniowy na skali logitu, a nie bezpośrednio na skali prawdopodobieństwa.
  • Współczynnik regresji można przekształcić do ilorazu szans przez obliczenie exp(β).
  • OR większy od 1 oznacza większe szanse, OR mniejszy od 1 — mniejsze szanse, ale nie należy utożsamiać OR z ryzykiem.
  • Interpretacja zawsze wymaga podania jednostki zmiany, kategorii referencyjnej i pozostałych zmiennych w modelu.
  • Istotność statystyczna, wielkość efektu i znaczenie praktyczne to trzy różne kwestie.
  • Dobry raport obejmuje nie tylko OR i wartości p, lecz także przedziały ufności, definicję wyniku, sposób kodowania, liczbę zdarzeń, ocenę kalibracji i ograniczenia badania.

Regresja logistyczna jest jednym z podstawowych modeli w epidemiologii, medycynie, psychologii i naukach społecznych. Jej poprawne zastosowanie wymaga jednak więcej niż wybrania procedury w programie statystycznym. Najpierw trzeba określić, jakie zdarzenie modelujemy, następnie dobrać predyktory zgodnie z pytaniem badawczym, sprawdzić jakość danych i dopiero wtedy interpretować uzyskane ilorazy szans.

Źródła i dalsza lektura

  1. David W. Hosmer Jr., Stanley Lemeshow, Rodney X. Sturdivant (2013). Applied Logistic Regression. 3rd edition. John Wiley & Sons, Hoboken, New Jersey. Informacja wydawcy / źródło.
  2. Sandro Sperandei (2014). Understanding logistic regression analysis. Biochemia Medica, 24(1), 12–18. DOI: 10.11613/BM.2014.003.
  3. Eric Vittinghoff, David V. Glidden, Stephen C. Shiboski, Charles E. McCulloch (2012). Regression Methods in Biostatistics: Linear, Logistic, Survival, and Repeated Measures Models. 2nd edition. Springer, New York. Informacja wydawcy / źródło.
  4. Peter Peduzzi, John Concato, Elizabeth Kemper, Theodore R. Holford, Alvan R. Feinstein (1996). A simulation study of the number of events per variable in logistic regression analysis. Journal of Clinical Epidemiology, 49(12), 1373–1379. DOI: 10.1016/S0895-4356(96)00236-3.
  5. Erik von Elm, Douglas G. Altman, Matthias Egger, Stuart J. Pocock, Peter C. Gøtzsche, Jan P. Vandenbroucke, for the STROBE Initiative (2007). The Strengthening the Reporting of Observational Studies in Epidemiology (STROBE) Statement: Guidelines for Reporting Observational Studies. PLoS Medicine, 4(10), e296. DOI: 10.1371/journal.pmed.0040296.
  6. Ewout W. Steyerberg (2019). Clinical Prediction Models: A Practical Approach to Development, Validation, and Updating. 2nd edition. Springer, Cham. Informacja wydawcy / źródło.

Podobne wpisy

2 komentarze

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *