479. Selekcja zmiennych krokowa – dlaczego bywa krytykowana?

Selekcja zmiennych krokowa jest jedną z najczęściej spotykanych automatycznych procedur budowy modelu regresyjnego. Program statystyczny może kolejno dodawać zmienne do modelu, usuwać je albo wykonywać oba działania naprzemiennie. Prostota tej procedury bywa kusząca: badacz otrzymuje krótszy model, listę „istotnych” predyktorów i pozornie przejrzystą odpowiedź na pytanie, które zmienne wiążą się z wynikiem. Problem polega na tym, że algorytm dopasowuje model do konkretnej próby, a nie bezpośrednio do stabilnych prawidłowości w populacji. W tej lekcji kursu na statystyk.edu.pl wyjaśniamy, skąd biorą się najważniejsze zastrzeżenia i jak rozsądniej planować modelowanie.

Na czym polega selekcja krokowa?

Załóżmy, że chcemy przewidywać wynik Y na podstawie zbioru potencjalnych predyktorów X. W regresji liniowej pełny model można zapisać jako:

Yi = β0 + β1X1i + β2X2i + … + βpXpi + εi

  • Yi – wartość zmiennej objaśnianej u osoby lub jednostki i;
  • β0 – wyraz wolny;
  • βj – parametr opisujący związek między predyktorem Xj a wynikiem, przy pozostałych zmiennych w modelu;
  • Xji – wartość j-tego predyktora u jednostki i;
  • εi – składnik losowy, czyli część wyniku niewyjaśniona przez model.

W selekcji krokowej nie ustala się z góry jednego modelu na podstawie teorii, wiedzy klinicznej lub planu analizy. Zamiast tego algorytm porównuje wiele możliwych modeli i wybiera kolejne zmienne według określonego kryterium. W procedurze forward selection zaczyna się od modelu pustego albo od kilku zmiennych wymuszonych, a następnie dodaje predyktor, który najbardziej poprawia przyjęte kryterium. W procedurze backward elimination zaczyna się od modelu pełnego i usuwa zmienne uznane za najmniej przydatne. Procedura stepwise może po każdym dodaniu ponownie sprawdzać, czy wcześniejsze zmienne nadal powinny pozostać w modelu.

Kryterium selekcji może opierać się na wartości p, statystyce testowej, zmianie skorygowanego R2, AIC albo BIC. Nie są to jednak równoważne strategie. Model wybrany przez próg p = 0,05 odpowiada innemu celowi niż model wybrany przez minimalizację AIC. Samo określenie „regresja krokowa” nie wystarcza zatem do odtworzenia analizy; trzeba podać kierunek procedury, zbiór kandydatów, kryterium wejścia i usunięcia oraz sposób oceny modelu.

Dlaczego procedura bywa krytykowana?

1. Model wykorzystuje tę samą próbę do poszukiwania i oceny

Najważniejszy problem polega na tym, że dane służą jednocześnie do wyboru zmiennych i do oszacowania końcowych parametrów. Jeżeli spośród wielu kandydatów algorytm wybiera te, które najlepiej pasują do przypadkowych cech próby, końcowy model może wyglądać lepiej, niż będzie działał w nowych danych. Jest to szczególny rodzaj dopasowania do szumu, czyli overfitting (Babyak, 2004).

W modelu wybranym po przetestowaniu wielu możliwości współczynniki są często zbyt duże co do wartości bezwzględnej, a miary dopasowania zbyt optymistyczne. Dotyczy to również błędów standardowych i przedziałów ufności, jeżeli oblicza się je tak, jakby model został ustalony przed obejrzeniem danych. Klasyczne wzory dla regresji nie uwzględniają w prosty sposób dodatkowej niepewności wynikającej z samej selekcji.

2. Wielokrotne testowanie hipotez jest ukryte w algorytmie

Gdy analizujemy wiele predyktorów, wykonujemy w praktyce wiele porównań. Nawet jeśli wszystkie prawdziwe związki są zerowe, część zmiennych może przypadkowo uzyskać małe wartości p. Algorytm wybiera właśnie te, które w danej próbie wyglądają najlepiej. Następnie badacz może opisać ich wartość p tak, jakby przeprowadzono jeden wcześniej zaplanowany test.

Wartość p nie jest prawdopodobieństwem prawdziwości hipotezy zerowej. Nie mówi również, że prawdopodobieństwo przypadkowego wyniku wynosi p. W selekcji krokowej problem jest jeszcze większy, ponieważ rozkład statystyki po wyborze modelu nie odpowiada zwykle prostemu rozkładowi zakładanemu dla pojedynczego testu. Stata zwraca uwagę, że standardowe testy i wartości p prezentowane dla zmiennych po selekcji nie mają bezwarunkowo deklarowanych własności (StataCorp, 2026).

3. Niestabilność modelu

Niewielka zmiana danych może prowadzić do dużej zmiany wybranego zestawu predyktorów. Usunięcie jednej obserwacji, losowy podział próby albo ponowne zebranie danych może sprawić, że inna zmienna wejdzie do modelu, a wcześniej wybrana zostanie odrzucona. Zjawisko to jest szczególnie wyraźne przy małej próbie, wielu predyktorach i silnej współliniowości.

Jeżeli dwie zmienne mierzą podobny konstrukt, na przykład obwód pasa i wskaźnik masy ciała, algorytm może wybrać jedną z nich zależnie od przypadkowych różnic w próbie. Nie oznacza to, że druga zmienna „nie ma znaczenia”. Oznacza tylko, że po uwzględnieniu pierwszej nie poprawiła dopasowania wystarczająco mocno według przyjętej reguły.

4. Sztuczne zawyżenie znaczenia zmiennych

Jeśli w modelu pozostają przede wszystkim predyktory, które przypadkowo osiągnęły dobre wyniki, ich współczynniki mogą być zawyżone. W konsekwencji model może sugerować silniejszy związek niż ten, który występuje w populacji. W badaniach prognostycznych oznacza to ryzyko zbyt optymistycznych prognoz dla nowych pacjentów. Harrell wskazuje, że automatyczna selekcja może powodować zniekształcenie współczynników, utratę ważnych zmiennych i niedoszacowanie niepewności modelu (Harrell, 2015).

5. Pomieszanie celu predykcyjnego i wyjaśniającego

Wybór zmiennych wyłącznie na podstawie dopasowania nie odpowiada na pytanie, czy zmienna jest ważnym czynnikiem etiologicznym, klinicznym lub zakłócającym. Zmienna może być słabym predyktorem, ale koniecznym elementem kontroli konfuzji. Z kolei zmienna silnie skorelowana z wynikiem może poprawiać predykcję, ale nie być przyczyną badanego zjawiska.

Przykładowo, w analizie związku palenia tytoniu z hospitalizacją z powodu choroby płuc wiek może nie osiągnąć kryterium wejścia przy małej próbie. Nie oznacza to, że należy go ignorować. Wiek może być ważnym czynnikiem zakłócającym i powinien zostać uwzględniony na podstawie wiedzy merytorycznej, nawet jeżeli jego pojedyncza wartość p jest większa od 0,05.

Przykład 1: ryzyko readmisji po hospitalizacji

Załóżmy, że zespół bada 180 pacjentów wypisanych ze szpitala i chce przewidywać readmisję w ciągu 30 dni. Do analizy zgłoszono 18 potencjalnych predyktorów: wiek, płeć, liczbę chorób przewlekłych, wcześniejsze hospitalizacje, długość pobytu, stężenie hemoglobiny, poziom kreatyniny, wyniki skali funkcjonalnej, status społeczny, palenie, spożywanie alkoholu, wsparcie opiekuna i kilka zmiennych organizacyjnych.

W regresji logistycznej procedura backward usuwa kolejno zmienne o największych wartościach p. Ostatecznie pozostają: liczba wcześniejszych hospitalizacji, wynik skali funkcjonalnej i brak opiekuna. Badacz stwierdza, że pozostałe zmienne „nie są związane z readmisją”. Taki wniosek jest zbyt mocny. Możliwe są co najmniej cztery wyjaśnienia:

  • próba była zbyt mała w stosunku do liczby kandydatów;
  • zmienne medyczne były ze sobą skorelowane;
  • wartości p nie uwzględniały selekcji;
  • model został dopasowany i oceniony na tych samych pacjentach.

Lepszym rozwiązaniem byłoby wcześniejsze określenie minimalnego zestawu klinicznie uzasadnionych zmiennych, ograniczenie liczby parametrów przez plan badania oraz zastosowanie walidacji wewnętrznej. Jeżeli celem jest predykcja, można rozważyć regresję z karą, na przykład ridge lub LASSO, ale również oceniać ją za pomocą resamplingu i raportować kalibrację oraz dyskryminację. Jeżeli celem jest wyjaśnianie związku, model powinien wynikać z pytania badawczego i założeń dotyczących konfuzji, a nie wyłącznie z algorytmu.

Przykład 2: stres i jakość życia studentów pielęgniarstwa

W badaniu przekrojowym 250 studentów oceniono jakość życia oraz 25 potencjalnych zmiennych: stres akademicki, sen, wsparcie społeczne, sytuację finansową, aktywność fizyczną, pracę zarobkową, płeć, wiek, rok studiów i cechy związane z praktykami klinicznymi. Procedura forward wybiera najpierw sen, następnie stres akademicki, a na końcu aktywność fizyczną. Wszystkie pozostałe zmienne zostają pominięte.

Wynik może być użyteczny jako punkt wyjścia do eksploracji, ale nie powinien być przedstawiany jako ostateczna lista „czynników wpływających” na jakość życia. Badanie przekrojowe nie rozstrzyga kierunku zależności: gorsza jakość snu może wiązać się z niższą jakością życia, ale niższa jakość życia może także pogarszać sen. Ponadto pominięcie wsparcia społecznego nie dowodzi jego braku znaczenia. Zmienna mogła zostać usunięta dlatego, że była silnie skorelowana ze stresem albo dlatego, że w tej konkretnej próbie nie poprawiała dopasowania.

W raporcie należałoby wyraźnie oddzielić analizę eksploracyjną od potwierdzającej, podać wszystkie rozważane predyktory, kryteria selekcji oraz wyniki walidacji. Wnioski powinny dotyczyć zaobserwowanych związków, a nie przyczynowości.

Czy selekcja krokowa nigdy nie może być użyta?

Krytyka nie oznacza, że każde uruchomienie procedury jest bezwartościowe. Selekcja krokowa może pełnić ograniczoną funkcję eksploracyjną, zwłaszcza gdy badacz jasno deklaruje jej charakter, nie przedstawia wyniku jako ostatecznego testu hipotezy i sprawdza stabilność modelu. Nie powinna jednak być automatycznym substytutem planowania badania.

Jeżeli procedura jest używana, należy co najmniej:

  1. zdefiniować cel modelu: predykcja, opis związku czy wyjaśnianie;
  2. podać pełny zbiór kandydatów i uzasadnić ich wybór;
  3. opisać algorytm, kryterium wejścia i usunięcia;
  4. nie interpretować usunięcia zmiennej jako dowodu braku związku;
  5. ocenić optymizm modelu przez bootstrap lub odpowiednią walidację krzyżową;
  6. raportować nie tylko wartości p, lecz także współczynniki, przedziały ufności, miary dopasowania i znaczenie praktyczne;
  7. sprawdzić, czy wynik powtarza się przy rozsądnych zmianach specyfikacji.

Co stosować zamiast selekcji krokowej?

Model określony z góry

W badaniach ukierunkowanych na weryfikację hipotez często najlepszym rozwiązaniem jest model zaplanowany przed analizą. Zmienne wybiera się na podstawie teorii, wcześniejszych badań, schematu przyczynowego i wiedzy dziedzinowej. Nie trzeba usuwać każdej zmiennej, której wartość p przekracza 0,05.

Regularyzacja

Metody takie jak ridge, LASSO i elastic net ograniczają wielkość współczynników, a niektóre z nich mogą również sprowadzać część współczynników do zera. Ich głównym celem jest zwykle poprawa predykcji i kontrola nadmiernego dopasowania, nie zaś automatyczne tworzenie listy przyczyn. Parametr kary powinien być dobierany w procedurze walidacyjnej, przeprowadzonej bez przecieku informacji między częścią uczącą i oceniającą.

Porównywanie modeli opartych na wiedzy

W niektórych zastosowaniach można zdefiniować kilka sensownych modeli wynikających z różnych hipotez i porównać je za pomocą kryteriów informacyjnych. Nie usuwa to całkowicie niepewności modelowej, ale jest bardziej przejrzyste niż bezrefleksyjne przeszukiwanie wszystkich zmiennych. Można także raportować kilka modeli, zamiast ogłaszać jeden jako jedyny prawdziwy.

Najczęstsze błędy

  • „Zmienne wybrane przez program są najważniejsze”. Są najlepiej dopasowane w konkretnej próbie według określonego kryterium; nie musi to oznaczać ich nadrzędnej ważności naukowej.
  • „Zmienne usunięte nie mają związku z wynikiem”. Brak zatrzymania w algorytmie nie jest dowodem braku związku w populacji.
  • „Małe p po selekcji potwierdza hipotezę”. Wartości p po wielokrotnym poszukiwaniu wymagają ostrożnej interpretacji.
  • „Wysokie R2 oznacza dobry model”. Wysokie dopasowanie w próbie może współistnieć ze słabą predykcją poza próbą.
  • „Regresja krokowa rozwiązuje współliniowość”. Może jedynie arbitralnie wybrać jeden z podobnych predyktorów i zwiększyć niestabilność wniosków.
  • „Selekcja jest neutralna wobec celu badania”. Ta sama procedura może być nieadekwatna do wnioskowania etiologicznego, a częściowo użyteczna w eksploracyjnej predykcji.
  • „Model jest zwalidowany, bo ma dobre dopasowanie”. Walidacja wymaga oceny na nowych lub resamplowanych danych, a nie tylko przedstawienia statystyk z próby użytej do selekcji.

Co warto zapamiętać?

  • Selekcja krokowa przeszukuje wiele modeli, choć wynik często prezentowany jest tak, jakby oceniano jeden model zaplanowany z góry.
  • Najważniejsze zagrożenia to overfitting, niestabilność, obciążenie współczynników, zbyt optymistyczne miary dopasowania i niewiarygodne wartości p.
  • Usunięcie zmiennej przez algorytm nie oznacza, że zmienna jest nieistotna klinicznie, społecznie lub przyczynowo.
  • Model powinien wynikać z celu badania: predykcja i wyjaśnianie wymagają innych priorytetów.
  • Jeśli selekcja jest stosowana, trzeba jawnie opisać jej reguły i ocenić stabilność oraz wydajność modelu poza próbą.
  • W wielu sytuacjach lepsze będą: model zaplanowany merytorycznie, regularyzacja, porównanie kilku uzasadnionych modeli i walidacja wewnętrzna.

Najkrótsza zasada: algorytm może pomóc przeszukać dane, ale nie powinien zastępować pytania badawczego, wiedzy dziedzinowej ani oceny niepewności modelu.

Źródła i dalsza lektura

  1. Babyak, Michael A. (2004). What You See May Not Be What You Get: A Brief, Nontechnical Introduction to Overfitting in Regression-Type Models. Psychosomatic Medicine, 66(3), 411–421. DOI: 10.1097/01.psy.0000127692.23278.a9.
  2. Whittingham, Mark J.; Stephens, Philip A.; Bradbury, Richard B.; Freckleton, Robert P. (2006). Why do we still use stepwise modelling in ecology and behaviour?. Journal of Animal Ecology, 75(5), 1182–1189. DOI: 10.1111/j.1365-2656.2006.01141.x.
  3. Harrell, Frank E., Jr.; Lee, K. L.; Mark, D. B. (1996). Multivariable prognostic models: issues in developing models, evaluating assumptions and adequacy, and measuring and reducing errors. Statistics in Medicine, 15(4), 361–387. DOI: 10.1002/(SICI)1097-0258(19960229)15:4<361::AID-SIM168>3.0.CO;2-4.
  4. Derksen, Sandy; Keselman, Harvey J. (1992). Backward, forward and stepwise automated subset selection algorithms: Frequency of obtaining authentic and noise variables. British Journal of Mathematical and Statistical Psychology, 45(2), 265–282. DOI: 10.1111/j.2044-8317.1992.tb00992.x.
  5. Harrell, Frank E., Jr. (2015). Regression Modeling Strategies: With Applications to Linear Models, Logistic and Ordinal Regression, and Survival Analysis. 2nd edition. Springer. Informacja wydawcy / źródło.
  6. StataCorp LLC (2026). Problems with stepwise regression. Stata Statistical Software: Support FAQ. StataCorp LLC. Źródło.

Podobne wpisy

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *