472. Zmienne nieliniowe – wielomiany i splajny wprowadzenie

W poprzednich lekcjach analizowaliśmy regresję liniową jako model, w którym średnia wartość zmiennej zależnej zmienia się proporcjonalnie do predyktora. W praktyce wiele zależności nie ma jednak kształtu prostej. Ryzyko choroby może początkowo szybko rosnąć wraz z wiekiem, a następnie stabilizować się. Stężenie leku może poprawiać wynik kliniczny tylko do pewnego poziomu, po czym dalsze zwiększanie dawki nie daje wyraźnej korzyści. W takich sytuacjach przydatne są wielomiany i splajny — narzędzia pozwalające modelować zakrzywione zależności bez rezygnacji z ram regresji.

Ta lekcja wprowadza podstawowe idee, które będą rozwijane w dalszej części modułu 24. Celem nie jest mechaniczne dopasowanie „ładniejszej krzywej”, lecz świadome opisanie kształtu zależności, z uwzględnieniem niepewności, interpretowalności, liczby parametrów i ryzyka nadmiernego dopasowania. Osoby korzystające z publicznego szkolenia na statystyk.edu.pl powinny traktować tę lekcję jako pomost między klasyczną regresją liniową a bardziej elastycznym modelowaniem.

1. Dlaczego regresja liniowa może być zbyt ograniczona?

W prostej regresji liniowej zapisujemy model jako:

E(Y|X)=β0+β1X

Symbol E(Y|X) oznacza oczekiwaną, czyli średnią warunkową wartość zmiennej Y dla określonej wartości predyktora X. Parametr β0 jest wyrazem wolnym, a β1 opisuje stałą zmianę średniej wartości Y przy wzroście X o jedną jednostkę.

Kluczowe ograniczenie polega na tym, że nachylenie jest stałe w całym zakresie predyktora. Jeżeli β1=2, model przewiduje wzrost średniej wartości Y o dwie jednostki zarówno przy zmianie X z 20 do 21, jak i z 80 do 81. W wielu zjawiskach biologicznych, psychologicznych i społecznych takie założenie jest mało realistyczne.

Warto podkreślić, że „nieliniowość” dotyczy tutaj przede wszystkim kształtu zależności między predyktorem a średnią odpowiedzi. Model może nadal być liniowy względem parametrów. To ważne rozróżnienie: regresja z wyrazem X2 jest nieliniowa względem X, ale pozostaje liniowym modelem regresji względem współczynników.

2. Wielomiany jako pierwsze rozszerzenie modelu

2.1. Wielomian drugiego stopnia

Najprostszym sposobem dopuszczenia zakrzywienia jest dodanie kwadratu predyktora:

E(Y|X)=β0+β1X+β2X2

Parametr β2 odpowiada za krzywiznę. Gdy jest dodatni, wykres ma kształt litery U; gdy jest ujemny, przypomina odwróconą literę U. Nie należy jednak interpretować β1 jako ogólnego efektu wzrostu X. W obecności składnika kwadratowego wpływ predyktora zależy od jego poziomu.

Nachylenie funkcji względem X wynosi:

dE(Y|X)/dX=β1+2β2X

Wynika z tego, że zmiana oczekiwanej wartości odpowiedzi o jedną jednostkę predyktora nie jest stała. Punkt, w którym krzywa osiąga ekstremum, można wyznaczyć jako X*=−β1/(2β2), o ile β2≠0. Nie oznacza to automatycznie, że znaleziony punkt jest klinicznie lub społecznie istotnym progiem. Może znajdować się poza obserwowanym zakresem albo być bardzo nieprecyzyjnie oszacowany.

2.2. Wielomian wyższego stopnia

Można rozszerzyć model do postaci:

E(Y|X)=β0+β1X+β2X2+β3X3+...+βkXk

Im większy stopień k, tym bardziej elastyczna może być krzywa. Jednocześnie rośnie liczba parametrów, podatność na nadmierne dopasowanie oraz niestabilność na krańcach zakresu danych. Wielomian siódmego stopnia może przechodzić bardzo blisko obserwacji, ale tworzyć nienaturalne oscylacje w obszarach, gdzie danych jest niewiele.

W praktyce wielomiany wysokiego stopnia są zwykle mniej atrakcyjne niż splajny. Jeżeli zależność jest umiarkowanie zakrzywiona, często wystarcza wielomian drugiego lub trzeciego stopnia. Wyższy stopień powinien mieć wyraźne uzasadnienie merytoryczne, a jego przydatność należy oceniać za pomocą wykresów, walidacji i analizy stabilności.

2.3. Centrowanie i skalowanie predyktora

Potęgowanie dużych wartości może prowadzić do problemów numerycznych i silnej współliniowości między X, X2 i X3. Pomocne jest wycentrowanie predyktora:

Z=X−c

gdzie c może być średnią, medianą albo klinicznie sensowną wartością odniesienia. Model zapisujemy wtedy jako Y=β0+β1Z+β2Z2. Wyraz wolny interpretuje się jako oczekiwaną wartość odpowiedzi przy X=c, a nie przy X=0. Centrowanie nie zmienia dopasowanych wartości ani samej krzywej, ale może poprawić interpretację i stabilność obliczeń.

3. Splajny: elastyczność bez jednego globalnego wielomianu

Splajn jest funkcją złożoną z odcinków wielomianów połączonych w określonych punktach, nazywanych węzłami lub knots. W typowym splajnie sześciennym każdy fragment jest wielomianem trzeciego stopnia, a fragmenty są łączone tak, aby funkcja oraz jej pierwsza i druga pochodna były ciągłe.

Idea jest następująca: zamiast zmuszać jedną krzywą do zachowania tego samego kształtu w całym zakresie X, dzielimy zakres na części. W każdej części krzywa może mieć własny kształt, ale połączenia pozostają płynne. Dzięki temu splajny są elastyczne, a zarazem zwykle stabilniejsze niż pojedyncze wielomiany wysokiego stopnia (Harrell, 2015; Hastie, Tibshirani i Friedman, 2009).

W zapisie regresyjnym splajn można przedstawić jako:

E(Y|X)=β0+β1B1(X)+β2B2(X)+...+βpBp(X)

Symbole B1(X),...,Bp(X) oznaczają funkcje bazowe. Są to przekształcenia predyktora, z których model buduje końcową krzywą. Współczynniki β są estymowane podobnie jak w zwykłej regresji. Pojedyncze współczynniki bazowe często nie mają prostej interpretacji klinicznej; interpretujemy przede wszystkim przewidywane wartości, różnice między wybranymi poziomami X oraz wykres krzywej z przedziałem ufności.

3.1. Splajny regresyjne i naturalne

W splajnie regresyjnym liczba i położenie węzłów są ustalane przed estymacją albo wybierane według określonej procedury. Naturalny splajn sześcienny nakłada dodatkowe ograniczenie: poza skrajnymi węzłami krzywa jest liniowa. Ograniczenie to zmniejsza ryzyko gwałtownych, nierealistycznych zmian na krańcach danych, gdzie liczba obserwacji bywa mała.

Węzły można lokować w określonych wartościach klinicznych albo w kwantylach rozkładu predyktora. Wybór kwantyli zapewnia zwykle, że w kolejnych częściach zakresu znajduje się podobna liczba obserwacji. Nie jest to jednak reguła uniwersalna. Węzły powinny być wybierane z uwzględnieniem liczebności próby, rozkładu predyktora, wiedzy dziedzinowej i celu analizy.

3.2. Splajny wygładzające i penalizacja

W splajnach wygładzających nie musimy ograniczać elastyczności wyłącznie przez małą liczbę węzłów. Można użyć wielu funkcji bazowych, a następnie nałożyć karę za nadmierną krzywiznę. Typowa funkcja celu ma postać:

Σ[yi−f(xi)]2+λ∫[f''(x)]2dx

Pierwszy składnik mierzy niedopasowanie do danych. Drugi karze zbyt „poskręcaną” funkcję. Parametr λ kontroluje kompromis między dopasowaniem a gładkością: duże λ daje gładszą, prostszą krzywą, natomiast małe λ pozwala lepiej śledzić lokalne wahania. Splajny B oraz P-splajny wykorzystują funkcje bazowe i, w przypadku P-splajnów, karę na różnice sąsiednich współczynników (Eilers i Marx, 1996).

4. Jak interpretować model nieliniowy?

Najczęstszy błąd polega na próbie interpretowania każdego współczynnika tak, jakby pochodził z regresji liniowej. W modelu ze splajnem współczynniki funkcji bazowych zwykle nie oznaczają „zmiany wyniku na jednostkę wzrostu X”. Informację należy przedstawiać inaczej.

  • Podaj przewidywaną wartość wyniku dla kilku klinicznie istotnych poziomów predyktora.
  • Raportuj różnicę lub iloraz między poziomem odniesienia a wybranymi wartościami.
  • Przedstaw wykres oszacowanej krzywej z 95% przedziałem ufności.
  • Oceń globalnie, czy dane wskazują na nieliniowość, np. przez porównanie modelu liniowego z modelem zawierającym składniki nieliniowe.
  • Nie ograniczaj opisu do samej wartości p; omów kształt, wielkość i znaczenie praktyczne zależności.

W regresji logistycznej krzywa może dotyczyć logitu prawdopodobieństwa, ilorazu szans albo bezpośrednio przewidywanego prawdopodobieństwa. W regresji Coxa i innych modelach przeżycia splajny mogą opisywać zależność między predyktorem a logarytmem hazardu albo elastyczny kształt funkcji bazowej czasu (Royston i Parmar, 2002). Skala prezentacji powinna być dobrana do pytania badawczego.

5. Przykład 1: wiek i ryzyko hospitalizacji

Załóżmy, że badacz analizuje dane 12 000 osób i chce ocenić związek wieku z prawdopodobieństwem hospitalizacji w ciągu roku. Wiek jest zmienną ciągłą, a wynik ma charakter binarny. Model liniowy w regresji logistycznej zakłada, że logarytm ilorazu szans hospitalizacji zmienia się o stałą wartość przy każdym dodatkowym roku życia.

Takie założenie może być nieadekwatne: ryzyko może być względnie stabilne w wieku średnim, a następnie szybko wzrastać w późnej starości. Badacz może porównać trzy modele: liniowy, kwadratowy oraz logistyczny model z naturalnym splajnem sześciennym. W analizie należy uwzględnić potencjalne zmienne zakłócające, takie jak płeć, choroby przewlekłe i status socjoekonomiczny, jeżeli wynika to z pytania i planu badania.

Wynik nie powinien być opisany wyłącznie zdaniem: „współczynnik przy trzeciej funkcji bazowej był istotny”. Lepszy opis brzmi: „Po uwzględnieniu pozostałych zmiennych związek wieku z prawdopodobieństwem hospitalizacji był nieliniowy. W porównaniu z osobami w wieku 50 lat przewidywane prawdopodobieństwo było wyższe w wieku 75 i 90 lat, przy czym przedziały ufności poszerzały się na krańcach zakresu”. Konkretne wartości należałoby oczywiście obliczyć z rzeczywistych danych.

6. Przykład 2: dawka leku i wynik kliniczny

W badaniu obserwacyjnym dotyczącym leczenia bólu mierzono nasilenie bólu po 24 godzinach w zależności od dobowej dawki leku. Możliwa jest relacja progowa: wzrost dawki od 0 do 20 mg przynosi wyraźną poprawę, od 20 do 40 mg poprawa jest mniejsza, a dalsze zwiększanie dawki niewiele zmienia lub wiąże się ze wzrostem działań niepożądanych.

Model kwadratowy może uchwycić jedną zmianę kierunku, lecz może być zbyt sztywny, jeżeli dane wskazują na kilka faz. Splajn umożliwi bardziej elastyczny opis. Należy jednak unikać wniosku, że sam kształt krzywej dowodzi przyczynowego działania dawki. W badaniu obserwacyjnym osoby otrzymujące większe dawki mogą różnić się ciężkością choroby, wiekiem lub innymi czynnikami. Splajn opisuje warunkową zależność w określonym modelu; nie usuwa automatycznie zakłócenia ani błędu wskazań.

7. Przykład praktyczny: porównanie modeli

Załóżmy, że analizujemy czas reakcji w zadaniu psychologicznym w zależności od liczby godzin bez snu. Rozważamy model liniowy, model kwadratowy i model z naturalnym splajnem z czterema stopniami swobody.

  1. Najpierw wykreślamy surowe dane oraz prostą regresji. Sprawdzamy, czy zależność wydaje się monotoniczna, czy występuje punkt załamania.
  2. Dopasowujemy model liniowy i kwadratowy, kontrolując zaplanowane zmienne, np. wiek i poziom wyjściowego zmęczenia.
  3. Dopasowujemy splajn, ale nie zwiększamy automatycznie jego złożoności tylko dlatego, że model jest bardziej elastyczny.
  4. Porównujemy przewidywania, przedziały ufności, miary dopasowania oraz wyniki walidacji, najlepiej z użyciem resamplingu lub walidacji krzyżowej.
  5. Sprawdzamy stabilność kształtu krzywej po zmianie liczby węzłów i punktu odniesienia.
  6. Raportujemy wykres i wartości przewidywane w punktach ważnych dla interpretacji, np. 0, 12, 24 i 36 godzin bez snu.

Jeżeli splajn daje minimalnie lepsze dopasowanie, lecz tworzy bardzo szerokie przedziały ufności i nienaturalne wahania na krańcach, prostszy model może być lepszym wyborem. Prostota nie jest wadą, jeżeli wystarczająco dobrze opisuje dane i odpowiada celowi badania.

8. Najczęstsze błędy

  • Wybieranie wysokiego stopnia wielomianu na podstawie wykresu. Krzywa może dobrze pasować do jednej próby, ale źle przewidywać nowe obserwacje.
  • Interpretowanie pojedynczych współczynników splajnu. Zwykle nie mają one bezpośredniego znaczenia klinicznego.
  • Ignorowanie krańców zakresu. Na początku i końcu rozkładu jest często mniej danych, dlatego predykcje mogą być niestabilne.
  • Traktowanie liczby węzłów jako czysto technicznego szczegółu. Ich liczba wpływa na elastyczność i wariancję modelu.
  • Automatyczny wybór modelu wyłącznie według wartości p. Statystyczna istotność nie mówi sama w sobie, czy krzywizna jest duża ani praktycznie ważna.
  • Brak wykresu. W modelach nieliniowych wykres oszacowanej zależności jest często ważniejszy niż tabela współczynników.
  • Wnioskowanie przyczynowe z danych obserwacyjnych. Elastyczne modelowanie predyktora nie zastępuje randomizacji, poprawnego planu analizy ani kontroli zakłóceń.
  • Ekstrapolacja poza zakres danych. Nawet naturalny splajn nie powinien być bezkrytycznie używany do przewidywania daleko poza obserwowanym zakresem.

9. Jak raportować analizę?

Opis powinien obejmować: uzasadnienie zastosowania modelu nieliniowego, rodzaj funkcji, stopień wielomianu lub rodzaj splajnu, liczbę i położenie węzłów, skalę predyktora, sposób wyboru modelu oraz metodę obliczenia przedziałów ufności. Należy podać także zakres obserwowanych wartości predyktora i wskazać, czy wnioski dotyczą interpolacji, czy obejmują ryzykowną ekstrapolację.

W tabeli można przedstawić przewidywane wartości dla ustalonych poziomów predyktora, natomiast wykres powinien pokazywać całą krzywą wraz z niepewnością. W przypadku wyniku binarnego warto preferować przewidywane prawdopodobieństwa lub ilorazy szans dla jasno wskazanych kontrastów. W przypadku wyniku ciągłego można podać różnicę średnich przewidywanych wartości. Interpretacja powinna odróżniać dowód nieliniowości od wielkości i znaczenia obserwowanej zależności.

Co warto zapamiętać?

  • Regresja liniowa narzuca stałe nachylenie zależności, co bywa zbyt restrykcyjne dla danych biologicznych i społecznych.
  • Wielomian drugiego stopnia pozwala opisać jedną podstawową krzywiznę, ale współczynniki nie zawsze są łatwe do interpretacji.
  • Wielomiany wysokiego stopnia mogą być niestabilne, szczególnie na krańcach zakresu danych.
  • Splajny łączą odcinki wielomianów i umożliwiają elastyczne, lecz płynne modelowanie zależności.
  • Naturalne splajny ograniczają zachowanie krzywej poza skrajnymi węzłami, co często poprawia stabilność.
  • Wyniki modeli nieliniowych należy przedstawiać przede wszystkim za pomocą wykresów, przewidywanych wartości i kontrastów, a nie samych współczynników bazowych.
  • Dobór modelu powinien uwzględniać wiedzę merytoryczną, liczebność próby, niepewność, walidację i znaczenie praktyczne.
  • Elastyczna krzywa nie jest automatycznie dowodem przyczynowości.

Źródła i dalsza lektura

  1. Frank E. Harrell Jr. (2015). Regression Modeling Strategies: With Applications to Linear Models, Logistic and Ordinal Regression, and Survival Analysis. 2nd edition. Springer. Informacja wydawcy / źródło.
  2. Patrick Royston; Douglas G. Altman (1994). Regression Using Fractional Polynomials of Continuous Covariates: Parsimonious Parametric Modelling. Journal of the Royal Statistical Society: Series C (Applied Statistics), 43(3), 429–453. DOI: 10.2307/2986270.
  3. Paul H. C. Eilers; Brian D. Marx (1996). Flexible Smoothing with B-splines and Penalties. Statistical Science, 11(2), 89–121. DOI: 10.1214/ss/1038425655.
  4. Patrick Royston; Mahesh K. B. Parmar (2002). Flexible Parametric Proportional-Hazards and Proportional-Odds Models for Censored Survival Data, with Application to Prognostic Modelling and Estimation of Treatment Effects. Statistics in Medicine, 21(15), 2175–2197. DOI: 10.1002/sim.1203.
  5. Patrick Royston; Willi Sauerbrei (2008). Multivariable Model-Building: A Pragmatic Approach to Regression Analysis Based on Fractional Polynomials for Modelling Continuous Variables. John Wiley & Sons. Informacja wydawcy / źródło.
  6. Trevor Hastie; Robert Tibshirani; Jerome Friedman (2009). The Elements of Statistical Learning: Data Mining, Inference, and Prediction. 2nd edition. Springer. Informacja wydawcy / źródło.

Podobne wpisy

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *