461. Regresja liniowa prosta – od prostej na wykresie do modelu

Regresja liniowa prosta jest jednym z podstawowych modeli statystycznych. Pozwala opisać, jak przeciętnie zmienia się jedna zmienna ilościowa, gdy zmienia się druga. Punktem wyjścia jest zwykle wykres rozrzutu: obserwujemy chmurę punktów i pytamy, czy można ją sensownie podsumować prostą. Model regresji nie jest jednak wyłącznie „linią trendu”. Jest formalnym opisem zależności, który umożliwia estymację średniej wartości wyniku, tworzenie predykcji oraz ocenę niepewności tych oszacowań.

W tej lekcji, stanowiącej część podręcznika do szkolenia na statystyk.edu.pl, przechodzimy od intuicji geometrycznej do równania modelu. Szczególną uwagę poświęcimy temu, czego regresja liniowa prosta nie mówi: sama w sobie nie dowodzi przyczynowości, nie gwarantuje poprawności predykcji i nie zastępuje oceny jakości danych.

1. Od wykresu punktowego do pytania badawczego

Załóżmy, że w badaniu każda osoba ma zmierzone dwie zmienne. Zmienna X jest predyktorem, czyli zmienną objaśniającą, a Y jest wynikiem, czyli zmienną objaśnianą. W regresji liniowej prostej interesuje nas średni poziom Y dla określonych wartości X.

Przykładowe pytania mogą brzmieć:

• Jak przeciętnie zmienia się skurczowe ciśnienie tętnicze wraz z wiekiem?
• Czy czas snu wiąże się z wynikiem w skali zmęczenia?
• Jak zmienia się saturacja podczas określonego czasu transportu pacjenta?

Na wykresie rozrzutu każda osoba jest reprezentowana przez jeden punkt o współrzędnych (X, Y). Prosta regresji ma podsumować położenie chmury punktów, a nie koniecznie przechodzić przez każdy z nich. W praktyce większość obserwacji będzie znajdować się powyżej albo poniżej prostej, ponieważ wynik zależy również od innych czynników i zawiera błąd pomiaru.

2. Równanie regresji liniowej prostej

Populacyjny model można zapisać następująco:

E(Y|X=x) = β₀ + β₁x

W zapisie dla pojedynczej obserwacji często używa się postaci:

Y_i = β₀ + β₁X_i + ε_i

Oznaczenia mają następujące znaczenie:

• Y_i – zaobserwowana wartość wyniku dla osoby lub jednostki i;
• X_i – wartość predyktora dla tej samej osoby lub jednostki;
• β₀ – wyraz wolny, czyli przeciętna wartość Y, gdy X=0;
• β₁ – nachylenie prostej, czyli przeciętna zmiana Y związana ze wzrostem X o jedną jednostkę;
• ε_i – składnik losowy, obejmujący różnicę między wynikiem obserwowanym a wartością przewidywaną przez model.

W próbie nie znamy parametrów populacyjnych β₀ i β₁. Szacujemy je na podstawie danych, otrzymując równanie:

Ŷ = b₀ + b₁X

Symbol Ŷ oznacza wartość przewidywaną przez model, natomiast b₀ i b₁ są oszacowaniami parametrów. Należy odróżniać wartość zaobserwowaną Y od wartości przewidywanej Ŷ.

Nachylenie prostej

Najważniejszym współczynnikiem interpretacyjnym jest często b₁. Jeżeli b₁=2,4, oznacza to, że wzrost predyktora o jedną jednostkę wiąże się przeciętnie ze wzrostem wyniku o 2,4 jednostki. Jeżeli b₁=−0,8, wzrost predyktora o jedną jednostkę wiąże się przeciętnie ze spadkiem wyniku o 0,8 jednostki.

Jest to interpretacja warunkowa i średnia. Nie oznacza, że każda osoba zareaguje dokładnie w taki sam sposób. Nie oznacza również automatycznie, że zmiana X powoduje zmianę Y. W badaniu obserwacyjnym bez odpowiedniego projektu badawczego należy mówić o związku lub asocjacji.

Wyraz wolny

Wyraz wolny b₀ opisuje przewidywany poziom Y przy X=0. Ta interpretacja może być użyteczna, ale nie zawsze jest merytorycznie sensowna. Jeśli X oznacza wiek dorosłych pacjentów, wartość zero może leżeć poza zakresem danych i nie mieć znaczenia klinicznego. Wtedy wyraz wolny jest przede wszystkim elementem technicznym równania.

3. Jak wyznacza się prostą?

Najczęściej stosuje się metodę najmniejszych kwadratów. Wybiera się taką prostą, aby suma kwadratów różnic między wartościami zaobserwowanymi i przewidywanymi była możliwie mała:

Σ(Y_i − Ŷ_i)² → minimum

Różnica e_i=Y_i−Ŷ_i nazywa się resztą. Kwadratowanie powoduje, że dodatnie i ujemne odchylenia nie znoszą się oraz że duże błędy są silniej uwzględniane. Procedura ta daje proste, jednoznaczne oszacowanie, ale jest wrażliwa na obserwacje odstające.

Współczynnik nachylenia można zapisać jako:

b₁ = Σ[(X_i−X̄)(Y_i−Ȳ)] / Σ[(X_i−X̄)²]

W liczniku znajduje się wspólna zmienność X i Y, a w mianowniku zmienność predyktora. Wyraz wolny oblicza się jako:

b₀ = Ȳ − b₁X̄

W praktycznej analizie badacz zwykle nie liczy tych wartości ręcznie, lecz powinien rozumieć, co program statystyczny estymuje i na jakiej zasadzie.

4. Przykład z ochrony zdrowia

Załóżmy, że w badaniu 40 osób dorosłych zmierzono wiek oraz skurczowe ciśnienie tętnicze. Otrzymano model:

Ŷ = 102,5 + 0,72X

Jeżeli X oznacza wiek w latach, a Ŷ ciśnienie skurczowe w mm Hg, nachylenie 0,72 oznacza, że każde dodatkowe 10 lat wieku wiąże się średnio z wyższym o około 7,2 mm Hg przewidywanym ciśnieniem. Jest to wygodniejsze klinicznie niż interpretowanie wzrostu o jeden rok.

Dla osoby w wieku 60 lat model daje:

Ŷ = 102,5 + 0,72 × 60 = 145,7 mm Hg

Nie jest to „prawdziwe ciśnienie” tej osoby, lecz wartość średnia przewidywana przez model dla osób w tym wieku. Rzeczywisty pomiar może być niższy lub wyższy. Jeżeli przedział wieku w próbie wynosił 20–75 lat, przewidywanie dla osoby w wieku 120 lat byłoby ekstrapolacją i nie powinno być traktowane jako wiarygodny wniosek.

Jeżeli 95-procentowy przedział ufności dla nachylenia wynosi od 0,35 do 1,09, dane są zgodne zarówno z małym, jak i większym wzrostem ciśnienia wraz z wiekiem. Przedział ten opisuje niepewność oszacowania parametru w populacji, a nie zakres, w którym znajdzie się ciśnienie pojedynczej osoby.

5. Reszty i ocena dopasowania

Reszta jest różnicą między obserwacją a wartością przewidywaną:

e_i = Y_i − Ŷ_i

Reszta dodatnia oznacza, że wynik zaobserwowany jest wyższy od przewidywanego. Reszta ujemna oznacza wynik niższy od przewidywanego. Analiza reszt jest ważniejsza niż samo narysowanie prostej, ponieważ pozwala sprawdzić, czy model jest adekwatny.

Jedną z miar dopasowania jest współczynnik determinacji R². W regresji z jednym predyktorem można go interpretować jako odsetek zmienności wyniku, który jest opisany przez model liniowy w analizowanej próbie. Jeśli R²=0,36, model opisuje 36% zmienności Y, natomiast pozostałe 64% nie są przez ten prosty model wyjaśnione.

R² nie jest miarą prawdziwości modelu ani dowodem przyczynowości. Wysokie R² może wynikać z trendu czasowego, wspólnego wpływu trzeciej zmiennej lub nieszczelności projektu badania. Niskie R² nie musi oznaczać, że predyktor jest bezużyteczny: w badaniach biologicznych i społecznych wynik może być częściowo przewidywalny, nawet jeśli wiele czynników pozostaje niezmierzonych.

6. Założenia regresji liniowej prostej

Założenia dotyczą modelu i jego reszt, a nie wyłącznie tego, czy same zmienne X i Y mają rozkład normalny. Podstawowe założenia obejmują:

1. Liniowość średniej zależności. Średnia wartość Y zmienia się wraz z X w sposób przybliżany przez linię prostą.
2. Niezależność obserwacji lub reszt. Wyniki poszczególnych osób nie powinny być traktowane jako niezależne, jeśli pochodzą na przykład z wielokrotnych pomiarów tej samej osoby.
3. Stała wariancja reszt. Rozrzut wyników wokół prostej powinien być podobny w całym zakresie wartości predyktora.
4. Brak nadmiernego wpływu pojedynczych obserwacji. Jedna nietypowa osoba nie powinna samodzielnie wyznaczać kierunku prostej.
5. Normalność reszt jest istotna przede wszystkim dla klasycznych przedziałów ufności i testów w małych próbach; nie jest wymogiem, aby predyktor i wynik miały rozkład normalny.

Do diagnostyki wykorzystuje się wykres reszt względem wartości przewidywanych, wykres reszt względem predyktora, wykres kwantylowo-kwantylowy oraz miary wpływu. Wzór wachlarza na wykresie reszt może sugerować heteroscedastyczność, a wyraźny łuk – nieliniowość. Przy danych powtarzanych potrzebne są metody uwzględniające zależność obserwacji, a nie zwykła regresja dla wszystkich wierszy tabeli (Bland i Altman, 1994).

7. Drugi przykład: psychologia i zdrowie publiczne

W badaniu studentów analizowano liczbę godzin snu na dobę (X) oraz wynik w skali zmęczenia (Y). Załóżmy, że oszacowano:

Ŷ = 18,4 − 1,15X

Nachylenie −1,15 oznacza, że jedna dodatkowa godzina snu wiąże się przeciętnie z niższym o 1,15 punktu wynikiem zmęczenia. Nie można jednak stwierdzić na tej podstawie, że samo wydłużenie snu spowoduje spadek zmęczenia. Osoby bardziej zmęczone mogą spać krócej z powodu pracy, choroby, stresu lub opieki nad bliskimi. Możliwa jest też odwrotna zależność: stan zdrowia wpływa równocześnie na sen i zmęczenie.

Warto również sprawdzić, czy zależność jest liniowa. Być może różnica między 5 a 6 godzinami snu jest większa niż między 8 a 9 godzinami. Wtedy prosta może być zbyt uproszczonym opisem, a właściwszy byłby model z krzywizną, transformacją lub tzw. „splajnem”.

8. Istotność statystyczna, wielkość efektu i znaczenie praktyczne

Wynik testu dla nachylenia może zawierać wartość p oraz przedział ufności. Wartość p nie jest prawdopodobieństwem, że hipoteza zerowa jest prawdziwa. Przy założeniu modelu i hipotezy zerowej opisuje zgodność danych z określonym rozkładem wyników testu. Nie mówi też, czy efekt jest ważny klinicznie.

Dlatego raport powinien zawierać co najmniej: oszacowanie nachylenia, jego jednostkę, 95-procentowy przedział ufności, liczebność próby, informację o dopasowaniu modelu oraz sposób sprawdzenia założeń. Na przykład: „Wzrost wieku o 10 lat wiązał się ze wzrostem skurczowego ciśnienia o 7,2 mm Hg (95% CI: 3,5–10,9), przy czym analizę przeprowadzono w zakresie wieku 20–75 lat”. Taki zapis jest bardziej informacyjny niż samo „zależność była istotna statystycznie”.

Przykład praktyczny: interpretacja pełnego wyniku

W badaniu pacjentów po zabiegu oceniano związek między czasem oczekiwania na przyjęcie na oddział a długością pobytu w szpitalu. Model wyniósł:

Ŷ = 3,1 + 0,18X, R²=0,22, 95% CI dla b₁: 0,10–0,26.

Jeśli X podano w godzinach, a Y w dniach, wzrost czasu oczekiwania o godzinę wiąże się średnio ze wzrostem przewidywanej długości pobytu o 0,18 dnia, czyli około 4,3 godziny. Przedział ufności wskazuje na niepewność tego oszacowania. R²=0,22 oznacza, że model wyjaśnia 22% zróżnicowania długości pobytu.

Nie wolno jednak automatycznie sformułować wniosku, że skrócenie oczekiwania o godzinę skróci pobyt o 0,18 dnia. Pacjenci mogą różnić się ciężkością stanu, rodzajem zabiegu, chorobami współistniejącymi i dostępem do rehabilitacji. Aby uzasadniać efekt przyczynowy, potrzebny byłby odpowiedni projekt, kontrola ważnych czynników zakłócających i ostrożna interpretacja.

Najczęstsze błędy

• Mylenie korelacji z regresją. Korelacja jest symetryczną miarą współzmienności, natomiast regresja określa wynik względem wybranego predyktora. Zamiana ról X i Y może zmienić równanie.
• Interpretowanie nachylenia jako efektu przyczynowego. W badaniu obserwacyjnym współczynnik regresji opisuje asocjację, niekoniecznie wpływ.
• Przyjmowanie, że R² mówi o jakości całego badania. R² odnosi się do dopasowania konkretnego modelu i nie zastępuje oceny projektu, pomiarów ani trafności zewnętrznej.
• Ignorowanie wykresu rozrzutu. Ta sama wartość korelacji lub R² może wynikać z różnych układów punktów, w tym z zależności nieliniowej albo obserwacji odstających.
• Ekstrapolowanie poza zakres danych. Prosta dopasowana dla wieku 20–75 lat nie uzasadnia automatycznie predykcji dla wieku 100 lat.
• Traktowanie powtarzanych pomiarów jako niezależnych. Zwiększa to pozorną liczebność próby i może prowadzić do zbyt wąskich przedziałów ufności.
• Usuwanie obserwacji odstających bez uzasadnienia. Nietypowa obserwacja powinna najpierw zostać sprawdzona pod kątem błędu wpisania, błędu pomiaru i realnej zmienności klinicznej.
• Raportowanie wyłącznie wartości p. Bez współczynnika, jednostki i przedziału ufności nie wiadomo, jak duża jest zależność i jak precyzyjnie ją oszacowano.

Co warto zapamiętać?

1. Regresja liniowa prosta opisuje średnią zmianę wyniku Y wraz ze zmianą jednego predyktora X.
2. Równanie ma postać Ŷ=b₀+b₁X; b₁ jest nachyleniem, a b₀ wyrazem wolnym.
3. Reszta jest różnicą między wynikiem obserwowanym i przewidywanym.
4. R² opisuje część zmienności wyniku uchwyconą przez model, ale nie dowodzi przyczynowości.
5. Przed interpretacją należy ocenić liniowość, niezależność, stałość wariancji i wpływ obserwacji nietypowych.
6. Wynik trzeba interpretować w jednostkach pomiaru, w zakresie danych i z uwzględnieniem niepewności.
7. Wniosek o związku statystycznym nie jest automatycznie wnioskiem o skuteczności interwencji ani o związku przyczynowym.

Najważniejsza praktyczna zasada brzmi: najpierw obejrzyj dane i zdefiniuj pytanie, następnie dopasuj model, a dopiero później interpretuj współczynniki. Sama prosta na wykresie jest użyteczna, lecz dopiero połączenie równania, diagnostyki, przedziałów ufności i kontekstu badania tworzy rzetelną analizę.

Źródła i dalsza lektura

1. Lunt, Mark (2015). Introduction to statistical modelling: linear regression. Rheumatology, 54(7), 1137–1140. DOI: 10.1093/rheumatology/ket146.
2. Kasza, Jessica; Wolfe, Rory (2014). Interpretation of commonly used statistical regression models. Respirology, 19(1), 14–21. DOI: 10.1111/resp.12221.
3. Bland, J. Martin; Altman, Douglas G. (1994). Statistics Notes: Correlation, regression, and repeated data. BMJ, 308(6933), 896. DOI: 10.1136/bmj.308.6933.896.
4. Roustaei, Narges (2024). Application and interpretation of linear-regression analysis. Medical Hypothesis, Discovery & Innovation in Ophthalmology, 13(3), 151–159. DOI: 10.51329/mehdiophthal1506.
5. Jones, Lee; Barnett, Adrian; Vagenas, Dimitrios (2025). Common misconceptions held by health researchers when interpreting linear regression assumptions, a cross-sectional study. PLOS ONE, 20(6), e0299617. DOI: 10.1371/journal.pone.0299617.