346. R² – jaka część zmienności jest wyjaśniona?
W poprzednich lekcjach omawialiśmy miary oparte na różnicy średnich oraz współczynniku korelacji. Kolejnym krokiem jest R², nazywane współczynnikiem determinacji. Ta miara odpowiada na pytanie: jak duża część zróżnicowania wyniku może być opisana przez uwzględniony model? Jest szczególnie użyteczna w regresji, ponieważ pozwala ocenić nie tylko kierunek związku i istotność pojedynczego predyktora, lecz także dopasowanie całego modelu. Nie należy jednak traktować R² jako uniwersalnej miary jakości badania ani jako dowodu przyczynowości. W tej lekcji kursu na statystyk.edu.pl wyjaśnimy, co dokładnie oznacza R², jak je obliczać, kiedy stosować R² skorygowane oraz jak łączyć tę miarę ze znaczeniem praktycznym.
1. Intuicja: od całkowitej zmienności do zmienności niewyjaśnionej
Załóżmy, że badacz analizuje czas powrotu do sprawności po zabiegu. Wyniki pacjentów różnią się między sobą: jedni wracają do aktywności po kilku dniach, inni potrzebują kilku tygodni. Ta różnorodność jest całkowitą zmiennością wyniku. Część tej zmienności może być związana z wiekiem, wyjściowym nasileniem objawów, rodzajem zabiegu lub poziomem aktywności. Pozostała część wynika z czynników nieuwzględnionych w modelu, błędu pomiaru oraz losowych różnic między pacjentami.
R² opisuje proporcję całkowitej zmienności, którą model odtwarza w sensie statystycznym. Jeżeli R² = 0,40, można powiedzieć, że w analizowanej próbie model wyjaśnia 40% zróżnicowania zmiennej zależnej, a około 60% pozostaje niewyjaśnione przez ten model. Sformułowanie „wyjaśnia” należy rozumieć ostrożnie: chodzi o zgodność zmienności wyniku z wartościami przewidywanymi przez model, nie zaś o pełne wyjaśnienie mechanizmu biologicznego lub psychologicznego.
2. Wzór na R²
W klasycznej regresji liniowej współczynnik determinacji można zapisać następująco:
R² = 1 − SSres / SStot
W tym wzorze:
- SSres oznacza sumę kwadratów reszt, czyli sumę kwadratów różnic między wartościami zaobserwowanymi a wartościami przewidywanymi przez model:
SSres = Σ(yᵢ − ŷᵢ)²; - SStot oznacza całkowitą sumę kwadratów odchyleń wyników od średniej:
SStot = Σ(yᵢ − ȳ)²; - yᵢ to zaobserwowana wartość wyniku dla osoby lub obserwacji i;
- ŷᵢ to wartość przewidywana przez model;
- ȳ to średnia arytmetyczna wyniku;
- Σ oznacza sumowanie po wszystkich obserwacjach.
Wzór porównuje dwa modele przewidywania. Model zerowy przewiduje każdą osobę za pomocą jednej wartości: średniej ȳ. Model regresyjny wykorzystuje predyktory i uzyskuje wartości ŷᵢ. Jeżeli model regresyjny zmniejsza sumę kwadratów błędów, R² przyjmuje wartość dodatnią. Im większa redukcja błędu względem przewidywania samą średnią, tym większe R².
W regresji liniowej z jednym predyktorem i wyrazem wolnym R² jest równe kwadratowi współczynnika korelacji Pearsona: R² = r². Jeśli r = 0,50, to R² = 0,25. Oznacza to, że liniowy model oparty na jednym predyktorze wiąże się z 25% zmienności wyniku. Nie oznacza to, że predyktor „powoduje” 25% wyniku ani że pozostałe 75% jest pozbawione jakiejkolwiek struktury.
3. Jak interpretować wartość R²?
Interpretacja zależy od dziedziny, jakości pomiaru, celu badania, heterogeniczności populacji i tego, czy model ma służyć opisowi, wyjaśnianiu czy predykcji. Nie istnieją uniwersalne progi, według których każde R² = 0,10 byłoby małe, a każde R² = 0,70 duże. W psychologii i naukach społecznych wyniki zależne od wielu czynników mogą mieć umiarkowane R², natomiast w dobrze kontrolowanych pomiarach laboratoryjnych oczekiwania mogą być wyższe.
R² = 0,08 można opisać jako 8% zmienności wyniku zgodnej z modelem. Taka wartość może być istotna praktycznie, jeśli predyktor jest łatwy do uzyskania, a niewielka poprawa predykcji ma konsekwencje kliniczne lub organizacyjne. Z kolei R² = 0,80 nie musi oznaczać modelu użytecznego w praktyce: może wynikać z przeuczenia, wspólnego źródła pomiaru, ograniczonego zakresu danych albo nieuwzględnienia walidacji zewnętrznej.
W raporcie warto podać R² razem z liczebnością próby, przedziałem ufności, statystyką testową modelu oraz informacją o walidacji. Standardy APA JARS zalecają przejrzyste raportowanie planu analiz, wielkości efektu, niepewności estymacji i analiz dodatkowych (APA, 2024). Samo R² bez informacji o modelu, predyktorach, sposobie kodowania zmiennych i jakości danych jest niewystarczające.
4. R² a R² skorygowane
W regresji wielorakiej zwykłe R² ma ważną właściwość: po dodaniu kolejnego predyktora nie zmniejsza się, nawet gdy ten predyktor wnosi bardzo mało informacji. Może nieznacznie wzrosnąć tylko dlatego, że model staje się bardziej elastyczny i lepiej dopasowuje się do konkretnej próby.
Dlatego często raportuje się R² skorygowane:
R²adj = 1 − [(1 − R²)(n − 1) / (n − k − 1)]
Oznaczenia są następujące:
- n oznacza liczbę obserwacji;
- k oznacza liczbę predyktorów w modelu, bez wyrazu wolnego;
- R² to zwykły współczynnik determinacji.
R² skorygowane uwzględnia złożoność modelu. Może być niższe od zwykłego R², a w niektórych sytuacjach także ujemne. Wartość ujemna oznacza, że po uwzględnieniu liczby predyktorów model wypada gorzej niż proste przewidywanie średnią, przynajmniej według tej miary. Nie jest to jednak automatyczny dowód, że wszystkie predyktory należy usunąć. O wyborze modelu powinny decydować również teoria, jakość pomiaru, walidacja i cel analizy.
5. Przykład 1: pielęgniarstwo i czas hospitalizacji
W badaniu obserwacyjnym analizowano czas hospitalizacji pacjentów po zaostrzeniu przewlekłej choroby. Model liniowy obejmował wiek, liczbę chorób współistniejących, nasilenie objawów przy przyjęciu oraz wynik oceny samodzielności. Otrzymano R² = 0,36 oraz R² skorygowane = 0,33.
Interpretacja brzmi: model był zgodny z 36% zróżnicowania czasu hospitalizacji w analizowanej próbie. Po uwzględnieniu liczby predyktorów oszacowanie skorygowane wynosiło 33%. Pozostała część zmienności mogła wynikać między innymi z organizacji oddziału, powikłań, dostępności rehabilitacji, decyzji klinicznych, wsparcia społecznego i błędu pomiaru.
Nie należy pisać: „wiek i choroby współistniejące wyjaśniły 36% długości hospitalizacji” bez dalszych zastrzeżeń. W badaniu obserwacyjnym model może opisywać zależności, ale nie dowodzi, że modyfikacja wieku lub liczby chorób spowoduje określoną zmianę czasu pobytu. Można natomiast napisać: „Zestaw predyktorów był związany z 36% zmienności czasu hospitalizacji; oszacowanie skorygowane wynosiło 33%”.
6. Przykład 2: psychologia zdrowia i przestrzeganie zaleceń
Załóżmy, że badacze przewidują wynik skali przestrzegania zaleceń terapeutycznych na podstawie poczucia własnej skuteczności, obciążenia objawami depresyjnymi i wsparcia społecznego. W modelu uzyskano R² = 0,22, a po dodaniu zmiennej „liczba kontaktów z personelem” R² wzrosło do 0,25. Zmiana wyniosła ΔR² = 0,03.
ΔR² opisuje dodatkową część zmienności związaną z nowym blokiem predyktorów po uwzględnieniu zmiennych znajdujących się wcześniej w modelu. W tym przypadku dodatkowa zmienna wiązała się z 3 punktami procentowymi dodatkowo opisanej zmienności. To może być interesujące, ale nie wolno automatycznie uznać tej różnicy za ważną klinicznie. Należy sprawdzić przedział ufności, test zmiany modelu, stabilność wyniku oraz to, czy trzy punkty procentowe przekładają się na poprawę decyzji terapeutycznych.
W modelu wielorakim predyktory mogą być ze sobą skorelowane. Jeśli poczucie własnej skuteczności i wsparcie społeczne częściowo mierzą podobny aspekt funkcjonowania, ich indywidualny wkład może być trudny do rozdzielenia. R² dotyczy całego modelu i nie mówi samo w sobie, który predyktor jest najważniejszy.
7. R², istotność statystyczna i znaczenie praktyczne
Istotność statystyczna modelu i wartość R² odpowiadają na różne pytania. Test F może wskazać, że model jako całość różni się od modelu zawierającego wyłącznie stałą. R² mówi, jak duża jest redukcja błędu względem takiego modelu. Przy dużej próbie nawet bardzo małe R² może mieć małą wartość p, natomiast przy małej próbie umiarkowane R² może nie osiągnąć konwencjonalnego poziomu istotności.
Wartość p nie jest prawdopodobieństwem prawdziwości hipotezy zerowej. Nie jest też miarą wielkości efektu ani jego użyteczności. R² należy interpretować razem z przedziałem ufności i informacją o precyzji. Jeżeli badanie ma zastosowanie kliniczne, trzeba dodatkowo zapytać, czy różnica w predykcji wpływa na decyzje, koszty, bezpieczeństwo lub jakość życia.
8. R² w modelach innych niż klasyczna regresja liniowa
W regresji logistycznej, Poissona, ujemno-dwumianowej i w modelach mieszanych nie ma jednego, bezdyskusyjnego odpowiednika klasycznego R². Stosuje się różne pseudo-R², oparte między innymi na ilorazie wiarygodności, dewiancji, korelacji lub redukcji błędu. Ich wartości nie zawsze mają prostą interpretację „procentu wariancji” i nie powinny być bezpośrednio porównywane z R² z regresji liniowej.
W modelach mieszanych można rozdzielać między innymi wariancję wyjaśnioną przez efekty stałe oraz wariancję wyjaśnioną przez cały model, obejmujący również efekty losowe. Nakagawa i Schielzeth (2013) zaproponowali popularne rozróżnienie na marginalne R², opisujące wkład efektów stałych, oraz warunkowe R², opisujące wkład efektów stałych i losowych. Wybór miary powinien wynikać z konstrukcji modelu i pytania badawczego.
W modelach dla danych zliczeniowych stosowanie R² wymaga szczególnej ostrożności, ponieważ wariancja zależy od średniej i rozkładu zmiennej. Cameron i Windmeijer (1997) omawiali miary R² dostosowane do regresji danych zliczeniowych, w tym zastosowań związanych z wykorzystaniem świadczeń zdrowotnych. W takich analizach należy jasno podać nazwę użytej miary i sposób jej obliczenia.
9. Najczęstsze błędy
- Traktowanie R² jako dowodu przyczynowości. Model opisujący 40% zmienności nie dowodzi, że predyktory wywołują wynik.
- Uznawanie uniwersalnych progów za obowiązujące. „Duże” R² zależy od dziedziny, jakości pomiaru i celu badania.
- Mylenie R² z odsetkiem poprawnych prognoz. R² nie jest tym samym co czułość, swoistość, dokładność klasyfikacji ani kalibracja.
- Raportowanie wyłącznie R². Należy przedstawić także liczebność próby, predyktory, współczynniki, przedziały ufności, założenia i sposób walidacji.
- Dodawanie predyktorów tylko po to, by zwiększyć R². Zwykłe R² nie karze za złożoność modelu.
- Interpretowanie R² skorygowanego jako testu prawdziwości modelu. Jest to miara dopasowania z korektą za liczbę predyktorów, a nie dowód poprawności teorii.
- Porównywanie R² między nieporównywalnymi wynikami. R² zależy od rozkładu i zmienności wyniku, dlatego większa wartość nie zawsze oznacza lepszy model w sensie praktycznym.
- Ignorowanie walidacji. R² uzyskane w tej samej próbie, w której dopasowano model, może być zawyżone.
10. Przykład praktyczny: jak napisać wynik?
Badacz analizował, czy nasilenie bólu, lęk przed ruchem i poziom aktywności przewidują ograniczenie funkcjonowania po sześciu tygodniach rehabilitacji. Model liniowy był istotny statystycznie, F(3, 146) = 18,42, p < .001, R² = .27, R² skorygowane = .26. Możliwy zapis wyników brzmi:
Model obejmujący nasilenie bólu, lęk przed ruchem i poziom aktywności był związany z 27% zmienności ograniczenia funkcjonowania po sześciu tygodniach rehabilitacji; R² skorygowane wyniosło 26%. Wynik wskazuje na umiarkowane dopasowanie modelu w analizowanej próbie, ale nie dowodzi, że zmiana któregokolwiek z predyktorów spowoduje poprawę funkcjonowania.
Jeżeli model został następnie oceniony w niezależnej próbie i R² spadło do 0,18, należałoby tę różnicę omówić jako możliwy przejaw optymizmu wynikającego z dopasowania modelu do próby uczącej. W badaniach predykcyjnych ważna jest nie tylko zmienność wyjaśniona w próbie, lecz także działanie modelu poza nią.
11. Jak raportować R² odpowiedzialnie?
- Podaj rodzaj modelu i zmienną zależną.
- Wymień predyktory oraz sposób ich kodowania.
- Raportuj R², a w regresji wielorakiej także R² skorygowane.
- Jeśli porównujesz modele, podaj ΔR² oraz uzasadnienie kolejności bloków.
- Dodaj przedział ufności, jeśli jest dostępny, oraz liczebność analizowanej próby.
- Sprawdź liniowość, obserwacje wpływowe, homoscedastyczność i niezależność reszt.
- Rozdziel opis zależności od twierdzeń przyczynowych.
- Omów, czy wielkość wyjaśnionej zmienności ma znaczenie praktyczne dla pacjentów, personelu lub systemu ochrony zdrowia.
Takie raportowanie jest zgodne z duchem przejrzystości zalecanej przez APA JARS oraz z ogólną zasadą, że miara dopasowania powinna być interpretowana w kontekście projektu badania, jakości danych i celu analizy.
Co warto zapamiętać?
- R² to proporcja zmienności wyniku związana z dopasowanym modelem względem przewidywania samą średnią.
- W klasycznej regresji liniowej: R² = 1 − SSres/SStot.
- W regresji z jednym predyktorem R² jest kwadratem korelacji Pearsona.
- R² nie jest dowodem przyczynowości i nie mówi automatycznie o znaczeniu klinicznym.
- W regresji wielorakiej warto uzupełnić R² o R² skorygowane oraz, przy porównywaniu modeli, o ΔR².
- Nie ma uniwersalnych progów „małego” i „dużego” R² dla wszystkich dziedzin.
- W modelach logistycznych, zliczeniowych i mieszanych trzeba wskazać, jaką konkretnie miarę pseudo-R² zastosowano.
- Najlepsza interpretacja łączy R² z przedziałem ufności, jakością modelu, walidacją oraz znaczeniem praktycznym.
Źródła i dalsza lektura
- Nakagawa, S., & Schielzeth, H. (2013). A general and simple method for obtaining R2 from generalized linear mixed-effects models. Methods in Ecology and Evolution, 4(2), 133–142. DOI: 10.1111/j.2041-210X.2012.00261.x.
- Cameron, A. C., & Windmeijer, F. A. G. (1997). An R-squared measure of goodness of fit for some common nonlinear regression models. Journal of Econometrics, 77(2), 329–342. DOI: 10.1016/S0304-4076(96)01818-0.
- Cameron, A. C., & Windmeijer, F. A. G. (1997). R-Squared Measures for Count Data Regression Models with Applications to Health-Care Utilization. Journal of Business & Economic Statistics, 14(2), 209–220. DOI: 10.1080/07350015.1996.10524648.
- Riley, R. D., Snell, K. I. E., Ensor, J., Burke, D. L., Harrell, F. E., Jr., Moons, K. G. M., & Collins, G. S. (2019). Minimum sample size for developing a multivariable prediction model: PART II – binary and time-to-event outcomes. Statistics in Medicine, 38(7), 1276–1296. DOI: 10.1002/sim.7992.
- Weinberg, S. L., Harel, D., & Abramowitz, S. K. (2023). Statistics Using R: An Integrative Approach. 2nd edition. Cambridge University Press. Informacja wydawcy / źródło.
- Kutner, M. H., Nachtsheim, C. J., Neter, J., & Li, W. (2004). Applied Linear Statistical Models. 5th edition. McGraw-Hill/Irwin.
- American Psychological Association (2024). Journal Article Reporting Standards (JARS). American Psychological Association. Źródło.