451. Obserwacje odstające a współczynnik korelacji

W poprzednich lekcjach kursu omawialiśmy, czym jest korelacja, jak interpretować jej kierunek i siłę oraz dlaczego przed obliczeniem współczynnika warto obejrzeć wykres rozrzutu. Jednym z najważniejszych powodów jest możliwość występowania obserwacji odstających. Pojedynczy nietypowy punkt może wyraźnie zmienić wartość współczynnika korelacji, a czasem nawet stworzyć pozorną zależność, której nie widać w pozostałej części danych. W tej lekcji pokazujemy, jak rozumieć ten problem, jak go diagnozować i jak raportować analizę bez arbitralnego usuwania niewygodnych obserwacji.

Czym jest obserwacja odstająca?

Obserwacja odstająca to wynik wyraźnie różniący się od pozostałych obserwacji. Termin ten nie oznacza jednak automatycznie błędu. Nietypowa wartość może być skutkiem pomyłki przy wpisywaniu danych, awarii aparatury, nieprawidłowego pomiaru lub naruszenia procedury badawczej. Może też odzwierciedlać prawdziwą, choć rzadką cechę badanego przypadku.

W analizie dwóch zmiennych trzeba odróżnić co najmniej trzy sytuacje:

• odstająca wartość jednej zmiennej – na przykład wyjątkowo wysokie ciśnienie tętnicze, ale bez nietypowej wartości drugiej zmiennej;
• punkt o wysokiej dźwigni – obserwacja położona daleko od pozostałych w zakresie zmiennej objaśniającej lub na osi poziomej wykresu;
• obserwacja wpływowa – punkt, którego obecność istotnie zmienia wynik analizy, na przykład współczynnik korelacji, nachylenie prostej regresji albo wniosek statystyczny.

Pojęcia te częściowo się nakładają, ale nie są synonimami. Punkt może być odległy od reszty danych, a mimo to niewiele zmieniać korelację. Z kolei obserwacja umiarkowanie odległa może być bardzo wpływowa, jeżeli znajduje się w szczególnym miejscu chmury punktów.

Dlaczego obserwacja odstająca wpływa na korelację?

Najczęściej stosowany współczynnik korelacji Pearsona opiera się na odchyleniach poszczególnych obserwacji od średnich. Dla próby jest definiowany wzorem:

r = [Σᵢ₌₁ⁿ (xᵢ − x̄)(yᵢ − ȳ)] / √{[Σᵢ₌₁ⁿ (xᵢ − x̄)²][Σᵢ₌₁ⁿ (yᵢ − ȳ)²]}

W tym wzorze:

• r oznacza współczynnik korelacji Pearsona;
• n jest liczebnością próby;
• xᵢ i yᵢ to wartości dwóch zmiennych dla osoby lub jednostki o numerze i;
• x̄ i ȳ są średnimi arytmetycznymi zmiennych X i Y;
• (xᵢ − x̄)(yᵢ − ȳ) opisuje, czy obserwacja odchyla się od obu średnich w tym samym kierunku czy w kierunkach przeciwnych;
• mianownik skaluje kowariancję przez zmienność obu zmiennych.

Kluczowe znaczenie ma iloczyn odchyleń w liczniku. Jeżeli punkt ma jednocześnie bardzo wysoką wartość X i bardzo wysoką wartość Y, jego wkład do dodatniej kowariancji może być duży. Jeżeli jedna wartość jest bardzo wysoka, a druga bardzo niska, punkt może silnie wpływać na korelację ujemną. Wartości ekstremalne oddziałują także na mianownik, ponieważ zwiększają sumy kwadratów odchyleń.

W konsekwencji jedna obserwacja może:

• zwiększyć dodatnią korelację;
• osłabić istniejącą korelację;
• odwrócić jej znak;
• stworzyć pozorną silną korelację w danych, które bez tego punktu byłyby słabo zależne;
• zmienić wartość p, ale wartość p nie jest miarą wielkości ani wiarygodności samego efektu.

Wrażliwość korelacji Pearsona na obserwacje odstające wynika z tego, że współczynnik jest oparty na średnich, kowariancji i odchyleniach standardowych. Badania symulacyjne oraz opracowania metodologiczne pokazują, że wpływ nietypowych punktów zależy nie tylko od ich odległości, lecz także od położenia względem ogólnego wzorca danych (Kim, Kim i Ergün, 2015; Ventura-León, Peña-Calero i Burga-León, 2023).

Jak obserwacja może zmienić obraz zależności?

Przykład 1: zależność w badaniu zdrowia publicznego

Załóżmy, że w badaniu 12 gmin analizowano średnie roczne stężenie pyłu PM2,5 oraz częstość hospitalizacji z powodu zaostrzeń astmy. W jedenastu gminach wartości obu zmiennych układają się dość chaotycznie, a korelacja wynosi około r = 0,12. Dwunasta gmina jest dużym ośrodkiem przemysłowym: ma najwyższe stężenie PM2,5 i jednocześnie najwyższą częstość hospitalizacji. Po dodaniu tego punktu korelacja wzrasta na przykład do r = 0,68.

Nie wolno od razu stwierdzić, że obserwacja jest błędna i należy ją usunąć. Może ona prawidłowo odzwierciedlać rzeczywiste warunki środowiskowe. Trzeba sprawdzić, czy wszystkie gminy definiowały hospitalizacje i ekspozycję w ten sam sposób, czy okres obserwacji był porównywalny oraz czy w dużym ośrodku nie występowały dodatkowe czynniki, takie jak różna dostępność szpitali lub odmienna struktura wieku.

Ten punkt może być ważny merytorycznie, ale jednocześnie nadmiernie wpływowy statystycznie. Właściwym rozwiązaniem jest przedstawienie korelacji dla całego zbioru, analiza wrażliwości po wyłączeniu punktu z jasno podanym uzasadnieniem oraz omówienie, czy wynik dotyczy wszystkich gmin, czy głównie kontrastu między jednym ośrodkiem a pozostałymi.

Przykład 2: psychologia i pomiar stresu

W badaniu studentów oceniano wynik skali stresu oraz liczbę godzin snu. W większości grupy widoczna jest umiarkowana ujemna zależność: osoby śpiące krócej deklarują większy stres. Jedna osoba zgłasza jednak 2 godziny snu i bardzo niski wynik stresu. Jeżeli zapis jest prawidłowy, może to być interesujący przypadek, na przykład osoba pracująca nocą, przyzwyczajona do niestandardowego rytmu lub odmiennie rozumiejąca instrukcję skali. Jeżeli natomiast w kwestionariuszu pomylono kodowanie odpowiedzi, jest to błąd danych.

Usunięcie tej obserwacji wyłącznie dlatego, że osłabia oczekiwaną hipotezę byłoby nieuprawnione. Najpierw należy sprawdzić dokumentację, odpowiedzi źródłowe, reguły kodowania i kompletność pomiaru. Dopiero potem można zdecydować, czy punkt pozostawić, skorygować, oznaczyć jako brak danych albo wykluczyć zgodnie z wcześniej określonym protokołem.

Diagnostyka: od wykresu do analizy wrażliwości

Podstawowym narzędziem jest wykres rozrzutu. Powinien być oceniany przed obliczeniem korelacji, a nie dopiero po uzyskaniu interesującej wartości r. Na wykresie warto zaznaczyć identyfikatory obserwacji, jeżeli jest ich niewiele i nie narusza to poufności danych.

Podczas oglądania wykresu należy zadać następujące pytania:

1. Czy nietypowy punkt jest błędem technicznym lub administracyjnym?
2. Czy punkt znajduje się daleko od pozostałych w jednej lub obu zmiennych?
3. Czy obserwacja leży na przedłużeniu głównego trendu, czy tworzy odrębny wzorzec?
4. Czy dane mogą pochodzić z kilku populacji, oddziałów, grup wiekowych lub warunków pomiarowych?
5. Czy wynik korelacji zmienia się wyraźnie po usunięciu pojedynczej obserwacji?

Pomocna jest analiza leave-one-out, czyli wielokrotne obliczenie korelacji po usunięciu kolejno każdej obserwacji. Można wówczas sprawdzić, czy zakres wartości współczynnika jest stabilny. Przykładowo raport może wskazywać, że korelacja dla pełnej próby wynosi r = 0,54, natomiast po pominięciu najbardziej wpływowej obserwacji spada do r = 0,18. Nie jest to dowód, że któraś z wartości jest „prawdziwa”, ale informacja, że wniosek jest silnie zależny od jednego przypadku.

W analizach regresyjnych można dodatkowo stosować diagnostykę wpływu, między innymi dźwignię, reszty studentyzowane oraz odległość Cooka. Odległość Cooka została zaproponowana jako miara wpływu obserwacji na estymację parametrów modelu regresji (Cook, 1977). Nie jest ona jednak automatycznym testem, który wskazuje, którą obserwację należy usunąć. W przypadku samej korelacji należy interpretować ją pomocniczo, ponieważ korelacja i regresja odpowiadają na nieco inne pytania.

Korelacja Pearsona, Spearmana i metody odporne

Zastąpienie korelacji Pearsona korelacją rang Spearmana może być rozsądną analizą uzupełniającą, szczególnie gdy dane są porządkowe, silnie skośne albo zależność jest monotoniczna, lecz niekoniecznie liniowa. Rangi ograniczają wpływ odległości ekstremalnej wartości, ale nie sprawiają, że każda obserwacja odstająca przestaje mieć znaczenie. Nietypowy punkt może nadal zmienić kolejność rang lub wskazywać na heterogeniczność populacji.

W badaniach psychologicznych porównywano wpływ rozkładu danych i obserwacji odstających na korelacje Pearsona, Spearmana oraz korelacje winsoryzowane. Wyniki takich symulacji przemawiają za tym, aby wybór metody był częścią diagnostyki, a nie reakcją na niepożądaną wartość p (Ventura-León, Peña-Calero i Burga-León, 2023).

W bardziej zaawansowanych analizach można rozważyć korelacje odporne, korelację pominiętą (skipped correlation) lub bootstrapowe przedziały ufności. Metody te wymagają jednak jasnego opisania reguł identyfikacji punktów wpływowych. Nie powinny być traktowane jako sposób na „oczyszczenie” danych z obserwacji, które nie pasują do hipotezy.

Przykład praktyczny: analiza przypadku krok po kroku

W badaniu 20 pacjentów oceniano zależność między czasem oczekiwania na przyjęcie na oddział ratunkowy a wynikiem satysfakcji pacjenta. Dla 19 osób czas oczekiwania wynosił od 20 do 180 minut, a satysfakcja zwykle malała wraz z czasem. Jeden pacjent czekał 900 minut z powodu konieczności przekazania do specjalistycznego ośrodka, ale mimo to wystawił wysoką ocenę.

Analiza powinna przebiegać następująco:

1. Weryfikacja źródłowa: sprawdzamy, czy 900 minut oznacza rzeczywisty czas oczekiwania, czy suma kilku etapów pobytu.
2. Wykres: oceniamy, czy punkt tworzy pojedynczą obserwację o wysokiej dźwigni.
3. Korelacja pełnego zbioru: obliczamy r i przedział ufności.
4. Analiza wrażliwości: obliczamy wynik po wyłączeniu punktu, ale nie ukrywamy tej analizy.
5. Analiza alternatywna: porównujemy wynik Pearsona ze Spearmanem oraz rozważamy, czy zmienna czasu oczekiwania nie wymaga transformacji lub podziału na klinicznie sensowne kategorie.
6. Interpretacja: opisujemy, czy wniosek o ujemnej zależności jest stabilny, czy zależy niemal całkowicie od jednego pacjenta.

Jeżeli punkt jest prawidłowy, należy go zwykle pozostawić w analizie głównej, ponieważ opisuje rzeczywisty przypadek należący do badanej populacji. Można jednak zaznaczyć, że wynik jest wrażliwy na tę obserwację. Jeżeli czas 900 minut wynika z błędnego sposobu zdefiniowania zmiennej, korekta powinna być udokumentowana przed ponownym obliczeniem statystyk.

Jak raportować wpływ obserwacji odstających?

Dobry raport nie ogranicza się do zdania: „usunięto obserwacje odstające”. Należy podać:

• kryterium, według którego obserwację uznano za nietypową;
• czy kryterium ustalono przed analizą główną;
• przyczynę wykluczenia, jeżeli punkt usunięto;
• liczbę wyłączonych obserwacji;
• wynik analizy z obserwacjami oraz bez nich, jeżeli przeprowadzono analizę wrażliwości;
• wpływ decyzji na wielkość efektu, przedział ufności i wniosek merytoryczny.

Przykładowe sformułowanie może brzmieć: „Korelacja Pearsona między czasem oczekiwania a satysfakcją wyniosła r = −0,46, 95% PU [−0,72; −0,04]. Analiza leave-one-out wskazała, że po wyłączeniu jednego prawidłowego, skrajnego przypadku współczynnik zmieniał się do r = −0,29. Wynik wskazuje na ujemną zależność, lecz jej siła jest umiarkowanie wrażliwa na pojedynczą obserwację”.

Nie należy pisać, że obserwacja „zafałszowała wynik”, jeżeli nie ustalono, że była błędna. Trafniejsze jest stwierdzenie, że „miała duży wpływ na oszacowanie korelacji”. Warto też pamiętać, że korelacja nie dowodzi przyczynowości, nawet jeśli wynik pozostaje stabilny po analizie obserwacji odstających (Schober, Boer i Schwarte, 2018).

Najczęstsze błędy

• Automatyczne usuwanie punktów poza zakresem średnia ± 2 odchylenia standardowe. Takie kryterium nie jest uniwersalną definicją obserwacji odstającej.
• Usuwanie obserwacji tylko dlatego, że zmienia wartość p. Decyzja powinna wynikać z jakości danych, projektu badania i celu analizy, a nie z oczekiwanego wyniku.
• Traktowanie korelacji Spearmana jako całkowicie odpornej na odstające punkty. Rangi zmniejszają wpływ odległości, ale nie eliminują problemu.
• Ocenianie punktu bez znajomości kontekstu klinicznego. Rzadki przypadek może być właśnie najcenniejszą obserwacją naukową.
• Raportowanie tylko analizy po usunięciu punktu. Czytelnik powinien wiedzieć, jak wyglądał wynik przed decyzją o wykluczeniu.
• Mylenie obserwacji odstającej z błędem pomiaru. Nietypowość statystyczna jest sygnałem do sprawdzenia danych, a nie dowodem nieprawidłowości.
• Interpretowanie dużego r jako dowodu zgodności metod pomiarowych. Do oceny zgodności dwóch metod klinicznych odpowiedniejsze są między innymi wykresy i metody Bland–Altmana, a nie sama korelacja (Bland i Altman, 1986).

Co warto zapamiętać?

• Obserwacja odstająca nie musi być błędem i nie powinna być usuwana automatycznie.
• Korelacja Pearsona może silnie reagować na pojedynczy punkt, zwłaszcza położony daleko od środka chmury danych.
• Wykres rozrzutu jest podstawowym narzędziem diagnostycznym przed obliczeniem współczynnika.
• Należy odróżniać punkt odstający, punkt o wysokiej dźwigni i obserwację wpływową.
• Analiza wrażliwości pomaga ocenić stabilność wniosku, ale nie zastępuje oceny jakości i sensu merytorycznego danych.
• Korelacja Spearmana może być użyteczną analizą uzupełniającą, lecz nie jest magicznym rozwiązaniem problemu odstających obserwacji.
• Raportuj wynik z pełnym zbiorem oraz – gdy jest to uzasadnione – wynik po analizie wrażliwości.
• Najważniejszym pytaniem nie jest „jak usunąć odstający punkt?”, lecz „co ten punkt oznacza i jak wpływa na odpowiedź na pytanie badawcze?”.

W ramach publicznego szkolenia na statystyk.edu.pl warto połączyć tę lekcję z wcześniejszymi materiałami o wykresie rozrzutu, korelacji Pearsona, korelacji Spearmana oraz przedziałach ufności. Dopiero łączne użycie diagnostyki graficznej, wiedzy dziedzinowej i analizy wrażliwości pozwala rozsądnie ocenić, czy obserwowana korelacja opisuje ogólny wzorzec danych, czy przede wszystkim pojedynczy przypadek.

Źródła i dalsza lektura

1. Cook, R. Dennis (1977). Detection of Influential Observation in Linear Regression. Technometrics, 19(1), 15–18. DOI: 10.1080/00401706.1977.10489493.
2. Belsley, David A.; Kuh, Edwin; Welsch, Roy E. (1980). Regression Diagnostics: Identifying Influential Data and Sources of Collinearity. John Wiley & Sons. Informacja wydawcy / źródło.
3. Barnett, Vic; Lewis, Toby (1994). Outliers in Statistical Data. 3rd edition. John Wiley & Sons. Informacja wydawcy / źródło.
4. Kim, Yunmi; Kim, Tae-Hwan; Ergün, Tolga (2015). The instability of the Pearson correlation coefficient in the presence of coincidental outliers. Finance Research Letters, 13, 243–257. DOI: 10.1016/j.frl.2014.12.005.
5. Ventura-León, José; Peña-Calero, Brian Norman; Burga-León, Andrés (2023). The effect of normality and outliers on bivariate correlation coefficients in psychology: A Monte Carlo simulation. The Journal of General Psychology, 150(4), 405–422. DOI: 10.1080/00221309.2022.2094310.
6. Schober, Patrick; Boer, Christa; Schwarte, Lothar A. (2018). Correlation Coefficients: Appropriate Use and Interpretation. Anesthesia & Analgesia, 126(5), 1763–1768. DOI: 10.1213/ANE.0000000000002864.
7. Bland, J. Martin; Altman, Douglas G. (1986). Statistical methods for assessing agreement between two methods of clinical measurement. The Lancet, 327(8476), 307–310. DOI: 10.1016/S0140-6736(86)90837-8.