372. Wartości odstające – jak je wykrywać?

Wartości odstające są jednymi z najczęściej zauważanych sygnałów ostrzegawczych podczas analizy danych. Pojedynczy wynik może jednak oznaczać błąd pomiaru, pomyłkę przy wprowadzaniu danych, rzadkie, lecz prawidłowe zdarzenie albo osobę należącą do innej, interesującej nas podpopulacji. Dlatego wykrycie wartości odstającej nie kończy analizy. Jest dopiero początkiem postępowania diagnostycznego.

W tej lekcji kursu na statystyk.edu.pl uporządkujemy podstawowe sposoby wykrywania wartości odstających: od kontroli logicznej i wykresów, przez regułę rozstępu międzykwartylowego, po wyniki standaryzowane, test Grubbsa, uogólnioną procedurę ESD oraz diagnostykę obserwacji w modelach regresji. Najważniejsza zasada brzmi: obserwację należy wykluczać z analizy z powodu udokumentowanego błędu lub jasno określonej reguły projektowej, a nie tylko dlatego, że pogarsza wynik testu lub zmniejsza istotność statystyczną.

Czym jest wartość odstająca?

Wartość odstająca to obserwacja, która wyraźnie różni się od pozostałych obserwacji w analizowanym zbiorze. „Wyraźnie” nie oznacza jednak zawsze tego samego. Ocena zależy od skali pomiaru, rozkładu zmiennej, liczebności próby, celu badania oraz modelu statystycznego.

Wartość odstająca może być nietypowa:

• jednowymiarowo – gdy jedna zmienna przyjmuje wartość wyjątkowo małą lub dużą;
• wielowymiarowo – gdy kombinacja kilku zmiennych jest niezwykła, mimo że każda z nich osobno wygląda poprawnie;
• względem modelu – gdy obserwacja ma duży błąd resztowy albo silnie wpływa na oszacowania parametrów.

Warto odróżnić trzy pojęcia. Wartość odstająca jest nietypowa względem rozkładu danych. Obserwacja wpływowa wyraźnie zmienia wyniki modelu po jej usunięciu. Punkt o dużej dźwigni ma nietypowe wartości zmiennych objaśniających, czyli leży daleko od typowego układu predyktorów. Te cechy mogą występować jednocześnie, ale nie muszą.

NIST rozróżnia między innymi oznaczanie potencjalnych wartości odstających, formalną identyfikacją oraz dostosowaniem analizy tak, aby była mniej podatna na obserwacje nietypowe (NIST/SEMATECH, 2002). To rozróżnienie jest bardzo użyteczne praktycznie: flaga diagnostyczna nie jest jeszcze decyzją o usunięciu rekordu.

Dlaczego wartości odstające wymagają ostrożności?

Wartości odstające mogą silnie zmieniać średnią, odchylenie standardowe, korelację Pearsona, współczynniki regresji i wartość statystyki testowej. W małej próbie wpływ jednej obserwacji bywa szczególnie duży. Nie oznacza to jednak, że każdą nietypową obserwację należy usunąć.

Przykładowo w badaniu poziomu bólu u pacjentów większość osób może oceniać ból na 2–5 punktów, a jedna osoba zgłosić 10 punktów. Ten wynik może być prawidłowy i klinicznie ważny. Usunięcie go tylko dlatego, że jest skrajny, zniekształciłoby obraz rzeczywistego zróżnicowania pacjentów. Z kolei wartość „100” w skali od 0 do 10 najprawdopodobniej wskazuje na błąd kodowania.

Wartość odstająca może także ujawniać problem z założeniem modelu. Kilka bardzo dużych wartości czasu hospitalizacji może oznaczać prawostronnie skośny rozkład, a nie kilka błędów. W takim przypadku właściwą reakcją może być zastosowanie mediany i rozstępu międzykwartylowego, transformacji logarytmicznej, modelu dla danych zliczeniowych lub odpornej metody estymacji.

Etap pierwszy: kontrola merytoryczna i logiczna

Najlepsze wykrywanie wartości odstających zaczyna się przed zastosowaniem testu statystycznego. Należy sprawdzić:

1. czy wartości mieszczą się w dopuszczalnym zakresie skali;
2. czy jednostki pomiaru są jednakowe dla wszystkich uczestników;
3. czy nie pomylono przecinka dziesiętnego, kodu braków danych i zera;
4. czy data, czas i kolejność pomiarów są logiczne;
5. czy nie doszło do podwójnego wprowadzenia obserwacji;
6. czy ekstremalny wynik można potwierdzić w dokumentacji źródłowej.

W badaniu ratownictwa medycznego czas dotarcia zespołu wynoszący 0 minut może oznaczać rzeczywisty przypadek na miejscu zdarzenia, ale może też być kodem „brak danych”. Czas wynoszący 900 minut może wynikać z wpisania wartości w sekundach lub z błędnej daty. Kontrola merytoryczna jest ważniejsza niż automatyczne oznaczenie rekordu jako „outlier”.

Wizualne metody wykrywania

Wykres pudełkowy

Wykres pudełkowy przedstawia medianę, pierwszy kwartyl, trzeci kwartyl i obserwacje położone poza granicami typowego zakresu. Najczęściej stosuje się regułę opartą na rozstępie międzykwartylowym:

IQR = Q3 − Q1

dolna granica = Q1 − 1,5 × IQR

górna granica = Q3 + 1,5 × IQR

Symbol Q₁ oznacza pierwszy kwartyl, czyli wartość, poniżej której znajduje się około 25% obserwacji. Q₃ to trzeci kwartyl, poniżej którego znajduje się około 75% obserwacji. IQR jest rozstępem międzykwartylowym, a więc miarą rozproszenia środkowych 50% danych.

Obserwacja poza granicą jest potencjalnie odstająca według reguły graficznej. Nie jest to dowód błędu. Reguła 1,5 × IQR ma charakter konwencjonalny i służy do oznaczania punktów wymagających sprawdzenia.

Histogram i wykres punktowy

Histogram pozwala sprawdzić, czy skrajna wartość jest pojedynczym punktem, czy częścią długiego ogona rozkładu. Wykres punktowy może ujawnić obserwację nietypową tylko w określonej kombinacji zmiennych. W badaniu psychologicznym wynik lęku może być przeciętny, a jednocześnie nietypowe połączenie wysokiego lęku i bardzo krótkiego czasu reakcji może wskazywać na odmienny profil uczestnika.

Przy danych uporządkowanych w czasie należy używać wykresu szeregu czasowego. Pojedynczy skok może być wartością odstającą, ale może też wskazywać na epidemię, awarię systemu albo zmianę procedury pomiarowej.

Wynik standaryzowany i reguła z-score

Prostym sposobem oceny odległości obserwacji od średniej jest wynik standaryzowany:

zi = (xi − x̄) / s

x_i oznacza wartość i-tej obserwacji, x̄ – średnią z próby, a s – odchylenie standardowe z próby. Wynik z mówi, o ile odchyleń standardowych obserwacja znajduje się od średniej.

Często spotyka się orientacyjne progi |z| > 3 lub |z| > 3,29. Nie należy traktować ich jako uniwersalnego prawa. Średnia i odchylenie standardowe są wrażliwe na wartości skrajne, dlatego pojedynczy outlier może częściowo „ukryć” własną nietypowość, zwiększając mianownik wzoru.

W rozkładach silnie skośnych lepiej sprawdzić medianę i IQR albo zastosować odporny wynik standaryzowany, na przykład oparty na medianie oraz medianowym odchyleniu bezwzględnym. Takie rozwiązania ograniczają wpływ wartości skrajnych na samą regułę diagnostyczną.

Test Grubbsa i procedura uogólnionego ESD

Test Grubbsa został opracowany do oceny pojedynczej najbardziej skrajnej obserwacji w próbie pochodzącej w przybliżeniu z rozkładu normalnego (Grubbs, 1950). W uproszczeniu statystyka ma postać:

G = max|xi − x̄| / s

Im większa wartość G, tym dalej najbardziej skrajna obserwacja znajduje się od średniej w jednostkach odchylenia standardowego. Krytyczna wartość zależy od liczebności próby i przyjętego poziomu istotności.

Test Grubbsa jest przeznaczony przede wszystkim do sytuacji, w której rozważamy jedną obserwację odstającą i zakładamy przybliżoną normalność danych. Nie należy stosować go mechanicznie w rozkładach silnie skośnych ani wielokrotnie usuwać kolejnych punktów, ponieważ zmienia to regułę decyzyjną i może zwiększać ryzyko fałszywych alarmów.

Jeżeli możliwe jest występowanie wielu wartości odstających, można rozważyć uogólnioną procedurę ESD Rosnera. Procedura pozwala badać od jednej do określonej z góry liczby potencjalnych wartości odstających, przy czym trzeba wcześniej określić maksymalną liczbę podejrzanych obserwacji (Rosner, 1983). W praktyce również tutaj konieczna jest kontrola rozkładu, kontekstu pomiaru i sensu naukowego wyniku.

Wartości odstające w regresji

W regresji sama wartość zmiennej zależnej nie wystarcza do oceny nietypowości. Należy obejrzeć przede wszystkim:

• reszty standaryzowane lub studentyzowane – wskazują, czy obserwacja ma duży błąd względem modelu;
• wartości dźwigni – pokazują, czy układ predyktorów jest nietypowy;
• odległość Cooka – ocenia, jak bardzo obserwacja wpływa na dopasowanie modelu po jej usunięciu;
• DFBETAS i DFFITS – pomagają ocenić wpływ obserwacji na konkretne współczynniki lub wartości dopasowane.

Odległość Cooka nie odpowiada na pytanie: „czy rekord jest błędny?”. Odpowiada raczej na pytanie: „jak zmieniłyby się wyniki modelu, gdyby tego rekordu nie było?”. Cook i Weisberg (1982) podkreślają znaczenie diagnostyki reszt i wpływu w ocenie dopasowania modelu.

Przykładowo w regresji przewidującej długość hospitalizacji na podstawie wieku, liczby chorób przewlekłych i ciężkości stanu pacjenta osoba z bardzo ciężkim przebiegiem może być wpływowa. Nie należy jej usuwać tylko dlatego, że zmienia współczynnik. Trzeba sprawdzić dokumentację, zasadność modelu i analizę wrażliwości z uwzględnieniem oraz bez uwzględnienia tej obserwacji.

Przykład praktyczny: ciśnienie tętnicze w badaniu pielęgniarskim

Załóżmy, że w badaniu przesiewowym zmierzono skurczowe ciśnienie tętnicze u 40 dorosłych osób. Większość wyników mieści się między 110 a 165 mmHg, jeden wynosi 198 mmHg, a jeden 680 mmHg.

Wykres pudełkowy oznaczy prawdopodobnie oba wyniki jako skrajne. Wynik 680 mmHg wymaga jednak najpierw sprawdzenia arkusza i dokumentacji. Możliwe, że wpisano 68,0 albo połączono dwie cyfry. Jeśli aparatura nie mogła technicznie zmierzyć takiej wartości, mamy mocną przesłankę błędu. Rekord można skorygować na podstawie wiarygodnego źródła albo oznaczyć jako brak danych, ale nie wolno zastępować go średnią bez udokumentowanej reguły.

Wynik 198 mmHg może być rzeczywisty. Należy sprawdzić, czy pomiar powtórzono, czy pacjent odpoczywał przed pomiarem i czy nie wystąpiły okoliczności kliniczne uzasadniające wysoką wartość. Jeśli wynik jest potwierdzony, pozostaje w analizie. W raporcie można podać medianę i IQR, a dodatkowo wykonać analizę wrażliwości: wynik główny z pełnym zbiorem oraz analizę pomocniczą po wyłączeniu obserwacji o niepewnej jakości.

Takie postępowanie oddziela wykrywanie od kwalifikacji i od decyzji analitycznej.

Przykład z psychologii: czas reakcji

W badaniu eksperymentalnym mierzono czas reakcji w milisekundach. Dziewięćdziesiąt procent wyników mieści się między 350 a 900 ms, ale jedna osoba uzyskała 80 ms, a inna 12 000 ms.

Wartość 12 000 ms może wynikać z chwilowego rozproszenia, przerwania badania albo problemu technicznego. Wartość 80 ms może być fizjologicznie mało prawdopodobna dla danej procedury, ale nie można rozstrzygać tego wyłącznie na podstawie statystyki. Należy sprawdzić logi programu, poprawność odpowiedzi, liczbę prób i kryteria wykluczenia określone przed analizą.

Jeżeli badanie obejmuje wiele prób na osobę, korzystniejsze może być najpierw zastosowanie reguł na poziomie pojedynczych prób, a następnie obliczenie wyniku uczestnika. Usunięcie całej osoby z powodu jednego nietypowego czasu reakcji może być nieproporcjonalne. Z drugiej strony systematycznie niewiarygodne odpowiedzi, na przykład brak reakcji w większości prób, mogą uzasadniać wykluczenie zgodnie z wcześniej określonym protokołem.

Analiza wrażliwości zamiast arbitralnego usuwania

Gdy nie ma pewności, czy obserwacja jest błędna, dobrym rozwiązaniem jest analiza wrażliwości. Należy porównać wyniki:

• dla pełnego zbioru danych;
• po wyłączeniu obserwacji potwierdzonej jako błędna;
• z użyciem metody odpornej, jeśli jest adekwatna;
• po zastosowaniu uzasadnionej transformacji;
• w modelu uwzględniającym odmienny mechanizm rozkładu danych.

Jeżeli wnioski są podobne, zwiększa to ich stabilność. Jeżeli różnią się znacząco, trzeba jasno opisać tę zależność i unikać nadmiernie kategorycznych wniosków. W badaniach obserwacyjnych warto raportować reguły kontroli danych, liczbę potencjalnych wartości odstających, liczbę usuniętych obserwacji oraz wyniki analiz wrażliwości. Jest to zgodne z duchem przejrzystego raportowania zalecanym przez STROBE.

Najczęstsze błędy

• Usuwanie każdej wartości oznaczonej na wykresie pudełkowym. Reguła 1,5 × IQR służy do oznaczania obserwacji do sprawdzenia, a nie do automatycznej eliminacji.
• Traktowanie wartości odstającej jako błędu. Skrajność statystyczna nie jest dowodem niepoprawności pomiaru.
• Wielokrotne stosowanie testu Grubbsa po kolei. Test dla pojedynczej obserwacji nie powinien być bezrefleksyjnie powtarzany w celu znalezienia wielu outlierów.
• Stosowanie z-score w silnie skośnych rozkładach. Średnia i odchylenie standardowe mogą być wtedy nieodpornymi punktami odniesienia.
• Koncentrowanie się wyłącznie na zmiennej zależnej. W regresji trzeba badać również nietypowość predyktorów i wpływ na model.
• Usuwanie obserwacji, ponieważ zmienia wartość p. Celem diagnostyki nie jest uzyskanie „istotnego” wyniku, lecz wiarygodne przedstawienie procesu generowania danych.
• Brak zapisu decyzji. Każde wykluczenie powinno mieć uzasadnienie, kryterium i ślad w dokumentacji analizy.
• Ignorowanie problemu wielu grup. Obserwacja skrajna w całej próbie może być typowa dla jednej grupy. Warto oglądać dane także według ośrodków, płci, wieku, czasu pomiaru lub innych ważnych warstw.

Jak raportować wartości odstające?

W publikacji należy opisać, czy i jak oceniano nietypowe obserwacje. Minimalny opis powinien obejmować metodę wykrywania, kryterium, liczbę wskazanych rekordów, sposób weryfikacji oraz decyzję analityczną. Przykładowo:

Potencjalne wartości odstające oceniono za pomocą wykresów pudełkowych, kontroli zakresów logicznych i diagnostyki reszt. Jeden rekord skorygowano na podstawie dokumentacji źródłowej. Pozostałe obserwacje uznano za prawidłowe i pozostawiono w analizie. Wyniki analizy wrażliwości z wyłączeniem dwóch najbardziej skrajnych wartości przedstawiono w tabeli dodatkowej.

Takie sformułowanie jest lepsze niż zdanie: „Usunięto outliery”. Czytelnik powinien wiedzieć, czym były te obserwacje, dlaczego je wyłączono i czy główny wniosek zależy od tej decyzji.

Co warto zapamiętać?

• Wartość odstająca to sygnał diagnostyczny, a nie automatycznie błąd.
• Najpierw sprawdza się zakresy logiczne, jednostki, dokumentację i jakość pomiaru.
• Wykres pudełkowy, histogram i wykres punktowy pomagają znaleźć obserwacje wymagające uwagi.
• Reguła IQR i z-score są narzędziami orientacyjnymi; ich interpretacja zależy od rozkładu danych.
• Test Grubbsa dotyczy przede wszystkim pojedynczej wartości odstającej przy założeniu przybliżonej normalności.
• W przypadku wielu potencjalnych outlierów można rozważyć procedurę uogólnionego ESD, ale nie zastępuje ona oceny merytorycznej.
• W regresji należy odróżniać duże reszty, wysoką dźwignię i wpływ na model.
• Jeżeli status obserwacji jest niepewny, warto zastosować analizę wrażliwości.
• Nie wolno usuwać rekordów tylko po to, aby uzyskać mniejszą wartość p lub istotność statystyczną.
• Pełne i przejrzyste raportowanie decyzji dotyczących wartości odstających jest częścią dobrej metodologii badań.

Wartości odstające są więc elementem rozumowania o danych, a nie przeszkodą, którą należy automatycznie usunąć. Dobra diagnostyka łączy narzędzia statystyczne z wiedzą o pomiarze, populacji i procesie badawczym.

Źródła i dalsza lektura

1. Grubbs, F. E. (1950). Sample Criteria for Testing Outlying Observations. The Annals of Mathematical Statistics, 21(1), 27–58. DOI: 10.1214/aoms/1177729885.
2. Rosner, B. (1983). Percentage Points for a Generalized ESD Many-Outlier Procedure. Technometrics, 25(2), 165–172. DOI: 10.1080/00401706.1983.10487848.
3. Iglewicz, B.; Hoaglin, D. C. (1993). How to Detect and Handle Outliers. American Society for Quality Control.
4. Cook, R. D.; Weisberg, S. (1982). Residuals and Influence in Regression. Chapman and Hall.
5. Heckert, N. A.; Filliben, J. J.; Croarkin, C. M.; Hembree, B.; Guthrie, W. F.; Tobias, P.; Prinz, J. (2002). Handbook 151: NIST/SEMATECH e-Handbook of Statistical Methods. National Institute of Standards and Technology. Źródło.
6. von Elm, E.; Altman, D. G.; Egger, M.; Pocock, S. J.; Gøtzsche, P. C.; Vandenbroucke, J. P.; STROBE Initiative (2007). The Strengthening the Reporting of Observational Studies in Epidemiology (STROBE) Statement: Guidelines for Reporting Observational Studies. PLoS Medicine. PLOS. Źródło.