Statystyka opisowa

Streszczenie

Statystyka opisowa wyłożona od podstaw: geneza (Graunt, Quetelet, Galton, Pearson), rodzaje zmiennych, miary położenia (średnia jako punkt równowagi, mediana, moda) z analizą wartości odstających, miary zmienności (wariancja, odchylenie standardowe, współczynnik zmienności), kwantyle i wykres pudełkowy, skośność i kurtoza, współczynnik korelacji, standaryzacja oraz dane wielowymiarowe w ℝⁿ. Każde pojęcie i każdy przykład z osobnym rysunkiem.

Statystyka opisowa to sztuka streszczania danych: zastąpienia tysięcy liczb kilkoma wielkościami, które oddają ich położenie, rozproszenie i kształt. Jest punktem wyjścia każdej analizy ekonometrycznej — zanim zbudujemy model, musimy poznać dane. Niniejszy rozdział buduje aparat statystyki opisowej od jego genezy, przez miary położenia i zmienności, aż po opis danych wielowymiarowych w przestrzeni $\mathbb{R}^n$. Każde pojęcie i każdy przykład otrzymuje osobny rysunek.

Geneza statystyki opisowej

Statystyka narodziła się z potrzeby zarządzania państwem — sama nazwa wywodzi się od łacińskiego status. W 1662 roku londyński kupiec John Graunt opublikował analizę „rejestrów śmiertelności”, zestawiając liczby zgonów według przyczyn i pór roku; była to pierwsza próba wyciągnięcia prawidłowości z surowych danych liczbowych. W XIX wieku belgijski uczony Adolphe Quetelet wprowadził pojęcie człowieka przeciętnego (l’homme moyen), stosując średnią do opisu cech ludzkich i czyniąc ze średniej centralne pojęcie statystyki społecznej. Pod koniec XIX wieku Francis Galton i Karl Pearson zbudowali aparat korelacji i regresji, dając statystyce opisowej jej współczesny kształt — i otwierając drogę do ekonometrii. Rozpoczynamy od rozróżnienia, które poprzedza wszelkie liczenie: od typów danych.

Rodzaje zmiennych

Dobór miary zależy od typu danych, z którymi pracujemy.

Typ	Przykład	Sensowne miary
Nominalna	płeć, region	moda, częstość
Porządkowa	ocena (1–5), poziom satysfakcji	mediana, kwantyle
Ilościowa (przedziałowa, ilorazowa)	PKB, dochód, cena	średnia, odchylenie standardowe, korelacja

W ekonometrii pracujemy przede wszystkim ze zmiennymi ilościowymi, dla których dostępny jest pełny aparat statystyczny. Pierwszym krokiem ich opisu jest zwykle histogram — wykres pokazujący, jak często wartości wpadają do kolejnych przedziałów.

Histogram — liczność obserwacji w kolejnych przedziałach — Histogram dzieli zakres danych na przedziały i pokazuje liczność każdego z nich. Z jego kształtu odczytujemy położenie (gdzie skupia się masa), rozproszenie (jak szeroki jest rozkład) i symetrię.

Miary położenia

Miary położenia wskazują „środek” danych — wartość typową, wokół której skupiają się obserwacje.

Średnia arytmetyczna

Definicja

Średnia arytmetyczna

Średnią arytmetyczną zbioru $x_1,\dots,x_n$ nazywamy

$$ \bar{x}=\frac{1}{n}\sum_{i=1}^{n}x_i=\frac{x_1+x_2+\dots+x_n}{n}. $$

Uwzględnia ona każdą obserwację i jest tym punktem, względem którego suma odchyleń wynosi zero: $\sum_i(x_i-\bar{x})=0$.

Własność zerowania się sumy odchyleń ma wyrazistą interpretację fizyczną: średnia jest punktem równowagi danych. Gdyby obserwacje były ciężarkami rozłożonymi na nieważkiej belce, belka równoważyłaby się dokładnie w punkcie $\bar{x}$.

Średnia jako punkt równowagi belki z ciężarkami — Średnia jako punkt równowagi. Obserwacje $1,2,2,3,7$ to ciężarki na belce; podpora ustawiona w $\bar{x}=3$ utrzymuje ją w równowadze, bo sumy momentów po obu stronach są równe. Stąd $\sum_i(x_i-\bar{x})=0$.

Mediana i moda, czyli odporność na wartości odstające

Słabością średniej jest wrażliwość na wartości odstające (outliers). Mediana — środkowa wartość po uporządkowaniu danych — jest na nie odporna, a moda to wartość najczęstsza. Rozważmy zarobki pięciu osób (w tysiącach złotych): $3{,}0;\ 3{,}2;\ 3{,}5;\ 4{,}0;\ 20{,}0$. Średnia wynosi

$$ \bar{x}=\frac{3{,}0+3{,}2+3{,}5+4{,}0+20{,}0}{5}=6{,}74, $$

podczas gdy mediana to $3{,}5$. Średnia, zawyżona przez jedną wysoką pensję, źle opisuje „typowego” pracownika — mediana jest tu uczciwsza.

Wartość odstająca przeciągająca średnią, mediana stabilna — Pięć zarobków na osi liczbowej. Pojedyncza wartość odstająca ($20$ tys.) przeciąga średnią $\bar{x}=6{,}74$ daleko w prawo, podczas gdy mediana $\tilde{x}=3{,}5$ pozostaje przy głównej grupie. Dla danych skośnych mediana jest właściwszą miarą położenia.

Gdy rozkład jest asymetryczny, trzy miary położenia rozchodzą się: moda leży w szczycie, mediana pośrodku masy, a średnia jest przeciągana w stronę długiego ogona.

Średnia, mediana i moda w rozkładzie skośnym — W rozkładzie skośnym moda (Mo), mediana ($\tilde{x}$) i średnia ($\bar{x}$) rozjeżdżają się. Długi ogon (np. nieliczni bardzo zamożni) przeciąga średnią w swoją stronę — dlatego dla danych skośnych mediana jest uczciwsza.

Miary zmienności

Samo położenie nie wystarcza — dwa zbiory o tej samej średniej mogą się drastycznie różnić rozproszeniem.

Wariancja i odchylenie standardowe

Definicja

Wariancja i odchylenie standardowe próby

Wariancją próby nazywamy średni kwadrat odchyleń od średniej:

$$ s^2=\frac{1}{n-1}\sum_{i=1}^{n}(x_i-\bar{x})^2, $$

a odchyleniem standardowym — jej pierwiastek $s=\sqrt{s^2}$. Dzielenie przez $n-1$ (a nie $n$) daje estymator nieobciążony wariancji populacji — szczegóły wyjaśniamy w rozdziale o wariancji i odchyleniu.

Wariancja zaczyna się od odchyleń $x_i-\bar{x}$ — odległości każdej obserwacji od średniej. Aby dodatnie i ujemne odchylenia się nie zniosły, podnosimy je do kwadratu, a następnie uśredniamy.

Odchylenia obserwacji od średniej — Odchylenia od średniej: linie przerywane łączą każdą obserwację z poziomem średniej $\bar{x}$. Wariancja to uśredniony kwadrat tych odległości — im dłuższe odchylenia, tym większa wariancja.

Odchylenie standardowe wyrażone jest w tych samych jednostkach co dane, więc łatwo je interpretować: dla $\bar{x}=30$ tys. zł i $s=5$ tys. zł większość obserwacji mieści się w przedziale $25$–$35$ tys. zł.

Mała i duża wariancja — rozrzut danych wokół średniej — Oba zbiory mają tę samą średnią, lecz różny rozrzut: po lewej dane skupione (małe $s$), po prawej rozproszone (duże $s$). Wariancja i odchylenie standardowe mierzą właśnie tę różnicę.

Współczynnik zmienności

Aby porównać zmienność wielkości wyrażonych w różnych jednostkach lub o różnej skali, stosujemy współczynnik zmienności — odchylenie standardowe odniesione do średniej:

$$ CV=\frac{s}{\bar{x}}\cdot 100\%. $$

Pozwala on stwierdzić, że na przykład ceny mieszkań (w setkach tysięcy) i ceny chleba (w złotówkach) mają porównywalną względną zmienność, mimo nieporównywalnych jednostek.

Kwantyle i wykres pudełkowy

Kwantyle dzielą uporządkowane dane na równe części. Najważniejsze są kwartyle: $Q_1$ (25. percentyl), $Q_2$ (mediana) i $Q_3$ (75. percentyl). Różnicę $IQR=Q_3-Q_1$ — rozstęp ćwiartkowy — obejmuje środkowe 50% obserwacji i jest odporną na outliery miarą rozproszenia.

Wykres pudełkowy streszcza te wielkości na jednym rysunku, czyniąc go znakomitym narzędziem porównywania rozkładów.

Wykres pudełkowy — kwartyle, IQR, wąsy i wartość odstająca — Wykres pudełkowy: „pudełko” obejmuje środkowe 50% danych (od $Q_1$ do $Q_3$), kreska w środku to mediana, wąsy sięgają do skrajnych typowych wartości, a punkt poza nimi to obserwacja odstająca.

Kształt rozkładu: skośność i kurtoza

Po położeniu i rozproszeniu trzecią cechą rozkładu jest jego kształt, opisywany przez momenty wyższych rzędów.

Skośność

Skośność mierzy asymetrię rozkładu i opiera się na trzeciej potędze odchyleń:

$$ \gamma_1=\frac{\tfrac{1}{n}\sum(x_i-\bar{x})^3}{s^3}. $$

Wartość dodatnia oznacza długi ogon po prawej stronie (skośność prawostronna), ujemna — po lewej, a zero — symetrię. Dane o dochodach są typowo silnie prawoskośne: nieliczni bardzo zamożni tworzą długi ogon.

Rozkłady lewoskośny, symetryczny i prawoskośny — Skośność wskazuje, w którą stronę „wychylony” jest rozkład: $\gamma_1<0$ (ogon w lewo), $\gamma_1=0$ (symetria) oraz $\gamma_1>0$ (ogon w prawo, typowe dla dochodów).

Kurtoza

Kurtoza mierzy „grubość ogonów” i smukłość szczytu względem rozkładu normalnego, opierając się na czwartej potędze odchyleń:

$$ \gamma_2=\frac{\tfrac{1}{n}\sum(x_i-\bar{x})^4}{s^4}-3. $$

Wartość dodatnia ($\gamma_2\gt 0$, rozkład leptokurtyczny) oznacza smuklejszy szczyt i grubsze ogony — więcej zdarzeń ekstremalnych, co ma kluczowe znaczenie w analizie ryzyka finansowego.

Kurtoza — rozkład leptokurtyczny, normalny i platykurtyczny — Kurtoza opisuje smukłość szczytu i grubość ogonów: $\gamma_2>0$ (leptokurtyczny — smukły, grube ogony, więcej zdarzeń ekstremalnych), $\gamma_2=0$ (normalny) oraz $\gamma_2<0$ (platykurtyczny — spłaszczony).

Współczynnik korelacji

Gdy obserwujemy pary wielkości, interesuje nas, czy zmieniają się wspólnie. Współczynnik korelacji Pearsona mierzy siłę i kierunek związku liniowego:

$$ r=\frac{\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})}{(n-1)\,s_x s_y}\in[-1,1]. $$

Wartość $r=1$ oznacza doskonałą zależność rosnącą, $r=-1$ — malejącą, a $r=0$ — brak zależności liniowej. Pełną teorię korelacji rozwijamy w osobnym rozdziale; tutaj zaznaczamy jedynie jej rolę w opisie danych.

Wykresy rozrzutu: korelacja dodatnia, brak i ujemna — Współczynnik korelacji $r$ mierzy siłę i kierunek związku liniowego: dodatnia ($r\approx 0{,}9$ — punkty układają się rosnąco), brak ($r\approx 0$ — chmura) oraz ujemna ($r\approx -0{,}9$ — malejąco).

Korelacja to nie przyczynowość.

Wysoka korelacja dwóch zmiennych nie dowodzi, że jedna wpływa na drugą. Obie mogą zależeć od wspólnej trzeciej zmiennej (zmiennej zakłócającej) albo współwystępować przypadkowo. Rozróżnienie zależności od przyczynowości jest centralnym problemem ekonometrii.

Standaryzacja

Aby porównywać obserwacje pochodzące z różnych rozkładów lub wyrażone w różnych jednostkach, przekształcamy je do wspólnej skali.

Definicja

Standaryzacja (wartość $z$)

Standaryzacją nazywamy przekształcenie

$$ z_i=\frac{x_i-\bar{x}}{s}, $$

które przesuwa średnią do zera i skaluje odchylenie standardowe do jedności. Wartość $z=2$ oznacza „dwa odchylenia standardowe powyżej średniej”, niezależnie od pierwotnych jednostek.

Standaryzacja rozkładu do średniej zero i odchylenia jeden — Standaryzacja przesuwa rozkład tak, by średnia wynosiła $0$, i skaluje go tak, by odchylenie standardowe wynosiło $1$. Szeroki rozkład $\bar{x}=50,\ s=10$ przechodzi w wąski standardowy $\bar{z}=0,\ s_z=1$ — kształt zostaje, zmienia się tylko skala i położenie.

Standaryzacja jest niezbędna, gdy porównujemy zmienne o różnych jednostkach lub stosujemy metody wrażliwe na skalę (regresję z regularyzacją, analizę głównych składowych). Wartość $z$ stanowi też pomost do rozkładu normalnego.

Dane wielowymiarowe i przestrzeń $\mathbb{R}^n$

W ekonometrii rzadko opisujemy pojedynczą zmienną. Zwykle każda obserwacja to wektor wielu cech jednocześnie — dochód, wiek, wykształcenie, region. Zbiór $n$ obserwacji opisanych $p$ cechami to chmura $n$ punktów w przestrzeni $\mathbb{R}^p$.

Chmura punktów danych w przestrzeni trójwymiarowej — Dane trzech cech jako chmura punktów w przestrzeni $\mathbb{R}^3$: każda obserwacja to punkt o współrzędnych $(x_1,x_2,x_3)$. Statystyki opisowe (średnie, wariancje, korelacje) streszczają położenie i kształt tej chmury.

Opis chmury w $\mathbb{R}^p$ i czwarty wymiar.

Dla wielu cech średnie tworzą wektor średnich, a wariancje i korelacje — macierz kowariancji (zob. algebra liniowa). Geometrycznie wektor średnich wskazuje środek chmury, a macierz kowariancji opisuje jej kształt i orientację — kierunki największego rozproszenia to jej wektory własne. Gdy cech jest cztery lub więcej, chmury nie da się narysować, lecz te same wielkości w pełni ją opisują. Czterowymiarową chmurę można oglądać „warstwa po warstwie” — rzutując ją na kolejne pary lub trójki cech — i właśnie tak, rzut po rzucie, analizuje się dane wielowymiarowe w praktyce.

Zastosowanie — studium przypadku: rozkład wynagrodzeń

Statystyka opisowa najlepiej ujawnia swoją wartość na danych o wynagrodzeniach, które są typowo silnie prawoskośne. Według danych GUS przeciętne miesięczne wynagrodzenie brutto w Polsce jest wyraźnie wyższe od mediany — bo niewielka grupa bardzo wysokich pensji zawyża średnią. Przyjmijmy ilustracyjnie: średnia $\bar{x}\approx 8000$ zł, mediana $\tilde{x}\approx 6600$ zł, odchylenie standardowe $s\approx 4000$ zł.

Z tych liczb odczytujemy strukturę płac:

mediana $\lt$ średnia potwierdza prawostronną skośność ($\gamma_1\gt 0$): „typowy” pracownik zarabia mniej, niż sugeruje średnia;
współczynnik zmienności $CV=\tfrac{s}{\bar{x}}=\tfrac{4000}{8000}=50\%$ wskazuje na duże zróżnicowanie płac;
do opisu „typowej” pensji uczciwsza jest mediana, a nie średnia — dlatego komunikaty GUS podają obie miary.

Prawoskośny rozkład wynagrodzeń: mediana poniżej średniej — Rozkład wynagrodzeń jest prawoskośny: większość pracowników zarabia poniżej średniej, a długi ogon wysokich pensji przeciąga średnią $\bar{x}$ na prawo od mediany $\tilde{x}$. Stąd dla płac mediana lepiej opisuje „typową” wartość.

Studium to ilustruje zasadę fundamentalną dla każdej analizy danych: dobór miary musi odpowiadać kształtowi rozkładu. Dla rozkładów skośnych — a takie są dochody, ceny nieruchomości czy obroty firm — średnia bywa myląca; pełniejszy obraz dają dopiero mediana, kwantyle i miary skośności rozpatrywane łącznie.

Literatura

Podręczniki polskie

M. Sobczyk, Statystyka, PWN, Warszawa.
A. Zeliaś, Metody statystyczne, PWE.
GUS — Struktura wynagrodzeń według zawodów, Główny Urząd Statystyczny.

Klasyki światowe

D. Freedman, R. Pisani, R. Purves, Statistics, W. W. Norton, 2007.
A. Aczel, J. Sounderpandian, Complete Business Statistics, McGraw-Hill.

Artykuły

C. Gini, Measurement of Inequality of Incomes, The Economic Journal 31 (1921), 124–126. DOI: 10.2307/2223319.

Definicja

Hasła w słowniku

Pojęcia z tego rozdziału znajdziesz w słowniku: średnia arytmetyczna, mediana, moda, kwantyl, współczynnik zmienności, skośność, kurtoza, standaryzacja.

Podsumowanie

Statystyka opisowa streszcza dane trzema rodzajami miar: położenia (średnia, mediana, moda), zmienności (wariancja, odchylenie standardowe, współczynnik zmienności) oraz kształtu (skośność, kurtoza). Kwantyle i wykres pudełkowy dają odporny obraz rozkładu, korelacja opisuje związki między zmiennymi, a standaryzacja sprowadza je do wspólnej skali. Uogólnienie na dane wielowymiarowe w $\mathbb{R}^p$ prowadzi wprost do wariancji, korelacji i modeli ekonometrycznych.

Następnie: Wariancja i odchylenie standardowe