Zależność zmiennych losowych - Polski Serwis Naukowy

Ten artykuł dotyczy relacji między zmiennymi losowymi.. Zapoznaj się również z: zmienna zależna i zmienne niezależne w analizie regresji.

Wykresy rozrzutu pokazujące przykładowe zależności między zmiennymi wraz z odpowiadającymi im wartościami współczynnika korelacji Pearsona

Zależność statystyczna zmiennych losowych (korelacja) – związek pomiędzy dwiema zmiennymi losowymi $X$ i $Y$ .

Korelacja rangowa – dowolna statystyka pozwalająca na określenie zależności zmiennych losowych w sposób niezmienniczy ze względu na operację rangowania.
Elżbieta Pleszczyńska (ur. 20 marca 1933) – statystyk, profesor zwyczajny nauk matematycznych, działaczka społeczna na rzecz pomocy niepełnosprawnym.

Intuicyjnie, zależność dwóch zmiennych oznacza, że znając wartość jednej z nich, dałoby się przynajmniej w niektórych sytuacjach dokładniej przewidzieć wartość drugiej zmiennej, niż bez tej informacji.

W dalszej części artykułu będziemy rozważać zmienne losowe o wartościach rzeczywistych i zdarzenia określone na ustalonej przestrzeni probabilistycznej $(\Omega, \mathcal{A}, P)$ . Jeśli $X$ jest zmienną losową, to symbolem $P_X$ oznaczać będziemy jej rozkład.

Zmienne rzeczywiste

Niezależność statystyczna

Mówimy, że zmienne losowe $X,Y$ są niezależne, gdy dla każdych liczb rzeczywistych $a,b$ zachodzi równość

Twierdzenie odwrotne – dla danego twierdzenia twierdzenie w którym założenie zamieniono z tezą wyjściowego twierdzenia. Niech będzie dane twierdzenie: jeśli A, to B; wtedy twierdzenie odwrotne do niego jest zdaniem jeśli B, to A. Twierdzenie odwrotne do danego prawdziwego twierdzenia nie musi być zdaniem prawdziwym. Twierdzenie odwrotne jest równoważne twierdzeniu przeciwnemu.
Funkcja charakterystyczna zbioru – jedno z pojęć matematycznych, mających zastosowanie w teorii miary i teorii ciągów funkcji mierzalnych. Przykładem funkcji charakterystycznej jest funkcja Dirichleta (funkcja charakterystyczna zbioru liczb wymiernych).

$P(X\leqslant a)P(Y\leqslant b)=P(X\leqslant a \and Y\leqslant b)$

Powyższy wzór jest uogólniany na dowolną liczbę zmiennych (por. rozdział Zmienne losowe o wartościach rzeczywistych.)

W szczególności niezależność każdej dla pary zmiennych $X_i,X_j$ nie oznacza koniecznie niezależności wszystkich zmiennych $X_1,X_2,\dots X_n$ .

Zależność statystyczna

Mówimy, że zmienne losowe $X, Y$ są zależne, gdy nie są one niezależne - to znaczy, dla pewnych liczb rzeczywistych $a,b$ $P(X\leqslant a)P(Y\leqslant b) \ne P(X\leqslant a \and Y\leqslant b)$

lub w języku dystrybuant:

Wydawnictwa Naukowo-Techniczne (WNT) – polskie wydawnictwo założone w roku 1949 z siedzibą w Warszawie. Do roku 1961 funkcjonowało pod nazwą Państwowe Wydawnictwa Techniczne.
Współczynnik korelacji liniowej Pearsona – współczynnik określający poziom zależności liniowej między zmiennymi losowymi. Został opracowany przez Karla Pearsona

$F_X(a)F_Y(b) \ne F_{XY}(a,b)$

Szczególne przypadki

Zależność monotoniczna

Dodatnia zależność monotoniczna zachodzi, gdy zwiększenie wartości jednej ze zmiennych oznacza zwiększenie wartości oczekiwanej drugiej zmiennej. Analogicznie ujemna zależność monotoniczna zachodzi, gdy zwiększenie jednej ze zmiennych oznacza zmniejszenie drugiej.

Ściśle zależność monotoniczna (a konkretniej jej odmiana zwana Quadrant Dependence) została określona przez Lehmana (1966). Dodatnia zależność monotoniczna:

Twierdzenie Fubiniego - jedno z podstawowych twierdzeń w analizie matematycznej i teorii miary w pełnej ogólności wprowadzone i udowodnione przez włoskiego matematyka Guido Fubiniego.
Przestrzeń mierzalna i σ-ciało zbiorów – obiekty studiowane w matematyce, przede wszystkim w teorii mnogości, teorii miary i rachunku prawdopodobieństwa (w ostatnich dwóch dziedzinach w powiązaniu z miarami).

$\bigwedge_{(x,y)\in\mathbb{R}^2} P(X<x | Y>y)\leqslant P(X<x)$

Ujemna zależność monotoniczna: $\bigwedge_{(x,y)\in\mathbb{R}^2} P(X<x | Y>y)\geqslant P(X<x)$

Istnieją też inne definicje zależności monotonicznej. Lehman podał także dwie silniejsze definicje, a Kowalczyk i Pleszczyńska (1977) także definicję słabszą.

Powyższe definicje obejmują skrajny przypadek zależności zmiennych ( $\rho=\pm 1$ ). W praktyce zależność nie musi być pełna. Miarą stopnia zależności monotonicznej są współczynniki korelacji rangowej.

Zależność liniowa

Szczególnym przypadkiem zależności monotonicznej jest zależność liniowa. W przypadku skrajnym zachodzi, gdy jedna ze zmiennych jest liniowo zależna od drugiej zmiennej. W praktyce tu również zależność nie musi być pełna. Miarą stopnia zależności liniowej jest np. współczynnik korelacji Pearsona.

Jeżeli zmienne losowe są niezależne i całkowalne, to ich kowariancja jest równa zeru. Bezpośrednim wnioskiem z tego twierdzenia jest następujący fakt:

Jeżeli zmienne losowe $X_1, \ldots, X_n$ są całkowalne i parami niezależne, to

$D^2(X_1+\ldots+X_n)=D^2X_1+\ldots D^2X_n$ .

Zmienna objaśniająca / egzogeniczna / zewnętrzna / predyktor – jest to zmienna w modelu statystycznym (czyli także np. w modelu ekonometrycznym), na podstawie której wylicza się zmienną objaśnianą (endogeniczną). Zmiennych objaśniających zwykle występuje wiele w jednym modelu.
Nierówność Kołmogorowa - w rachunku prawdopodobieństwa, nierówność leżąca u podstaw wielu twierdzeń granicznych (np. niektóre prawa wielkich liczb). Szczególnym przypadkiem tej nierówności (tzn. dla jednej zmiennej losowej) jest nierówność Czebyszewa.

czytaj dalej: [2], [3]

w oparciu o Wikipedię (licencja GFDL, CC-BY-SA 3.0, autorzy, historia, edycja)