01MIP:Kapitola3

Z WikiSkripta FJFI ČVUT v Praze
Verze z 18. 9. 2020, 13:30, kterou vytvořil Vandenie (diskuse | příspěvky) (Založena nová stránka s textem „%\wikiskriptum{01MIP} % \chapter{Rozdělení pravděpodobnosti, distribuční funkce} Nyní, když už máme zavedeny náhodné veličiny a ovládáme zá…“)

(rozdíl) ← Starší verze | zobrazit aktuální verzi (rozdíl) | Novější verze → (rozdíl)
Přejít na: navigace, hledání
PDF [ znovu generovat, výstup z překladu ] Kompletní WikiSkriptum včetně všech podkapitol.
PDF Této kapitoly [ znovu generovat, výstup z překladu ] Přeložení pouze této kaptioly.
ZIPKompletní zdrojový kód včetně obrázků.

Součásti dokumentu 01MIP

součástakcepopisposlední editacesoubor
Hlavní dokument editovatHlavní stránka dokumentu 01MIPVandenie 18. 9. 202016:24
Řídící stránka editovatDefiniční stránka dokumentu a vložených obrázkůVandenie 18. 9. 202013:56
Header editovatHlavičkový souborVandenie 18. 9. 202014:28 header.tex
Kapitola0 editovatPředmluvaVandenie 18. 9. 202013:19 predmluva.tex
Kapitola1 editovatNáhodné jevyVandenie 18. 9. 202013:23 nahodne_jevy.tex
Kapitola2 editovatNáhodné veličinyVandenie 18. 9. 202013:28 nahodne_veliciny.tex
Kapitola3 editovatRozdělení pravděpodobnosti, distribuční funkceVandenie 18. 9. 202013:31 rozdeleni.tex
Kapitola4 editovatHustota pravděpodobnostiVandenie 18. 9. 202014:06 hustota.tex
Kapitola5 editovatCharakteristiky hustoty pravděpodobnostiVandenie 4. 12. 202020:35 charakteristiky.tex
Kapitola6 editovatCharakteristická funkce náhodné veličinyVandenie 18. 9. 202014:12 char_funkce.tex
Kapitola7 editovatKonvergence na prostoru náhodných veličinVandenie 4. 12. 202020:36 konvergence.tex

Vložené soubory

soubornázev souboru pro LaTeX
Soubor:Fig1-uniformni-rozdeleni.png Fig1-uniformni-rozdeleni.png
Soubor:Fig2a-normalni-pdf.png Fig2a-normalni-pdf.png
Soubor:Fig2b-normalni-cdf.png Fig2b-normalni-cdf.png
Soubor:Fig3a-chi-kvadrat-pdf.png Fig3a-chi-kvadrat-pdf.png
Soubor:Fig3b-log-normalni-pdf.png Fig3b-log-normalni-pdf.png
Soubor:Fig4a-studentovo-pdf.png Fig4a-studentovo-pdf.png
Soubor:Fig4b-rozdeleniF-pdf.png Fig4b-rozdeleniF-pdf.png
Soubor:Fig5-kvantily.png Fig5-kvantily.png
Soubor:Fig6-grafy-skoro-jiste.png Fig6-grafy-skoro-jiste.png
Soubor:Fig7-graf-gn.png Fig7-graf-gn.png
Soubor:Fig8-volba-epsilon.png Fig8-volba-epsilon.png

Zdrojový kód

%\wikiskriptum{01MIP}
%
\chapter{Rozdělení pravděpodobnosti, distribuční funkce}
	Nyní, když už máme zavedeny náhodné veličiny a ovládáme základní operace s~nimi, vyvstává otázka, jak kvantifikovat skutečnost, že jistý jev nastává častěji než ostatní. Tak se dostáváme k~rozdělení pravděpodobnosti.
 
\begin{defi}\label{def-rozdeleni}
	Budiž $ (\Omega, \sa, P) $ pravděpodobnostní prostor a něm mějme náhodnou veličinu \linebreak$ \xx\colon (\Omega, \sa, P) \rightarrow (\mathbb{R}^n, \bb_n)$. \textbf{Rozdělení náhodné veličiny $ \xx $} označme $ P^{\xx} $ a definujme ho vztahem $ P^{\xx} := P \circ \xx^{-1} $.
\end{defi}
Zde je vhodné se pozastavit a vyjasnit si, co nám tato definice říká.
\begin{pozn}
	$  $
	\begin{itemize}
		\item Prostor, z~něhož zobrazuje náhodná veličina $ \xx $, je odteď vybaven pravděpodobnostní mírou.
		\item Podívejme se na definiční vztah $ P^{\xx} := P \circ \xx^{-1} $. Vnitřním zobrazením je zde \emph{vzor} při funkci~$ \xx $, do něhož vkládáme borelovskou množinu z~$ \bb_n $, a vrací nám $ \xx^{-1}(B) \in \sa $. Na \linebreak$ \sigma $-algebře pak operuje naše známá pravděpodobnostní míra, která této množině přiřadí pravděpodobnost. Je tedy $ P^{\xx}\!\colon \bb_n \rightarrow [0,1] $. $ P^{\xx} $ je definována na reálných borelovských množinách.
		\item Rozepišme působení rozdělovací funkce na množinu $ B \in \bb_n $: 
			\begin{equation*}
			 P^{\xx}(B) = (P \circ \xx^{-1})(B) = P(\xx^{-1}(B)) = P\bigl(\lbrace \omega \in \Omega \mid \xx(\omega) \in B \rbrace\bigr) \stackrel{\text{ozn.}}{=} P(\xx \in B).
			\end{equation*}
			Toto označení nemá nic společného s~"funkční hodnotou funkce $ P $ v~bodě $ \xx $"! Definičním oborem pravděpodobnostní míry jsou \emph{množiny} ze $ \sigma $-algebry $ \sa $.
		\item V teorii míry se tato funkce nazývá \emph{míra indukovaná funkcí} $ \xx $.
		\item Je snadné ukázat, že $ P^{\xx} $ plní Kolmogorovovy axiomy K\ref{k1}--K\ref{k3}.
	\end{itemize}
\end{pozn}
 
\begin{defi}\label{def-nezav-nv}
	Mějme posloupnost náhodných veličin $ \left(X_j\right)_{j=1}^{n, +\infty} $ na pravděpodobnostním prostoru $ \left(\Omega, \sa, P\right) $ zobrazujících do $ \left(\mathbb{R}^1, \bb_1\right) $. Řekneme, že jsou náhodné veličiny $ \left(X_j\right)_{j=1}^{n, +\infty} $ \textbf{(stochasticky) nezávislé}, právě když je systém $ \left(X_j^{-1}(\bb_1)\right)_{j \geq 1} $ nezávislý ve smyslu nezávislosti na $ \sigma $-algebře $ \sa $. To nastane, právě když
	$ \forall B_j \in \bb_1 $ platí, že jevy $ \bigl(\underbrace{X_j^{-1}(B_j)}_{\in \sa} \bigr)_{j \geq 1}$ jsou vzájemně nezávislé podle definice \ref{def-nez-souboru}, neboli když pro každou konečnou $ k $-tici jevů $ \left(X_{j_i}^{-1}(B_{j_i})\right)_{i=1}^{k} $ platí podmínka nezávislosti:
	\begin{equation}\label{nez-nv}
	 P\left(\bigcap_{i=1}^k X_{j_i}^{-1}(B_{j_i}) \right) = \prod_{i=1}^{k} P\left(X_{j_i}^{-1}(B_{j_i})\right).
	\end{equation}
\end{defi}
\begin{pozn}
	Ujasněme si, co nám předchozí definice říká. Náhodné veličiny (jednorozměrné) $ X_j $ jsou stochasticky \emph{nezávislé}, pokud generují borelovské $ \sigma $-algebry $ \bb_1 $, jejichž vzory $ \left(X_j^{-1}(\bb_1)\right) $ při těchto náhodných veličinách jsou vzájemně nezávislé. Jinými slovy: jsou vzájemně nezávislé coby jevy ze $ \sigma $-algebry $ \sa $.
\end{pozn}
\begin{pozn}\label{pozn-nez-nv}
	Podmínku nezávislosti \eqref{nez-nv} lze upravit do tvaru, kde nevystupují náhodné veličiny $ X_j $, ale jejich rozdělení. Označme $ \xx = \left(X_{j_1}, \ldots, X_{j_k}\right) $ $ k $-rozměrnou  náhodnou veličinu sestavenou z jednorozměrných náhodných veličin $ X_{j_i} $. Nejdříve upravíme levou stranu:
	\begin{equation*}
	P\left(\bigcap_{i=1}^k X_{j_i}^{-1}(B_{j_i}) \right) = P\left(\xx \in \bigtimes_{i=1}^k B_{j_i}\right) \stackrel{\ref{def-rozdeleni}}{=} \left(P \circ \xx^{-1}\right)\left(\bigtimes_{i=1}^k B_{j_i}\right) = P^{\xx}\left(\bigtimes_{i=1}^k B_{j_i}\right).
	\end{equation*}
	Nyní upravme pravou stranu:
	\begin{equation*}
	\prod_{i=1}^{k} P\left(X_{j_i}^{-1}(B_{j_i})\right) = \prod_{i=1}^{k} \left(P \circ X_{j_i}^{-1}\right)\left(B_{j_i}\right) = \prod_{i=1}^{k} P^{X_{j_i}}(B_{j_i}).
	\end{equation*}
	Vyšla nám následující rovnost:
	\begin{equation*}
	P^{\xx}\left(\bigtimes_{i=1}^k B_{j_i}\right) = \prod_{i=1}^{k} P^{X_{j_i}}(B_{j_i}).
	\end{equation*}
	Tato identita se velmi podobá podmínce vzájemné nezávislosti jevů \ref{def-nez}. Pravděpodobnostní rozdělení "sdružené" náhodné veličiny aplikované na kartézský součin borelovských množin je roven součinu marginálních rozdělení jednotlivých náhodných veličin $ X_{j_i} $ aplikovaných na příslušné borelovské množiny.
\end{pozn}
\begin{veta}\label{nez-slozeni-nv}
	Mějme náhodné veličiny $ X, Y $ na pravděpodobnostním prostoru $ \left(\Omega, \sa, P\right) $. Pak platí: $ X $ a $ Y $ jsou nezávislé $ \Leftrightarrow \forall f, g\colon \mathbb{R} \rightarrow \mathbb{R} $ borelovsky měřitelné jsou $ f(X), g(Y) $ nezávislé náhodné veličiny.
	\begin{proof}
		$  $
		\begin{itemize}
			\item[($ \Leftarrow $)] Tato implikace okamžitě plyne z volby $ f = \id_{\mathbb{R}} $ a $ g = \id_{\mathbb{R}} $.
			\item[$ (\Rightarrow) $] Potřebujeme zjistit, jestli náhodné veličiny $ f(X), g(Y) $ generují nezávislé $ \sigma $-algebry. Pišme:
			\begin{align*}
			\left[f(X) \right]^{-1}(\bb) &= \left[f \circ X\right]^{-1}(\bb) = X^{-1}\bigl(\underbrace{f^{-1}(\bb)}_{\subset \bb}\bigr) \subset X^{-1}(\bb),\\
			\left[g(Y) \right]^{-1}(\bb) &= \left[g \circ Y\right]^{-1}(\bb) = Y^{-1}\bigl(\underbrace{g^{-1}(\bb)}_{\subset \bb}\bigr) \subset Y^{-1}(\bb).
			\end{align*}
			O $ X^{-1}(\bb) $ a $ Y^{-1}(\bb) $ víme z~předpokladu nezávislosti $ X, Y $, že jsou nezávislé. Zřejmě i~všechny jejich podsystémy jsou stochasticky nezávislé, speciálně i $ \left[f(X) \right]^{-1}(\bb) $ a~$ \left[g(Y) \right]^{-1}(\bb) $. \qedhere
		\end{itemize}
 
	\end{proof} 
\end{veta}
\begin{pozn}
	Platnost předchozí věty lze triviálně rozšířit i na konečný počet náhodných veličin. V~důkazu pouze přibudou další, obdobné řádky pro každou náhodnou veličinu.
\end{pozn}
\begin{dusl}[I]
	Mějme systém nezávislých náhodných veličin  $ \left(X_j\right)_{j=1}^{+\infty} $ na pravděpodobnostním prostoru $ \left(\Omega, \sa, P\right) $ a nechť $ \left(g_j\right)_{j=1}^{+\infty} $ je systém borelovsky měřitelných transformací. Pak $ \left(g_j(X_j)\right)_{j=1}^{+\infty} $ jsou nezávislé.
 
	Toto tvrzení je důsledkem věty \ref{nez-slozeni-nv}, jelikož v definici požadujeme nezávislost \emph{konečných} \linebreak$ k$-tic, což máme zajištěno z platnosti věty \ref{nez-slozeni-nv} pro konečný počet náhodných veličin (viz předchozí poznámku).
\end{dusl}
\begin{dusl}[II]
	Nechť jsou $ \left(X_j\right)_{j \geq 1} $ nezávislé náhodné veličiny,  $\left(\forall j \geq 1\right) \left(g_j = g\right) $ a nechť navíc mají $ X_j $ stejné rozdělení $ P^X $. Pak jsou $ \left(g(X_j)\right)_{j \geq 1} $ jsou nezávislé.
 
	V literatuře se místo výrazu "$ \left(X_j\right)_{j \geq 1} $ jsou nezávislé" užívá anglické zkratky \textbf{i.~d.} -- \emph{independently distributed}. Mají-li navíc všechny náhodné veličiny $ X_j $ stejné rozdělení $ P^X $, pak se používá zkratka \textbf{i.~i.~d.} -- \emph{identically independently distributed}.
\end{dusl}
\begin{defi}\label{def-distrib-fce}
	Mějme náhodnou veličinu $ \xx = \left(X_1, \ldots, X_n\right)$ s~rozdělením~$ P^{\xx} $ na pravděpodobnostním prostoru $ \left(\Omega, \sa, P\right) $. Pak definujeme \textbf{distribuční funkci} $ F_{\xx} $ náhodné veličiny $ \xx $ následujícím zúžením:
	\begin{equation*}
	F_{\xx} := P^{\xx}\!\! \mid_{\tau_{1,n}},
	\end{equation*}
	kde $ \tau_{1,n} = \{ \bigtimes_{i=1}^n \left(-\infty, x_i\right] \mid \left(\forall i \in \hat{n}\right)\left(x_i \in \mathbb{R}\right) \} $ je $ n $-rozměrná varianta systému \eqref{t1}.
	Proměnné distribuční funkce $ F_{\xx} $ jsou právě $ x_i $, tj. $ F_{\xx}(\mx) = P^{\xx}\left(\bigtimes_{i=1}^n \left(-\infty, x_i\right] \right) $, kde $ \mx \in \mathbb{R}^n $, $ \mx = \left(x_1, \ldots, x_n\right)$.
\end{defi}
\begin{pozn}
	Pro přiblížení pojmu distribuční funkce se omezíme na $ \mathbb{R}^1 $:
	\begin{equation*}
	F_X(x) = P^X\left( \left(-\infty, x\right] \right) = \left(P \circ X^{-1}\right)\left( \left(-\infty, x\right] \right) = P\bigl(\lbrace \omega \in \Omega \mid X(\omega) \leq x \rbrace\bigr) \stackrel{\text{ozn.}}{=} P\left(X \leq x\right).
	\end{equation*}
	Všimněme si, že pokud zvětšujeme $ x $, zvětšuje se i~interval a~pravděpodobnosti "kumulují", proto se někdy takto zavedené distribuční funkci říká \emph{kumulativní} distribuční funkce (CDF).
\end{pozn}
\begin{pozn}
	V~teorii míry bychom zavedli na prostoru $ \left(\Omega, \sa, \mu\right) $ $ \sa $-měřitelnou funkci~$ g $ s~indukovanou mírou $ \mu_g $ (což je vlastně ekvivalent našeho rozdělení~$ P^{\xx} $ na pravděpodobnostním prostoru). Kumulativní distribuční funkci definujeme pomocí zúžení indukované míry
	$ \mu_g\! \mid_{\tau_{2, n}} $, kde $ \tau_{2, n} = \{ \bigtimes_{i=1}^n \left(-\infty, x_i\right) \mid \left(\forall i \in \hat{n}\right)\left(x_i \in \mathbb{R}\right) \}. $
	Systém množin $ \tau_{2, n} $ je $ n $-rozměrná varianta \eqref{t2}. My však v~pravděpodobnostním počtu využijeme spíše polouzavřené intervaly $ (-\infty, x_i] $, neboť nás například při sledování experimentu zajímají jeho výsledky až do času $ T $ \emph{včetně}.
\end{pozn}
 
Mohli bychom se ptát, jaký je vlastně účel zavedení pojmů náhodné veličiny, rozdělení náhodné veličiny nebo distribuční funkce. Proč nám nestačí klasický pravděpodobnostní prostor $ \left(\Omega, \sa, P\right) $? Takto zkonstruovaný prostor je totiž velmi abstraktní, a tím pádem těžko uchopitelný a kvantifikovatelný. Přešli jsme proto k náhodné veličině $ \xx $, která je zobrazením z~$ \left(\Omega, \sa\right) $ do $ \left(\mathbb{R}^n, \bb_n\right) $, a~k~jejímu rozdělení $ P^{\xx} $, které je definováno na $ (\mathbb{R}^n, \bb_n) $. Práce v~takovém prostoru má své výhody, protože v~$ \mathbb{R}^n $ už jsme například schopni integrace. 
 
V~dalším kroku bychom chtěli od rozdělení náhodné veličiny přejít k~její distribuční funkci, což je reálná funkce reálné proměnné (či několika proměnných), tedy pro počítání ještě přívětivější objekt.
Aby měl tento krok smysl, musí být toto přiřazení $ P^{\xx} \longleftrightarrow F_{\xx} $ \emph{vzájemně jednoznačné}.
 
\begin{veta}[\emph{Monotone class theorem} -- MCT]\label{MCT}
	Mějme základní množinu $ \Omega $ a systém množin $ \tau \subset \mathcal{P}(\Omega) $ takový, že $ \Omega \in \tau $ a je uzavřený na konečné průniky. Buď dále $ \mathcal{C} $ je nejmenší systém (ve smyslu inkluze), který splňuje následující:
	\begin{enumerate}
		\item $ \tau \subset \mathcal{C} $,
		\item $ \left(\forall A,B \in \mathcal{C}, \ A \subset B\right)\left(B \setminus A \in \mathcal{C}\right) $, tj. $ \mathcal{C} $ je uzavřený na rozdíly,
		\item $ \left(\forall \left(A_j\right)_{j=1}^{+\infty} \in \mathcal{C}, \ A_j \subset A_{j+1}\right)\left(\bigcup_{j=1}^{+\infty} A_j \in \mathcal{C}\right) $, neboli $ \mathcal{C} $ je uzavřený na limitu zdola.
	\end{enumerate}
	Pak $ \sigma(\tau) = \mathcal{C} $.
	\begin{proof}
		Tato věta je ponechána bez důkazu. Zájemci mohou nahlédnout do materiálů poskytnutých dr.~Kůsem.
	\end{proof}
\end{veta}
\begin{veta}\label{v-o-rovnosti-PQ}
	Mějme prostor $ \left(\Omega, \sa\right) $ a systém $ \tau \subset \sa $ takový, že je uzavřený na konečné průniky a generuje $ \sigma $-algebru $ \sa $, tj. $ \sigma(\tau) = \sa $. Nechť $ P,Q $ jsou dvě pravděpodobnostní míry na $ \left(\Omega, \sa\right) $. Potom platí:
	\begin{equation*}
		P=Q \text{ na } \tau \Longleftrightarrow P=Q \text{ na } \sa.
	\end{equation*}
	\begin{proof} Důkaz implikace $ (\Leftarrow) $ je triviální, jelikož $ \tau \subset \sa $. Obraťme pozornost k~opačné implikaci, kde využijeme MCT.
		$  $
		\begin{enumerate}[(a)]
			\item V~tomto kroku sestrojíme systém množin $ \tau' $ a ověříme první část předpokladů MCT. Nechť $ \tau' = \tau \cup \Omega $. Tím zajistíme, že $ \Omega \in \tau' $. Tento systém jistě zůstane uzavřený na průniky. Zároveň $ \tau' $ generuje $ \sa $, tj. $ \sigma(\tau') = \sa $.
 
			Zbývá ještě zjistit, zda se $  P$ a $ Q $ rovnají i~na $ \tau' $. Jelikož se dle předpokladu rovnají na $ \tau $, stačí ověřit rovnost pro množinu~$ \Omega $. To je ovšem "jev jistý", a tedy $ P(\Omega) = 1 = Q(\Omega) $ z~definice pravděpodobnostních měr $ P, Q $. 
			\item Definujme systém $ \mathcal{C} = \{A \in \sa \mid P(A) = Q(A)\} $. Chtěli bychom využít tvrzení předchozí věty pro systém $ \mathcal{C} $. Abychom to mohli udělat, musíme ověřit platnost předpokladů 1--3 v~MCT \ref{MCT}.
			\begin{enumerate}[1.]
				\item $ \tau' \subset \mathcal{C} $ je splněno, neboť $ P = Q $ dokonce na $ \tau' \supset \tau$.
				\item Vezměme množiny $ A, B \in \mathcal{C}$, $ A \subset B $. Potom $ P\left(B \setminus A\right) = P(B) - P(A) = Q(B) - Q(A) =\\= Q\left(B \setminus A\right).$ To implikuje, že $ B \setminus A \in \mathcal{C} $.
				\item Nechť $ (A_j)_1^{+\infty} \in \mathcal{C}$ je rostoucí systém množin. Ptáme se, zda jeho spočetné sjednocení zůstane v~$ \mathcal{C} $. Tušíme, že v~jisté chvíli bude třeba použít axiom aditivity K\ref{k3} na funkce $ P $ a~$ Q $. Rozložme tedy naši posloupnost na disjunktní sjednocení. Položme $ A_0 := \emptyset $. Pak
				\begin{equation*}
				 P\Bigl(\bigcup_{j=1}^{+\infty} A_j\Bigr) 
				 = P\Bigl(\sum_{i = 0}^{+\infty}\left(A_{i+1} \setminus A_i\right) \Bigr) 
				 \stackrel{\text{K3}}{=} \sum_{i = 0}^{+\infty}P\left(A_{i+1} \setminus A_i\right) 
				 \stackrel{2.}{=} \sum_{i = 0}^{+\infty}Q\left(A_{i+1} \setminus A_i\right)
				 = Q\Bigl(\bigcup_{j=1}^{+\infty} A_j\Bigr).
				\end{equation*}
				To ale neznamená nic jiného, než že $ \bigcup_{j=1}^{+\infty}A_j \in \mathcal{C}$. 
			\end{enumerate}
		\end{enumerate}
	Pozorný čtenář si povšimne, že jsme ještě neověřili, zda je $ \mathcal{C} $ opravdu \emph{nejmenším} systémem, který plní všechny tyto vlastnosti. Pravda je taková, že to nevíme, takže z MCT přinejlepším dostaneme, že $ \sigma(\tau') \subset \mathcal{C} $ (nikoli rovnost). Zároveň však $ \sigma(\tau') = \sa $, tedy $ \sa \subset \mathcal{C} $. V~systému $ \mathcal{C} $ se ale nacházely pouze prvky $ \sigma $-algebry, takže nutně $ \sa = \mathcal{C} $. Tak je dokázáno, že $ P = Q  $ na celé $ \sigma $-algebře $ \sa $.
	\end{proof}
\end{veta}
 
Následující věta nám konečně poskytně odpověď na otázku, zda je přiřazení distribuční funkce~$ F_{\xx} $ k~rozdělení~$ P^{\xx} $ vzájemně jednoznačné.
 
\begin{veta}[O jednoznačnosti]\label{v-o-jednoznacnosti}
	Mějme náhodnou veličinu $ \xx \colon (\Omega, \sa, P) \rightarrow (\mathbb{R}^n, \bb_n)$ s~rozdělením~$ P^{\xx} $. (Máme tím pádem i jeho zúžení $ F_{\xx} $.) Pak je distribuční funkce $ F_{\xx} $ \emph{jednoznačně} charakterizována rozdělením $ P^{\xx} $ a naopak. 
\end{veta}
\begin{proof}
	Z~definice \ref{def-distrib-fce} víme, že $ F_{\xx} = P^{\xx}\mid_{\tau_{1,n}} $, kde $ \tau_{1,n} = \lbrace \bigtimes_{i=1}^n \left(-\infty, x_i\right] \mid x_i \in \mathbb{R}\rbrace$. V~předchozí větě zvolme $ \sa := \bb_n $ a $ \tau := \tau_{1, n} $. Její předpoklady požadují, aby byl systém $ \tau_{1,n} $ uzavřený na konečné průniky a aby $ \sigma(\tau_{1, n}) = \bb_n $. To je však pravdou, protože konečné průniky množin $ \bigtimes_{i=1}^{n}(-\infty, x_i] $ jsou stále intervaly téhož typu. Zobecnění věty \ref{v-o-tau} dále zaručí, že systém $ \tau_{1, n} $ generuje borelovskou $ \sigma $-algebru~$ \bb_n $. Předpoklady jsme tedy naplnili.
 
	Vezměme nyní rozdělení $ Q^{\xx} $ se stejným zúžením $ F_{\xx} $. $ P^{\xx} $ a $ Q^{\xx} $ jsou pravděpodobnostní míry, které se rovnají na $ \tau_{1, n} $, takže z předchozí věty dostáváme, že $ P^{\xx} = Q^{\xx} $ nutně i~na $ \sigma $-algebře $ \bb_n $, což je jejich definiční obor. Tím je důkaz dokončen.
\end{proof}
 
\begin{veta}[O rozšíření $ P $]\label{v-o-rozsireni}
	Nechť $ P $ je pravděpodobnostní míra na $ \tau \subset \mathcal{P}(\Omega) $, kde $\tau$ je algebrou.\footnote{Splňuje tedy, že $ \Omega \in \tau,\ \comp{A} \in \tau $, ale oproti $\sigma$-algebře je uzavřená pouze na \emph{konečná} sjednocení.} Pak existuje právě jedno rozšíření pravděpodobnostní míry $ P $ z~algebry $\tau$ na minimální $\sigma$-algebru $ \sigma(\tau) $. Rozšířením se myslí, že $ P $ zachová axiomy pravděpodobnosti K\ref{k1}--K\ref{k3}.
\end{veta}
\begin{proof}
	Důkaz existence bychom nepochybně zvládli, my ho však přeskočíme, protože bychom z~něj měli pramálo užitku.
 
	Co se týče jednoznačnosti, předpokládejme, že takové rozšíření $ P $ existuje. Pak je ale skutečně jediné, protože z~uzavřenosti algebry $ \tau $ na konečná sjednocení plyne i~uzavřenost na konečné průniky. Tím jsme splnili předpoklady věty \ref{v-o-rovnosti-PQ} a tvrzení odsud plyne. (Toto je ještě potřeba vyladit.)
\end{proof}
 
Následující věty budou náročnější co do značení. Udělejme si v~něm tedy pořádek.
\paragraph{Úmluva.} 
\begin{itemize}
	\item $ n $-rozměrnou náhodnou veličinu značíme $ \xx $. Je $ \xx = (X_1, \ldots, X_n) $, kde $ X_j $ jsou jednorozměrné.
	\item $ n $-rozměrný vektor z~$ \mathbb{R}^n $ značíme $ \mx = (x_1, \ldots, x_n) $.
	\item Vektory $ \mx \in \mathbb{R}^n $ jsou proměnnými distribuční funkce $ F_{\xx} $ a dle definice je $ F_{\xx}(\mx) = P^{\xx}\Bigl(\bigtimes_{i=1}^n \left(-\infty, x_i\right] \Bigr) $. Často se však užívá stručnějšího značení
		\begin{equation*}
		F_{\xx}(\mx) \stackrel{\text{ozn.}}{=} P(\xx \leq \mx) \stackrel{\text{ozn.}}{=} P(X_1 \leq x_1, \ldots, X_n \leq x_n).
		\end{equation*}
	Čárky v argumentu posledního výrazu jsou ve smyslu \emph{průniků} -- jedná se ve skutečnosti o~soustavu $ n $ nerovnic. Správně bychom totiž měli psát 
		\begin{equation*}
		F_{\xx}(\mx) = P\bigl(\lbrace \omega \mid X_1(\omega) \leq x_1 \rbrace\ \cap \ldots\, \cap\, \lbrace \omega \mid X_n(\omega) \leq x_n \rbrace \bigr).
		\end{equation*}
	\item Skutečnost, že náhodná veličina má rozdělení $ P^{\xx} $, budeme zapisovat $ \xx \sim P^{\xx} $. Díky větě o~jednoznačnosti přiřazení distribuční funkce \ref{v-o-jednoznacnosti} můžeme ekvivalentně psát $ \xx \sim F_{\xx} $.
	\item V~$ \mathbb{R}^2 $ klademe $ \xx = (X, Y) $ a $ F_{\xx}(\mx) = F_{(X,Y)}(x,y) $.
	\item Vektor náhodné veličiny bez $j$-té složky značíme $ \xx \setminus X_j = (X_1, \ldots, X_{j-1}, X_{j+1}, \ldots X_n)$ a~příslušnou distribuční funkci $ F_{\xx \setminus X_j} $. Vektor z~$ \mathbb{R}^n $ bez $ j $-té složky píšeme $ \mx \setminus x_j$.
	\item Pokládáme $ F_{(X,Y)}(\pm \infty, y) := \lim\limits_{x \rightarrow \pm \infty} F_{(X,Y)}(x,y)$, analogicky v~druhé proměnné.
\end{itemize}
 
\begin{veta}[O vlastnostech distribuční funkce]\label{v-o-vlastnostech-F}
	Nechť $ \xx \sim P^{\xx} $. Pak má distribuční funkce $ F_{\xx} $ následující vlastnosti:
	\begin{enumerate}[D1.]
		\item\label{d1} $ F_{\xx} $ je rostoucí v~každé své proměnné.
		\item\label{d2} $ F_{\xx} $ je spojitá zprava v~každé své proměnné.
		\item\label{d3} 
			\begin{enumerate}[a)]
				\item\label{d3a} $(\forall\, j \in \hat{n})\Bigl[\, \lim\limits_{x_j \rightarrow +\infty}\!\!\!\! F_{\xx}(\mx) = F_{\xx \setminus X_j}(\mx \setminus x_j)\Bigr]$.
				\item\label{d3b} $(\forall\, j \in \hat{n})\Bigl[\, \lim\limits_{x_j \rightarrow -\infty}\!\!\!\! F_{\xx}(\mx) = 0 \Bigr]$.
				\item\label{d3c} $ \lim\limits_{\mx \rightarrow +\infty} F_{\xx}(\mx) = 1 $.
			\end{enumerate}
	\end{enumerate}
\end{veta}
 
\begin{proof}
	Vystačíme si s důkazem pro $ n=2 $. Položme tedy $\xx = (X,Y)$ a $\mx = (x,y) $ dle úmluvy.
	\begin{enumerate}[D1.]
		\item Vezměme $ x \leq \tilde{x} $ a $ y \leq \tilde{y} $. Pak platí
			\begin{equation*}
			\Bigl( \lbrace \omega \mid X(\omega) \leq x \rbrace\ \cap\ \lbrace \omega \mid Y(\omega) \leq y \rbrace \Bigr) \subset \Bigl( \lbrace \omega \mid X(\omega) \leq \tilde{x} \rbrace\ \cap\ \lbrace \omega \mid Y(\omega) \leq \tilde{y} \rbrace \Bigr).
			\end{equation*}
		Aplikujme na tuto inkluzi pravděpodobnostní míru $ P $. Inkluze se změní na odpovídající nerovnost, protože je $ P $ monotónní. Dle značení v~úmluvě to znamená, že $ F_{(X,Y)}(x,y) \leq~F_{(X,Y)}(\tilde{x},\tilde{y}) $.
		\item Ptáme se, zda je pro každé $ a \in \mathbb{R} $ a pro libovolné pevné $ y \in \mathbb{R} $ $ \lim\limits_{x \rightarrow a_+} F_{(X,Y)}(x,y) \stackrel{?}{=}~F_{(X,Y)}(a,y) $. Již dokázaná monotonie zaručuje, že limita existuje, a použijeme Heineho větu.\footnote{Heineho věta: $ \lim\limits_{x \rightarrow x_0} f(x) = L \Longleftrightarrow \left(\forall (x_m)_{m=1}^{+\infty} \subset \dom f,\ x_m \rightarrow x_0 \wedge x_m \neq x_0\right) \bigl(\lim\limits_{m \rightarrow +\infty} f(x_m) = L \bigr)$.} Víme-li však, že limita existuje, nezáleží na tom, jak se k~limitnímu bodu blížíme, a stačí tedy uvažovat pouze jednu takovou posloupnost, která klesá k~$ a $, např. $ x_m = a + 1/m $. Pišme
			\begin{align*}
				\lim_{x \rightarrow a_+} F_{(X,Y)}(x,y) &\stackrel{\text{H}}{=} \lim_{m \rightarrow +\infty} F_{(X,Y)}\Bigl(a + \frac{1}{m}, y \Bigr)\\
				&= \lim_{m \rightarrow +\infty} P\Bigl( \underbrace{X \leq a + \frac{1}{m},\ Y \leq y}_{:= A_m} \Bigr).
			\end{align*}
		Je třeba stále myslet na to, co argument funkce $ P $ podle úmluvy znamená. Množina $ A_m $ je tvořena elementárními jevy $ \omega $, pro něž tyto nerovnosti platí. S~rostoucím $ m $ jim však vyhovuje čím dál méně jevů. Odsud tedy $ A_m \searrow A = \bigcap_{m=1}^{+\infty} A_m = \lbrace \omega \mid X \leq a \wedge\ Y \leq y \rbrace$. Věta \ref{v-o-spojitosti-P} dokazuje spojitost $ P $ shora, takže
			\begin{equation*}
			\lim_{m \rightarrow +\infty} P(A_m) = P(A)
			= P(X \leq a,\ Y \leq y)\\
			= F_{(X,Y)}(a, y).
			\end{equation*}
		Analogicky bychom dokázali spojitost v~druhé proměnné.
		\item 
			\begin{enumerate}[a)]
				\item Zvolme pevné $ y \in \mathbb{R} $. Existence limity je opět zaručena. Při volbě posloupnosti $ x_m := m $ máme
					\begin{align*}
					\lim_{x \rightarrow +\infty} F_{(X,Y)}(x,y) 
					&\stackrel{\text{H}}{=} \lim_{m \rightarrow +\infty} F_{(X,Y)}(m, y) \\
					&= \lim_{m \rightarrow +\infty} P( \underbrace{X \leq m,\ Y \leq y}_{:= A_m}).
					\end{align*}
				Tentokrát se množina $ A_m $ zvětšuje a ve finále budou podmínku vzhledem k~$ X $ splňovat všechny elementární jevy. Bude tedy $ A_m \nearrow A = \bigcup_{m=1}^{+\infty}A_m = \Omega \cap \lbrace \omega \mid Y(\omega) \leq y \rbrace$, takže
					\begin{equation*}
					\lim_{m \rightarrow +\infty} P(A_m) = P(A) = P(Y \leq y) = F_Y(y),
					\end{equation*}
				kde $ Y = (X,Y) \setminus X $.
				\item Postupovali bychom stejně, ale limitní množinou by byla $ A = \emptyset $.
				\item Počítejme dvojnou limitu
					\begin{equation*}
					\lim_{\substack{x \rightarrow +\infty \\ y \rightarrow +\infty}} F_{(X,Y)}(x,y).	
					\end{equation*}
				Existuje-li dvojná limita a~konečná $ \lim_{x \rightarrow +\infty} $, lze první jmenovanou počítat postupnými limitními přechody. Máme tedy
					\begin{equation*}
					\lim_{\substack{x \rightarrow +\infty \\ y \rightarrow +\infty}} F_{(X,Y)}(x,y) = \lim_{y \rightarrow +\infty}\lim_{x \rightarrow +\infty} F_{(X,Y)}(x,y) \stackrel{\text{D3a}}{=} \lim_{y \rightarrow +\infty} F_Y(y) \stackrel{\text{H}}{=}  \lim_{m \rightarrow +\infty} F_Y(m) =  \lim_{m \rightarrow +\infty} P(A_m),
					\end{equation*}
					kde $ A_m \nearrow A = \Omega $. Výsledkem je tudíž $ P(\Omega) = 1 $, což bylo dokázati.\qedhere
			\end{enumerate}
	\end{enumerate}
\end{proof}
 
\begin{dusl}
	Díky monotonii funkce $ F_{\xx} $ ve všech proměnných existuje $ \lim\limits_{\mx \rightarrow +\bm{\infty}} F_{\xx}(\mx)$. Lze ji tedy počítat postupnými limitními přechody až po jisté $ j_0 \in \hat{n} $ a platí:
	\begin{equation*}
	\lim_{\substack{x_j \rightarrow +\infty \\ j \neq j_0 }}\!\! F_{\xx}(\mx) = F_{X_{j_0}}(x_{j_0}).
	\end{equation*}
	Výsledné funkci říkáme \textbf{marginální distribuční funkce} náhodné veličiny $ X_{j_0} $ získané \linebreak z~$ \xx = (X_1, \ldots, X_n) $. Ta, jak známo, plně určuje rozdělení $ P^{X_{j_0}} $.
\end{dusl}
 
Nové poznatky nám nyní umožní zjednodušit kritérium nezávislosti náhodných veličin \ref{def-nezav-nv}.
\begin{veta}
	V~definici nezávislosti \ref{def-nezav-nv} lze borelovskou $ \sigma $-algebru $ \bb_1 $ zaměnit za libovolný systém $ \tau \subset \mathcal{P}(\mathbb{R}) $, který je uzavřený na konečné průniky a generuje $ \bb_1 $, neboli $ \sigma(\tau) = \bb_1 $.
\end{veta}
\begin{proof}
	$  $
	\begin{enumerate}[(a)]
		\item Alternativní definice náhodné veličiny \ref{alt-def-nah-vel} nám umožňuje funkci $ X $ prohlásit za náhodnou veličinu právě tehdy, když $ \sigma(\tau) = \bb_1$ a $ X^{-1}(\tau) \in \sa$. Věta \ref{v-o-tau} nám řekla, ža takovým systémem může být kterýkoli z~šesti $ \tau_j $.
		\item Věta \ref{v-o-rovnosti-PQ} tvrdí, že pravděpodobnostní míra $ P $ je jednoznačně dána na takovém systému $ \tau $, který je uzavřený na konečné průniky a generuje $ \bb_1 $.
	\end{enumerate}
	Dáme-li tyto dva poznatky dohromady, bude funkce $ P $ v~definici nezávislosti jednoznačně určena zúžením tohoto $ \tau $ a tato alternativní definice je tedy v~pořádku.\footnote{Dr. Kůs přiznal, že tato forma důkazu je poněkud heuristická. Ve skutečnosti by bylo třeba postupovat důsledněji.}
\end{proof}
 
\begin{veta}\label{v-o-nezavislosti-pro-F}
	Náhodné veličiny $ (X_j)_{n=1}^{+\infty} $ jsou nezávislé, právě když
	\begin{equation*}
	(\forall\, n \in \mathbb{N})(\forall \, \mx \in \mathbb{R}^n)\Bigl( F_{\xx}(\mx) = \prod_{j=1}^{n} F_{X_j}(x_j) \Bigr). 
	\end{equation*}
\end{veta}
\begin{proof}
	$  $
	\begin{itemize}
		\item[($ \Rightarrow $)] Buďte $ (X_j)_{1}^{+\infty} $ nezávislé. To podle definice \ref{def-nezav-nv} v~řeči poznámky \ref{pozn-nez-nv} znamená:
		\begin{equation*}
		(\forall k \in \mathbb{N})(\forall\, (B_{j_i})_{i=1}^k \in \bb_1)\colon\ P\bigl(X_{j_1} \in B_{j_1}, \ldots, X_{j_k} \in B_{j_k}\bigr) = \prod_{j=1}^{k} P(X_{j_i} \in B_{j_i}),
		\end{equation*}
		kde čárky jsou opět ve smyslu průniků. Zvolme libovolně $ n \in \mathbb{N} $ a $ \mx \in \mathbb{R}^n $. Platí-li nezávislost pro všechny množiny z~$ \bb_1 $, můžeme konkrétně volit $ B_{j_i} = (-\infty, x_i] \in \tau_1 $. Položme $ k = n $ tak, že $ (j_1, \ldots, j_n) = (1, \ldots, n) $. V~systému $ \tau_1 $ pak zkoumáme rovnost
		\begin{equation*}
		P(X_1 \leq x_1, \ldots, X_n \leq x_n) = \prod_{j=1}^{n} P(X_j \leq x_j).
		\end{equation*}
		Podle~naší úmluvy toto značení přechází na $ F_{\xx}(\mx) = \prod_{j=1}^{n} F_{X_j}(x_j)$, což jsme chtěli ukázat.
		\item[($ \Leftarrow $)] Do definice nezávislosti zvolme $ k \in \mathbb{N} $ a indexy $ j_1, \ldots, j_k $. Označme $ n = \max\lbrace j_1, \ldots, j_k \rbrace $. Předpoklad platí pro \emph{všechna} $ n \in \mathbb{N}$, tím pádem i~pro naši volbu. Budeme počítat postupné limity v~rovnosti dané předpokladem, a to pouze vzhledem k~indexům různým od naší $ k$-tice. Počítejme
		\begin{equation*}
		\lim_{\substack{x_l \rightarrow +\infty \\ l \neq j_i }} F_{\xx}(\mx) = \lim_{\substack{x_l \rightarrow +\infty \\ l \neq j_i }} \prod_{j=1}^{n} F_{X_j}(x_j).
		\end{equation*}
		Produkt je konečný, takže lze počítat součin limit (pravá strana má smysl díky jejich existenci). Na levé straně využijeme vlastnosti D\ref{d3a}, na straně pravé D\ref{d3c}.
		\begin{align*}
		F_{(X_{j_1},\ldots, X_{j_k})}(x_{j_1}, \ldots, x_{j_k}) 
		&= \prod_{i=1}^{k} F_{X_{j_i}}(x_{j_i}) \cdot \underbrace{1 \cdot \ldots \cdot 1}_{\text{dle D\ref{d3c}}} \\
		P(X_{j_1} \leq x_{j_1}, \ldots, X_{j_k} \leq x_{j_k}) &= \prod_{i=1}^{k} P(X_{j_i} \leq x_{j_i}),
		\end{align*}
		kde jsme volili systém $ \tau_{1, k} = \lbrace \bigtimes_{j=1}^{k}(-\infty, x_j] \mid x_j \in \mathbb{R} \rbrace$, jenž je uzavřený na konečné průniky a~$ \sigma(\tau_{1, k}) = \bb_k $. Přechozí věta nám tak zaručí, že jsou veličiny $ (X_{j_i})_{i=1}^{k} $ nezávislé.\qedhere
	\end{itemize}
\end{proof}
 
\begin{veta}[Funkce jako generátor $ X $]\label{v-distr-fce-generator}
	Buď $ F\colon \mathbb{R} \rightarrow \mathbb{R} $ libovolná funkce s~vlastnostmi D\ref{d1}--D\ref{d3}. Pak je $ F $ distribuční funkcí jednoznačné náhodné veličiny $ X $ s~rozdělením $ P^X $. Jinými slovy: Každá taková funkce \emph{jednoznačně} generuje náhodnou veličinu~$ X $.
\end{veta}
\begin{proof}
	To, že $ F $ je distibuční funkcí náhodné veličiny $ X $, už nutně podle věty \ref{v-o-vlastnostech-F} znamená, že má vlastnosti D\ref{d1}--D\ref{d3}. Zabývejme se tedy obrácenou implikací: Existuje distribuční funkce $ F_X $ tak, že $ X \sim P^X $? 
 
	Chtěli bychom využít věty \ref{v-o-rozsireni} o~rozšíření pravděpodobnostní míry $ P $. K~dispozici máme systém \eqref{t5}, který ale není algebrou, jak požadují předpoklady věty (není totiž uzavřený na komplementy). Sestrojme tedy systém
		\begin{equation*}
		\tau_A = \Bigl\lbrace \sum_{i = 0}^{k}(a_i, b_i ]\ \Big\rvert\  k \in \mathbb{N},\ a_i, b_i \in \mathbb{R}^* \Bigr \rbrace,
		\end{equation*}
	kde klademe $ \mathbb{R}^* := \mathbb{R} \cup \lbrace -\infty, +\infty \rbrace $. Ten už algebrou je, neboť je uzavřen jak na doplňky, tak na konečná sjednocení. Navíc $ \sigma(\tau_A) = \bb$, protože už jen samotné intervaly $ (a_i, b_i] $ generují $ \bb $ (jak jsme se přesvědčili u \eqref{t5}), a tím spíše jejich sjednocení. Nyní definujme funkci
	\begin{equation*}
	 P_F\Bigl(\sum_{i = 0}^k (a_i, b_i] \Bigr) := \sum_{i = 0}^{k}\bigl( F(b_i) - F(a_i) \bigr),
	\end{equation*}
	kde suma v argumentu $ P_F $ je ve smyslu disjunktního sjednocení. Přesvědčíme se, že jde o~pravděpodobností míru. Ověřme tedy axiomy K\ref{k1}--K\ref{k3}.
	\begin{itemize}
		\item Pro $ (a_i, b_i) := \mathbb{R} $ máme podle vlastnostni D\ref{d3c}: $ P_F(\mathbb{R}) = F(+\infty) - F(-\infty) = 1 - 0$. \footnote{Čtenář promine "dosazení" nekonečen, jde samozřejmě o limitní přechod.} 
		\item Na celém $ \tau_A $ je $ P_F \geq 0 $. To máme zaručeno monotonií funkce~$ F $.
		\item $ P_F $ je $ \sigma $-aditivní.
	\end{itemize}
Splnili jsme předpoklady věty \ref{v-o-rozsireni}, takže dostáváme \emph{právě jedno} rozšíření $ P_F $ z~algebry $ \tau_A $ na $ \sigma $-algebru $ \sigma(\tau_A) = \bb $. K~ní existuje náhodná veličina $ X $ tak, že $ X \sim P_F = P^X $. Zúžením $ P^X $ dostáváme $ P^X\mid_{\tau_{1}} = F_X = F$.
\end{proof}