9.1 Pravděpodobnost

9.1.1 Pravděpodobnostní prostor

Definice 9.1 (Diskrétní pravděpodobnostní prostor)

Je dvojice $(\Omega, \mathbf{P})$, kde

  1. $\Omega$ je konečná nebo konečně spočetná množina elementárních jevů

  2. $\mathbf{P}: \Omega \rightarrow [0, 1]$

Jev je nějaká množina $A \subseteq \Omega$ elementárních jevů

Pravděpodobnost jevu $A$ je $\mathbf{P}(A) = \sum_{w \in A} \mathbf{P}(\omega)$

Poznámka 9.1

Pravděpodobnosti můžeme také připisovat výrokům: $\mathbf{P}[\varphi(\omega)]$ je pravděpodobnost jevu daného množinou všech elementárních jevů $\omega$, pro které platí výrok $\varphi(\omega)$.

Příklad 9.1 (Pravděpodobnostní prostor šestistěnné kostky)

$\Omega_6 = \{⚀,⚁,⚂,⚃,⚄,⚅\}$

$\mathbf{P}(\omega) = 1/6$ pro každé $\omega \in \{⚀,⚁,⚂,⚃,⚄,⚅\}$

Jev $J_{\text{L}}$ definovaný jako padlo liché číslo: $J_{\text{L}} = \{⚀,⚂,⚄\} \subseteq \Omega_6$ a $\mathbf{P}(J_{\text{L}}) = 3 \cdot \frac{1}{6} = \frac{1}{2}$

Příklad 9.2 (Pravděpodobnostní prostor čtyřstěnné kostky)

$\Omega_4 = \{⚀,⚁,⚂,⚃\}$

$\mathbf{P}(\omega) = 1/4$ pro každé $\omega \in \{⚀,⚁,⚂,⚃\}$

Jev $J_{\text{S}}$ definovaný jako padlo sudé číslo: $J_{\text{S}} = \{⚀,⚁\} \subseteq \Omega_4$ a $\mathbf{P}(J_{\text{S}}) = 2 \cdot \frac{1}{4} = \frac{1}{2}$

Pozorování 9.1

Pro každé dva jevy $A, B$ platí $\mathbf{P}(A \cup B) = \mathbf{P}(A) + \mathbf{P}(B) - \mathbf{P}(A \cap B)$

Definice 9.2 (Nezávislé jevy)

Dva jevy $A$, $B$ nazveme nezávislé, pokud $\mathbf{P}(A \cap B) = \mathbf{P}(A) \cdot \mathbf{P}(B)$

Definice 9.3 (Opačný jev)

Jevy $\overline{A} = \Omega \ A$ se nazývá jev opačný k jevu $A$

Pozorování 9.2 (Pravděpodobnost opačného jevu)

\begin{equation*} \mathbf{P}(\overline{A}) = 1 - \mathbf{P}(A) \end{equation*}

9.1.2 Náhodná veličina

Definice 9.4 (Diskrétní náhodná veličina)

Nechť $(\Omega, \mathbf{P})$ je diskrétní pravděpodobnostní prostor.

Pak $X: \Omega \rightarrow \mathbb{R}$ je diskrétní náhodná veličina

Pozorování 9.3

Diskrétní náhodná veličina tedy přiřazuje každému elementárnímu jevu $\omega_i \in \Omega$ nějakou číselnou hodnotu $x_i = X(\omega_i)$ a může nabývat pouze konečný nebo spočetně nekonečný počet hodnot $\{x_1, x_2, ...\}$.

Náhodná veličina se také někdy nazývá náhodná proměnná

Příklad 9.3 (Příklad náhodné veličiny)

Nad pravděpodobnostním prostorem šestistěnné kostky lze celkem přirozeně definovat náhodnou veličinu $K$, která každému hodu kostkou přiřadí počet „teček“, které padly. Čili $K: {⚀,⚁,⚂,⚃,⚄,⚅} \rightarrow \mathbb{R}$, kde

  • K(⚀) = 1,

  • K(⚁) = 2,

  • K(⚂) = 3,

  • K(⚃) = 4,

  • K(⚄) = 5,

  • K(⚅) = 6

9.1.3 Střední hodnota

Definice 9.5 (Střední hodnota)

Střední hodnota $\mathbf{E}[X]$ náhodné veličiny $X$ je průměr všech hodnot veličiny $X$ vážený pravděpodobnostmi příslušných elementárních jevů, tedy

\begin{equation*} \mathbf{E}[X] = \sum_{\omega \in \Omega} X(\omega) \cdot \mathbf{P}(\omega) = \sum_{x_i} x_i \cdot \mathbf{P}[X = x_i] \end{equation*}

Tato řada musí konvergovat absolutně, jinak střední hodnotu nezavádíme.

Příklad 9.4

Střední hodnota náhodné veličiny K z předchozího příkladu, čili střední hodnota počtu teček padlých na šestistěnné kostce, je

\begin{equation*} \mathbf{E}[K] = \sum_{\omega \in \Omega} K(\omega) \cdot \mathbf{P}(\omega) = 1 \cdot \frac{1}{6} + 2 \cdot \frac{1}{6} + … + 6 \cdot \frac{1}{6} = \frac{21}{6} = 3.5 \end{equation*}

Příklad 9.5

Podobně, střední hodnota náhodné veličiny $C$ definované jako počet teček padlých na čtyřstěnné kostce je

\begin{equation*} \mathbf{E}[C] = \sum_{\omega \in \Omega} K(\omega) \cdot \mathbf{P}(\omega) = 1 \cdot \frac{1}{4} + 2 \cdot \frac{1}{4} + 3 \cdot \frac{1}{4} + 4 \cdot \frac{1}{4} = \frac{10}{4} = 2.5 \end{equation*}

Věta 9.1 (O linearitě střední hodnoty)

Nechť $\alpha$ a $\beta$ jsou reálná čísla a nechť $X$ a $Y$ jsou náhodné veličiny.

Potom $\mathbf{E}[\alpha X + \beta Y] = \alpha \mathbf{E}[X] + \beta \mathbf{E}[Y]$

Buď $(\Omega, \mathbf{P})$ diskrétní pravděpodobnostní prostor.

\begin{align*} \mathbf{E}[\alpha X + \beta Y] &= \sum_{\omega \in \Omega} (\alpha X + \beta Y)(\omega) \cdot \mathbf{P}(\omega) \\ &= \sum_{\omega \in \Omega} (\alpha X(\omega) + \beta Y(\omega)) \cdot \mathbf{P}(\omega) \\ &= \sum_{\omega \in \Omega} \alpha X(\omega) \cdot \mathbf{P}(\omega) + \sum_{\omega \in \Omega} \beta Y(\omega) \cdot \mathbf{P}(\omega) \\ &= \alpha \cdot \sum_{\omega \in \Omega} X(\omega) \cdot \mathbf{P}(\omega) + \beta \cdot \sum_{\omega \in \Omega} Y(\omega) \cdot \mathbf{P}(\omega) \\ &= \alpha \mathbf{E}[X] + \beta \mathbf{E}[Y]\end{align*}

$\square$

Příklad 9.6 (Použití linearity střední hodnoty)

Uvažujme házení dvěma hracími kostkami současně: šestistěnnou kostkou s 1 až 6 tečkami a čtyřstěnnou kostkou s 1 až 4 tečkami.

Tomu bude odpovídat pravděpodobnostní prostor $(\Omega, \mathbf{P})$, kde

\begin{equation*} \Omega = \{(x, y); x \in \{⚀, … , ⚅\}, y \in \{⚀, … , ⚃\}\} \end{equation*}

je množina uspořádaných dvojic počtu teček na jednotlivých kostkách a $\mathbf{P}(\omega) = \frac{1}{6} \cdot \frac{1}{4} = \frac{1}{24}$

Definujme opět náhodnou veličinu $K$ jako počet teček, který padne na první kostce, a náhodnou veličinu $C$ jako počet teček, který padne na druhé kostce.

V předchozích příkladech jsme spočítali, že $\mathbf{E}[K] = 3.5$ a $\mathbf{E}[C] = 2.5$.

Pomocí linearity střední hodnoty můžeme snadno spočítat střední hodnotu součtu počtu teček na obou kostkách:

\begin{equation*} \mathbf{E}[K + C] = \mathbf{E}[K] + \mathbf{E}[C] = 3.5 + 2.5 = 6 \end{equation*}

9.1.4 Čekání na náhodný jev

V algoritmech často využíváme následující skutečnost: Čekáme-li na událost, která v každém pokusu nastává s pravděpodobností $p$, bude střední počet pokusů, než událost nastane roven $1/p$

Věta 9.2 (O opakování nezávislých pokusů)

Uvažujme sérii nezávislých pokusů, ve kterých sledujeme, zda nastal nějaký jev $J$.

Pravděpodobnost, že jev $J$ nastane, je v každém pokusu stále stejná a rovna $p$.

Definujme náhodnou veličinu $T$ jako pořadí pokusu, ve kterém jev $J$ nastal poprvé.

Pak $E[T] = 1/p$