Теория вероятностей · Лекция 5 · Условная вероятность

Коротко: что такое $P(A \mid B)$, формула полной вероятности и формула Байеса.

Условная вероятность

Определение
Пусть $P(B) > 0$. Вероятность события $A$ при условии, что произошло $B$:
$$P(A \mid B) = \frac{P(A \cap B)}{P(B)}$$

Отсюда правило умножения: $P(A \cap B) = P(B)\,P(A \mid B)$.

События независимы, если $P(A \cap B) = P(A)\,P(B)$ — тогда $P(A \mid B) = P(A)$.

Формула полной вероятности

Теорема
Пусть $H_1, \dots, H_n$ — полная группа гипотез: они попарно несовместны, $H_1 \cup \dots \cup H_n = \Omega$ и $P(H_i) > 0$. Тогда
$$P(A) = \sum_{i=1}^{n} P(A \mid H_i)\,P(H_i)$$

Формула Байеса

Как изменилась вероятность гипотезы, когда узнали, что $A$ произошло:

$$P(H_k \mid A) = \frac{P(A \mid H_k)\,P(H_k)}{\sum_{i=1}^{n} P(A \mid H_i)\,P(H_i)}$$

Пример

Две урны
В первой урне 3 белых и 2 чёрных шара, во второй — 1 белый и 4 чёрных. Урну выбирают наугад, из неё достают шар.

• Гипотезы: $H_1$ — первая урна, $H_2$ — вторая, $P(H_1) = P(H_2) = \frac{1}{2}$.
• $P(\text{белый} \mid H_1) = \frac{3}{5}$, $P(\text{белый} \mid H_2) = \frac{1}{5}$.
• По полной вероятности: $P(\text{белый}) = \frac{1}{2} \cdot \frac{3}{5} + \frac{1}{2} \cdot \frac{1}{5} = \frac{2}{5}$.
• Достали белый. По Байесу: $P(H_1 \mid \text{белый}) = \dfrac{\frac{1}{2} \cdot \frac{3}{5}}{\frac{2}{5}} = \frac{3}{4}$.

Плотность: показательный закон

$$f(x) = \begin{cases} 0, & x < 0, \\ \lambda e^{-\lambda x}, & x \ge 0 \end{cases} \qquad M\xi = \frac{1}{\lambda}, \quad D\xi = \frac{1}{\lambda^2}$$

При $\lambda = 2$ закрашено $P(0{,}5 \le \xi \le 1)$:

Нормальный закон

$$f(x) = \frac{1}{\sqrt{2\pi}}\, e^{-x^2/2}, \qquad P(-1 < \xi < 1) \approx 0{,}683$$

⚠️ Лектор: «формулу Байеса спрошу на экзамене с выводом».