Что такое вероятность

Каждая модель на этом сайте делает вероятностное утверждение. Классификатор выдаёт распределение по меткам, языковая модель — распределение следующего токена, диффузионная модель — распределение изображений. Обучение такой модели обычно минимизирует функцию потерь, которая при явно заданной модели данных является отрицательным логарифмом правдоподобия, а измерить её качество — значит получить оценку с погрешностью. Теория вероятностей — язык, на котором всё это формулируется, и исчисление, которое не даёт в этих рассуждениях ошибиться: она даёт верный ответ именно там, где интуиция уверенно даёт неверный. В этой заметке мы разберём, что такое вероятность, покажем четыре таких случая и опишем план курса.

Обозначения. У эксперимента есть множество возможных исходов $\Omega$; событие $A$ — подмножество $\Omega$; $P(A)$ — его вероятность. $|A|$ — число элементов конечного множества.

Три трактовки вероятности#

Это слово употребляют в трёх смыслах, и курсу нужны все три.

Равновозможные исходы. Если у эксперимента конечное число исходов и ничто не отличает один из них от другого, каждый получает одинаковую долю:

$$P(A) = \frac{|A|}{|\Omega|} .$$

Честная игральная кость: $\Omega = \{1, \dots, 6\}$, событие «выпало чётное» — это $\{2, 4, 6\}$, $P = 3/6$. Это классическое определение, и оно сводит вероятность к подсчёту — теме следующей заметки. Оно перестаёт работать, как только исходы несимметричны (нечестная кость) или их бесконечно много (случайная точка на отрезке).

Частота в длинной серии испытаний. Повторим эксперимент много раз в одних и тех же условиях; вероятность — это предел доли повторений, в которых происходит $A$. Доля действительно стабилизируется, но медленно и с колебаниями:

Рисунок

Доля орлов в трёх сериях бросков

После 10 бросков честной монеты первая серия даёт долю орлов 0.3, после 100 бросков — 0.53, после 10 000 бросков — 0.501. Полоса на рисунке содержит долю с вероятностью около 0.95 при каждом фиксированном $n$ (а не на всей траектории сразу) и сужается как $1/\sqrt n$; почему у неё именно такая ширина — тема заметок о законе больших чисел и центральной предельной теореме. Через частоту вероятности сверяют с реальностью, и каждая симуляция в этом курсе — частотная оценка. Однако частота не может определить вероятность события, которое происходит один раз: дождя завтра, болезни конкретного пациента.

Степень уверенности. Вероятность — это то, насколько сильно рассуждающий должен верить утверждению при том, что ему известно, причём шкала откалибрована так, чтобы пари с соответствующими ставками были честными. Это байесовская трактовка; она охватывает единичные события и превращает «обновление убеждений по данным» в вычисление — формулу Байеса.

Три трактовки расходятся в том, что такое вероятность, и полностью согласны в том, как вероятности комбинируются. Аксиомы Колмогорова формулируют правила комбинирования, не выбирая интерпретацию, и всё в курсе следует из них.

Где интуиция ошибается#

Положительный тест на редкую болезнь. Болезнью страдает 1% людей. Тест выявляет 90% больных и даёт ложноположительный результат у 9% здоровых. Тест пациента оказался положительным. Насколько вероятно, что он болен? Когда Gigerenzer et al. (2007) предложили эти числа 160 гинекологам, большинство ответило 90% или 81%. Подсчёт в естественных частотах, которые рекомендуют Gigerenzer and Hoffrage (1995), даёт около 9%:

Рисунок

Положительный тест на редкую болезнь, в числах из 1000 человек

Из 1000 человек 10 больны, и у 9 из них тест положительный; из 990 здоровых положительный тест у 89. Из 98 положительных тестов только 9 приходятся на больных, поэтому $P(\text{болен} \mid +) = 9/98 \approx 0.092$. Тест неплох; просто болезнь редкая, и здоровое большинство даёт большую часть положительных результатов. Пренебрежение тем, насколько явление распространено до получения данных, — его базовой частотой (base rate), — самая частая ошибка в рассуждениях о свидетельствах, и это та же ошибка, что и судить о точности (precision) классификатора по его полноте (recall).

Совпадение дней рождения. Сколько человек должно быть в комнате, чтобы двое из них родились в один день с вероятностью не меньше половины? Интуиция подсказывает около 183, половину от 365. Ответ — 23. Вероятность того, что все 23 дня рождения различны, равна $\frac{365}{365} \cdot \frac{364}{365} \cdots \frac{343}{365} = 0.493$, поэтому совпадение имеет вероятность $0.507$; для 50 человек она равна $0.970$. Интуиция оценивает шанс, что кто-то родился в мой день рождения; вопрос же — о любой из $\binom{23}{2} = 253$ пар. Та же арифметика определяет, как часто происходят коллизии хеш-функций и случайных идентификаторов.

Лечение, которое выигрывает в каждой группе и проигрывает в целом. В исследовании методов лечения камней в почках метод A оказался успешным для 81 из 87 мелких камней (93%) и 192 из 263 крупных (73%); метод B — для 234 из 270 мелких (87%) и 55 из 80 крупных (69%). A лучше для мелких камней и лучше для крупных. По объединённым данным A успешен в 273 случаях из 350 (78%), а B — в 289 из 350 (83%), так что B выглядит лучше. Оба утверждения верны. A назначали в основном при крупных камнях (263 из 350 его пациентов), которые труднее лечить, а B — в основном при мелких (270 из 350). Это парадокс Симпсона, и его может дать любой A/B-тест, группы которого различаются по составу.

Среднее зашумлённых измерений. Измерение содержит случайную ошибку со стандартным отклонением 1, и ошибки разных измерений независимы (достаточно некоррелированности). У среднего из 4 измерений стандартное отклонение равно $1/2$, у среднего из 100 — $1/10$: ошибка убывает как $1/\sqrt n$, а не как $1/n$. Чтобы вдвое уменьшить ошибку оценки — доли правильных ответов на тестовой выборке или среднего эффекта в эксперименте, — нужно вчетверо больше данных. Правилу нужна независимость: ошибки с общей составляющей, например от неправильно откалиброванного прибора, не усредняются. Заметка о математическом ожидании и дисперсии выводит это правило, заметка о совместных распределениях — предел, который оставляют коррелированные ошибки, а центральная предельная теорема превращает правило в интервалы погрешности.

Как построен курс#

Курс построен от обратного — от того, что нужно машинному обучению. Каждая заметка отвечает на вопрос, на который не смогла ответить предыдущая:

Вопрос	Заметка
Как вычислить вероятность, когда все исходы равновозможны?	Исходы, события и подсчёт
А если они не равновозможны или их бесконечно много?	Аксиомы Колмогорова
Как информация меняет вероятности?	Условная вероятность и формула Байеса
Как говорить о числах, порождённых случаем?	Дискретные и непрерывные распределения, функции от случайных величин
Как описать распределение несколькими числами?	Математическое ожидание и дисперсия
Как связаны между собой несколько случайных величин?	Совместные распределения, многомерное нормальное распределение, условное математическое ожидание
Почему усреднение работает и как быстро?	Неравенства, закон больших чисел
Почему нормальное распределение повсюду?	Центральная предельная теорема
Как перейти от данных обратно к распределению?	Оценки, метод максимального правдоподобия, байесовский вывод
Как решить, реален ли эффект?	Доверительные интервалы, бутстрэп, проверка гипотез
Как эволюционируют случайные системы и как из них сэмплировать?	Цепи Маркова, методы Монте-Карло, MCMC

Связи с остальным сайтом проходят через эти заметки. Квадратичная ошибка и кросс-энтропия — это отрицательные логарифмы правдоподобия при гауссовской и категориальной модели целевой переменной (метод максимального правдоподобия); обобщающая способность — это закон больших чисел с оценкой отклонения (концентрация); регуляризатор — это априорное распределение (байесовский вывод); языковая модель — цепочка условных распределений, как n-граммная модель. Динамика Ланжевена — один из марковских методов Монте-Карло: она следует за score $\nabla \log p$ к фиксированному целевому распределению. Score-модели и диффузионные модели заимствуют score, но не фиксированную цель: они делают шаги Ланжевена по последовательности уровней шума или моделируют зависящий от времени обратный процесс к процессу зашумления, и это не MCMC по распределению данных.

Что изменилось#

	Интуиция	Исчисление вероятностей
Положительный тест, распространённость 1%	около 0.9	0.092
Число людей в комнате для совпадения дней рождения с $P \ge 0.5$	около 183	23
Лечение камней в почках	«B лучше» (по объединённым данным)	A лучше в каждой группе; сравнение по объединённым данным искажено смешивающим фактором
Ошибка среднего из 100 измерений	$1/100$ ошибки одного измерения	$1/10$ ошибки одного измерения

Ограничения#

• Вопрос об интерпретации не закрыт. Частотной трактовке нужны повторяемые эксперименты, трактовке через степень уверенности — рассуждающий субъект; исчисление одно и то же, но какую вероятность приписать в реальной задаче — это решение о модели, лежащее вне математики.
• Исчисление хорошо ровно настолько, насколько хороша модель. Пример с тестом предполагает, что 1%, 90% и 9% известны и применимы к этому пациенту; пример с днями рождения предполагает, что все 365 дней равновероятны, а это не совсем так.
• Подсчёт — не причинность. Парадокс Симпсона показывает, что вероятности, вычисленные по одним и тем же данным, могут указывать в противоположные стороны; чтобы решить, какое сравнение отвечает на вопрос, нужно знать, как возникли данные.

Что нужно запомнить#

• Вероятность можно понимать как долю равновозможных исходов, как частоту в длинной серии испытаний или как степень уверенности; все три трактовки подчиняются одним и тем же правилам — аксиомам Колмогорова.
• Частоты стабилизируются медленно: отклонение от истинной вероятности убывает как $1/\sqrt n$.
• Базовые частоты важны: при распространённости 1% тест с чувствительностью 90% и 9% ложноположительных результатов даёт $P(\text{болен} \mid +) = 9/98 \approx 0.09$.
• Вероятности в вопросах о «какой-нибудь паре» растут вместе с числом пар: уже 23 человека дают совпадение дней рождения с вероятностью 0.507.
• Сравнение по объединённым данным может давать результат, противоположный сравнениям внутри групп (парадокс Симпсона).

Код#

Каждый пример заметки, проверенный симуляцией на NumPy:

import numpy as np, math

rng = np.random.default_rng(0)

# a positive test for a rare disease: 1% prevalence, 90% sensitivity, 9% false positives
n = 1_000_000
sick = rng.random(n) < 0.01
positive = np.where(sick, rng.random(n) < 0.90, rng.random(n) < 0.09)
print(sick[positive].mean())                         # 0.0917; exactly 0.009 / 0.0981 = 0.0917

# shared birthdays among 23 people
days = rng.integers(0, 365, size=(100_000, 23))
shared = np.array([len(set(row)) < 23 for row in days]).mean()
print(shared, 1 - math.prod((365 - i) / 365 for i in range(23)))   # 0.5066 (simulated), 0.5073 (exact)

# Simpson's paradox: successes and patients, (small stones, large stones)
A = [(81, 87), (192, 263)]; B = [(234, 270), (55, 80)]
for name, groups in [('A', A), ('B', B)]:
    print(name, [round(s / m, 3) for s, m in groups], round(sum(s for s, _ in groups) / sum(m for _, m in groups), 3))
# A [0.931, 0.73] 0.78   B [0.867, 0.688] 0.826

# the error of an average falls like 1/sqrt(n)
for m in [1, 4, 100]:
    print(m, rng.normal(0, 1, size=(20_000, m)).mean(axis=1).std())   # 0.992, 0.503, 0.099

Дальше#

Трактовка через равновозможные исходы сводит вероятность к подсчёту исходов, а подсчёт сложнее, чем кажется: задаче о днях рождения уже понадобилось произведение 23 дробей. Следующая заметка строит инструменты: множества исходов и события, а также правила подсчёта расстановок и выборок с учётом и без учёта порядка, с повторениями и без них.

Литература#

• J. K. Blitzstein, J. Hwang. Introduction to Probability, 2nd ed. CRC Press, 2019. Глава 1 (интерпретации, задача о днях рождения), глава 2 (формула Байеса и базовые частоты, парадокс Симпсона).
• W. Feller. An Introduction to Probability Theory and Its Applications, Vol. 1, 3rd ed. Wiley, 1968. Глава II.
• A. N. Shiryaev. Probability-1, 3rd ed. Springer, 2016. Глава 1, §1.
• G. Gigerenzer, W. Gaissmaier, E. Kurz-Milcke, L. M. Schwartz, S. Woloshin. Helping Doctors and Patients Make Sense of Health Statistics. Psychological Science in the Public Interest, 8(2), 2007. Вопрос о маммографии, заданный 160 гинекологам.
• G. Gigerenzer, U. Hoffrage. How to Improve Bayesian Reasoning Without Instruction: Frequency Formats. Psychological Review, 102(4), 1995.
• C. R. Charig, D. R. Webb, S. R. Payne, J. E. Wickham. Comparison of treatment of renal calculi by open surgery, percutaneous nephrolithotomy, and extracorporeal shockwave lithotripsy. BMJ, 292(6524), 1986. Данные о камнях в почках.