Напиши конспекты по этим темам Неравенство чебешева Теорема чебешева Закон больших чисел Теорема Бернулли

Ниже собраны подробные конспекты по темам: Неравенство Чебышева, Теорема Чебышева, Закон больших чисел, Теорема Бернулли. Для каждой темы приведены формулировки, краткие доказательства и ключевые corollaries, а также примеры и пояснения для средней школы. 1) Неравенство Чебышева Цель и идея: - Даёт границу на вероятность крупного отклонения случайной величины от её математического ожидания через дисперсию. - Работает для любой случайной величины с конечной дисперсией, независимо от формы распределения. Формулировка (неравенство Чебышева): - Пусть X — произвольная случайная величина, μ = E[X], σ^2 = Var(X) < ∞. Для любого ε > 0 выполняется P(|X − μ| ≥ ε) ≤ σ^2 / ε^2. Доказательство (пошагово): 1) Пусть Y = (X − μ)^2 ≥ 0. Тогда E[Y] = Var(X) = σ^2. 2) Применяем Markov's inequality к Y: для любого a > 0 P(Y ≥ a) ≤ E[Y]/a. 3) Положив a = ε^2, получаем P((X − μ)^2 ≥ ε^2) ≤ σ^2 / ε^2. 4) Так как |X − μ| ≥ ε эквивалентно (X − μ)^2 ≥ ε^2, получаем нужное неравенство. Корректировки и следствия: - Для суммы независимых переменных: если X_i — независимы, то Var(∑ X_i) = ∑ Var(X_i) (при независимости; без неё может быть меньше). Тогда P(|∑ X_i − ∑ E[X_i]| ≥ ε) ≤ [∑ Var(X_i)] / ε^2. - Для выборочного среднего (когда X_i iid с μ и σ^2): P(|Ẋ − μ| ≥ ε) ≤ σ^2 / (n ε^2), где Ẋ = (X_1 + ... + X_n)/n. - Пример: Пусть X_i — независимы и одинаково распределены с μ = 0 и Var(X_i) = σ^2. Тогда статья bound на отклонение среднего от 0 может быть записана как P(|Ẋ| ≥ ε) ≤ σ^2/(n ε^2). При увеличении n правая часть убывает. Ключевые применения: - Быстрое оценивание того, как распределение «скатывается» к среднему при росте объёма выборки. - Доказательство слабого закона больших чисел для некоторых условий (через переход к среднему). Пример для наглядности: - Пусть X_i — независимые броски монеты с вероятностью выигрыша p = 0.5, Var(X_i) = p(1−p) = 0.25. Для среднего за n бросков P(|Ẋ − 0.5| ≥ ε) ≤ 0.25 / (n ε^2). При n = 100 и ε = 0.1 получаем ≤ 0.25 / (100 × 0.01) = 0.25. 2) Теорема Чебышева (обобщение неравенства) Цель и идея: - Это часто называют той же идеей, но формулируют как общий вывод на суммах независимых или произвольных переменных, а также для среднего. В большинстве учебников это то же неравенство в роли «теоремы». Формулировка (обобщение для суммы независимых переменных): - Пусть X_1, ..., X_n — независимые случайные величины с E[X_i] = μ_i и Var(X_i) = σ_i^2 < ∞. Пусть S_n = ∑_{i=1}^n X_i. Тогда для любого ε > 0: P(|S_n − E[S_n]| ≥ ε) ≤ Var(S_n) / ε^2 = (∑ σ_i^2) / ε^2. - Для среднего Ẋ̄ = (1/n) ∑ X_i: P(|Ẋ̄ − (1/n)∑ μ_i| ≥ ε) ≤ (∑ σ_i^2) / (n^2 ε^2). Если X_i имеют одинаковую дисперсию σ^2 и μ_i = μ, то это ⇢ P(|Ẋ̄ − μ| ≥ ε) ≤ σ^2 / (n ε^2). Доказательство (кратко): - Применяем неравенство Чебышева к сумме или к разности (S_n − E[S_n]) и используем линейность математического ожидания и дисперсии при независимости. Применение к LLN: - Это неравенство часто используется как шаг к доказательству слабого закона больших чисел: если ∑ Var(X_i) < ∞, то по неравенству вероятность отклонения среднего от среднего значения убывает. 3) Закон больших чисел Идея: - Сообщает, что при больших объёмах независимых наблюдений среднее значение tends to ожидаемое значение. Есть две формы: слабая (сходимость по вероятности) и сильная (почти наверняка). 3.1. Слабая версия (Weak Law of Large Numbers, WLLN) - Гипотезы: Пусть X_1, X_2, ... — независимы, E[X_i] = μ (одинаковое математическое ожидание), Var(X_i) = σ^2 < ∞ (или хотя бы существует ограниченная дисперсия по условию). - Пути вывода: Пусть S_n = ∑_{i=1}^n X_i и Ẋ̄_n = S_n/n. Тогда Ẋ̄_n → μ в вероятности, т.е. для любого ε > 0 P(|Ẋ̄_n − μ| ≥ ε) → 0. - Доказательство (через неравенство Чебышева): P(|Ẋ̄_n − μ| ≥ ε) ≤ Var(Ẋ̄_n)/ε^2 = (σ^2/n)/ε^2 → 0. Следовательно, сходимость в вероятности. 3.2. Сильная версия (Strong Law of Large Numbers, SLLN) - Сильная формулировка говорит: S_n/n → μ почти surely (с вероятностью 1). - Простейшее условие: для независимых X_i с одинаковым распределением и конечным математическим ожиданием μ и конечной дисперсией σ^2, слабое условие в рамках классических теорем гарантирует SLLN (в стандартном курсе часто приводят именно WLLN и указывают, что SLLN требует более продвинутых теорем, например теорема Эргодичности, или условия Колмогорова). В простейшей форме можно привести как факт: для i.i.d. с E[X_i] = μ и Var(X_i) < ∞, выполняется SLLN (подробное доказательство требует Дополнительных теорем, но идея: сумма нормализуется и сходится почти наверняка благодаря контролю вариаций по серии). - Важное практическое следствие: частота наблюдений стремится к теоретическому вероятностному значению. Пример: - Берём последовательность независимых Bernoulli-попыток X_i с p = 0.6. Тогда среднее Ẋ̄_n стремится к 0.6 при больших n; по неравенству Чебышева вероятность отклонения Ẋ̄_n на ε от 0.6 уменьшается как σ^2/(n ε^2) (где σ^2 = p(1−p) = 0.24). 4) Теорема Бернулли (Bernoulli’s Theorem) Суть и связь с LLN: - Это частный случай закона больших чисел для Bernoulli-последовательностей. - Пусть X_1, X_2, ... — независимые и одинаково распределённые Bernoulli(p) случайные величины (X_i ∈ {0,1}, P(X_i = 1) = p). - Тогда S_n = X_1 + ... + X_n, а среднее Ẋ̄_n = S_n/n сходится по вероятности к p: Ẋ̄_n → p в вероятность. - По неравенству Чебышева: P(|Ẋ̄_n − p| ≥ ε) ≤ Var(X_i)/ (n ε^2) = [p(1−p)]/(n ε^2) → 0 при n → ∞. - Следовательно, частота успехов в серии Bernoulli-попыток устремляется к истинной вероятности p. Комментарий и связь между темами: - Неравенство Чебышева лежит в основе доказательства как Теоремы Чебышева, так и Закона больших чисел и Теоремы Бернулли. - Теорема Бернулли — частный случай LLN для Bernoulli-попыток. - Закон больших чисел безусловно устанавливает более общие рамки того, как среднее наблюдений приближается к математическому ожиданию. Короткие памятки для запоминания: - Неравенство Чебышева: P(|X − E[X]| ≥ ε) ≤ Var(X)/ε^2. - Для среднего при iid с Var(X) = σ^2: P(|Ẋ̄_n − μ| ≥ ε) ≤ σ^2/(n ε^2). - Закон больших чисел: среднее наблюдений стремится к μ при n → ∞. Варианты: слабое (в вероятность) и сильное (почти наверняка). - Теорема Бернулли: для Bernoulli(p) независимых испытаний частота успехов Ẋ̄_n → p (в вероятность); доказательство следует из неравенства Чебышева. Если хочешь, могу дополнить конспекты конкретными примерами решения задач по каждой теме или привести набор типовых задач с пошаговыми решениями.