Практическое задание «Определение количества информации». В непрозрачном мешочке хранятся 10 белых, 20 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зри- тельное сообщение о цвете вынутого шарика?
Для определения количества информации, содержащейся в зрительном сообщении о цвете вынутого шарика, можно использовать формулу для вычисления информации в битах:
\( I = -\log_2(p) \),
где \( p \) — вероятность события. В данном случае — это вероятность того, что будет вынут шарик определенного цвета.
Сначала нужно определить общее количество шариков:
\[ 10 \text{ (белых)} + 20 \text{ (красных)} + 30 \text{ (синих)} + 40 \text{ (зеленых)} = 100 \text{ шариков}. \]
Теперь найдем вероятность вынутого шарика каждого цвета:
- Для белых: \( p(\text{белый}) = \frac{10}{100} = 0.1 \)
- Для красных: \( p(\text{красный}) = \frac{20}{100} = 0.2 \)
- Для синих: \( p(\text{синий}) = \frac{30}{100} = 0.3 \)
- Для зеленых: \( p(\text{зеленый}) = \frac{40}{100} = 0.4 \)
Теперь можем рассчитать количество информации для каждого события:
- Для белого шарика: \[ I(\text{белый}) = -\log_2(0.1) \approx 3.32 \text{ бита} \]
- Для красного шарика: \[ I(\text{красный}) = -\log_2(0.2) \approx 2.32 \text{ бита} \]
- Для синего шарика: \[ I(\text{синий}) = -\log_2(0.3) \approx 1.74 \text{ бита} \]
- Для зеленого шарика: \[ I(\text{зеленый}) = -\log_2(0.4) \approx 1.32 \text{ бита} \]
Однако наиболее корректный способ определить общее количество информации, получаемое при вытягивании шарика, — это рассмотреть информацию в терминах общей энтропии, которая учитывает все исходы.
Энтропия \( H \) системы может быть вычислена по формуле:
\[ H = -\sum p(x) \log_2(p(x)), \]
где \( p(x) \) — вероятность каждого из исходов.
Теперь подставим значения вероятностей:
\[ H = -\left( \frac{10}{100} \log_2\left(\frac{10}{100}\right) + \frac{20}{100} \log_2\left(\frac{20}{100}\right) + \frac{30}{100} \log_2\left(\frac{30}{100}\right) + \frac{40}{100} \log_2\left(\frac{40}{100}\right) \right). \]
Вычислим:
\[ H = -\left( 0.1 \cdot (-3.32) + 0.2 \cdot (-2.32) + 0.3 \cdot (-1.74) + 0.4 \cdot (-1.32) \right). \]
\[ H \approx 0.332 + 0.464 + 0.522 + 0.528 \approx 1.846 \text{ бита}. \]
Таким образом, количество информации, содержащейся в зрительном сообщении о цвете вынутого шарика, составляет примерно 1.846 бита.
