Задание 1. Вычислить количество информации в сообщении о том, что встреча состоится 15 сентября.

Задача может рассматриваться через концепцию самоинформации в теории информации.

1. Определение

• Самоинформация сообщения с вероятностью p: I(p) = - log2(p) бит.
• Мы рассматриваем вселенную возможных дат: дни сентября. В сентябре 30 дней, значит до получения конкретной информации каждую дату считали вероятной с p = 1/30 (если предположить равновероятность).

2. Применение к заданию

• Сообщение: «встреча состоится 15 сентября».
• Вероятность судьбы этого конкретного дня до получения сообщения: p = 1/30.
• Количество информации, раскрываемой этим сообщением: I = - log2(1/30) = log2(30) бит.

3. Вычисление

• log2(30) ≈ 4.907 бит.
• Пример альтернативной вычислительной путани: log2(30) = log2(3) + log2(10) ≈ 1.585 + 3.322 ≈ 4.907 бит.

4. Интерпретация

• Сообщение «15 сентября» уменьшает неоднородность выбора даты примерно на 4.9 бит. То есть до сообщения имелась неопределённость около 4.9 бит относительно выбора конкретной даты в сентябре; после получения информации неопределенность снимается для этой даты.

5. Примечание (варианты интерпретации)

• Если считать, что год и точная дата (день, месяц, год) неизвестны, и выбираем из всех 365 дней года, то information content был бы log2(365) ≈ 8.19 бит.
• Если год известен и остаётся выбор только среди 30 дней сентября, то используем 30 дней и получаем ≈ 4.91 бит (как выше).

Итак, при равновероятном выборе даты в сентябре информация, заключённая в сообщении «встреча состоится 15 сентября», равна примерно 4.91 бит.