Задание 1. Вычислить количество информации в сообщении о том, что встреча состоится 15 сентября.

Задача может рассматриваться через концепцию самоинформации в теории информации. 1) Определение - Самоинформация сообщения с вероятностью p: I(p) = - log2(p) бит. - Мы рассматриваем вселенную возможных дат: дни сентября. В сентябре 30 дней, значит до получения конкретной информации каждую дату считали вероятной с p = 1/30 (если предположить равновероятность). 2) Применение к заданию - Сообщение: «встреча состоится 15 сентября». - Вероятность судьбы этого конкретного дня до получения сообщения: p = 1/30. - Количество информации, раскрываемой этим сообщением: I = - log2(1/30) = log2(30) бит. 3) Вычисление - log2(30) ≈ 4.907 бит. - Пример альтернативной вычислительной путани: log2(30) = log2(3) + log2(10) ≈ 1.585 + 3.322 ≈ 4.907 бит. 4) Интерпретация - Сообщение «15 сентября» уменьшает неоднородность выбора даты примерно на 4.9 бит. То есть до сообщения имелась неопределённость около 4.9 бит относительно выбора конкретной даты в сентябре; после получения информации неопределенность снимается для этой даты. 5) Примечание (варианты интерпретации) - Если считать, что год и точная дата (день, месяц, год) неизвестны, и выбираем из всех 365 дней года, то information content был бы log2(365) ≈ 8.19 бит. - Если год известен и остаётся выбор только среди 30 дней сентября, то используем 30 дней и получаем ≈ 4.91 бит (как выше). Итак, при равновероятном выборе даты в сентябре информация, заключённая в сообщении «встреча состоится 15 сентября», равна примерно 4.91 бит.