В коробке лежат 64 фломастера. Всё фломастеры разных цветов. Какое количество информации содержит сообщение и том что из неё достали красный фломастер?

Ответ: 6 бит.

Обоснование:

• В коробке 64 фломастера, значит 64 возможных цвета (при равной вероятности каждый исход = 1/64).
• Сообщение «достали красный фломастер» – это конкретный исход среди 64, егоself-information I = -log2(p) = -log2(1/64) = log2(64) = 6 бит.
• До события была неопределенность по цвету равна log2(64) = 6 бит; после того как известно, что красный, неопределенность исчезает (0 бит).