Сообщение, записанное буквами из 32-символьного алфавита, содержит 65 символов. Какой объём информации оно несёт?

В данном случае мы можем рассчитать объем информации, несомый сообщением, по формуле Шеннона:

H = - ∑ (P(i) * log2(P(i)))

где H - объем информации, P(i) - вероятность появления каждого символа, log2 - логарифм по основанию 2.

В данном сообщении имеется 65 символов из 32-символьного алфавита, поэтому вероятность появления каждого символа равна 1/32.

H = - ∑ (1/32 * log2(1/32))

H приближенно равен 5 бит.

Таким образом, это сообщение несет 5 бит информации.