Чтобы определить информационный вес символа в сообщении, нужно разделить общий объём информации на количество символов. В данном примере у нас есть информационное сообщение объёмом 3200 бит, состоящее из 4096 символов.
- Рассчитаем информационный вес одного символа: \[ \text{Вес символа} = \frac{\text{Общий объём информации (биты)}}{\text{Количество символов}} = \frac{3200 \text{ бит}}{4096 \text{ символов}} \approx 0.78125 \text{ бит на символ}. \]
Это значит, что каждый символ передаёт в среднем примерно 0.78 бита информации.
- Теперь определим, сколько символов содержит алфавит, использованный для записи этого сообщения. Чтобы найти число символов алфавита \( N \), используем формулу для информационного весa символа: \[ \text{Вес символа} = \log_2{N}. \] Подставим известные значения: \[ 0.78125 = \log_2{N}. \] Теперь преобразуем это уравнение, чтобы найти \( N \): \[ N = 2^{0.78125} \approx 1.74. \]
Так как количество символов в алфавите должно быть целым числом, округлим полученное значение. На практике это означает, что можно использовать два символа, так как минимальное количество символов в алфавите для передачи информации, при таком весе, составляет 2 символа.
Таким образом, алфавит, с помощью которого записано это сообщение, состоит как минимум из 2 символов.