Для того чтобы вычислить информационный объём сообщения, записанного в алфавите из 128 символов, нам нужно использовать формулу Шеннона для вычисления информационной энтропии.
Определение базовых понятий:
- Информационный объём (или эмпирическая энтропия) можно вычислить по формуле:
\[
H = \log_2(N^L)
\]
где:
- \(H\) — информационный объём в битах,
- \(N\) — количество символов в алфавите (в нашем случае 128),
- \(L\) — длина сообщения в символах (в нашем случае 10).
- Информационный объём (или эмпирическая энтропия) можно вычислить по формуле:
\[
H = \log_2(N^L)
\]
где:
Подставим значения в формулу: \[ H = \log_2(128^{10}) \]
Упростим выражение: Первое, что мы можем сделать, это решить \(128^{10}\):
- Мы знаем, что \(128\) можно записать как \(2^7\) (поскольку \(2^7 = 128\)).
- Следовательно, \(128^{10} = (2^7)^{10} = 2^{70}\).
Теперь найдем \(H\): \[ H = \log_2(2^{70}) = 70 \text{ бит} \]
Переведем бит в байты: Один байт равен 8 битам. Чтобы перевести биты в байты, делим на 8: \[ \text{Объём в байтах} = \frac{H}{8} = \frac{70}{8} = 8.75 \text{ байт} \]
Итак, информационный объём сообщения, состоящего из 10 символов, записанных в алфавите из 128 символов, равен 8.75 байт.