Какой информационный вес одного символа этого алфавита @3%F@0@%3!

Разберём задачу по шагам. 1) Определяем алфавит - В данной строке встречаются 6 различных символов: @, 3, %, F, 0, ! - Размер алфавита: n = 6 2) Вариант 1 — равновероятное распределение символов в алфавите - При равной вероятности каждый символ встречается с вероятностью p = 1/6. - Информационный вес одного символа (информация, необходимая для передачи одного символа при равной вероятности) равен: I = log2(n) = log2(6) ≈ 2.585 бит. - Пример: под этим допущением любой символ несёт примерно одинаковую информацию ≈ 2.585 бит. 3) Вариант 2 — используем реальные частоты символов в данной строке - Длина строки L = 10. - Частоты спользуемых символов: - @ встречается 3 раза → p(@) = 3/10 = 0.3 - 3 встречается 2 раза → p(3) = 0.2 - % встречается 2 раза → p(%) = 0.2 - F встречается 1 раз → p(F) = 0.1 - 0 встречается 1 раз → p(0) = 0.1 - ! встречается 1 раз → p(!) = 0.1 - Информационный вес конкретного символа x: I(x) = -log2 p(x). - I(@) = -log2(0.3) ≈ 1.737 бит - I(3) = -log2(0.2) ≈ 2.322 бит - I(%) = -log2(0.2) ≈ 2.322 бит - I(F) = -log2(0.1) ≈ 3.322 бит - I(0) = -log2(0.1) ≈ 3.322 бит - I(!) = -log2(0.1) ≈ 3.322 бит - Средняя информация на символ (энтропия источника) для этой строки: H = -∑ p(x) log2 p(x) = -[0.3·log2(0.3) + 0.2·log2(0.2) + 0.2·log2(0.2) + 0.1·log2(0.1) + 0.1·log2(0.1) + 0.1·log2(0.1)] ≈ 2.446 бит. Итак: - Если считать алфавит как множество уникальных символов и предполагать равные вероятности, информационный вес одного символа ≈ 2.585 бит. - Если же использовать реальные частоты символов из данной строки, то: - для конкретного символа вес I(x) различается (см. выше), - средний вес (энтропия) по строке ≈ 2.446 бит на символ.