Вопросы и задания. 1. Что принято за минимальную единицу измерения информации? 2. Что нужно знать для определения информационного веса символа алфавита

Краткий ответ

1. За минимальную единицу измерения информации принят бит (1 бит — это одна двоичная цифра).
2. Чтобы найти информационный вес символа \(i\), нужно знать мощность алфавита \(N\) — количество различных символов в нём. Тогда \(i\) — наименьшее целое число, при котором выполняется \(N \le 2^{i}\).

Почему так

Шаг 1. Откуда берётся бит. Бит — одна двоичная цифра: 0 или 1, то есть всего два варианта. Это самая маленькая «порция» различения: она выбирает один из двух равновозможных вариантов, и дробить её дальше не на что. Более крупные единицы — просто упаковки битов: 1 байт = 8 бит, 1 Кбайт = 1024 байт \(= 2^{10}\) байт и так далее.

Шаг 2. Откуда берётся \(N \le 2^{i}\). Если на один символ отводится \(i\) бит, то из них можно составить ровно \(2^{i}\) разных кодов: 1 бит даёт 2 кода, 2 бита — 4, 3 бита — 8 (каждая позиция удваивает число вариантов). Значит, закодировать можно не больше \(2^{i}\) символов, поэтому \(N \le 2^{i}\). Отсюда: \[ i \text{ — наименьшее целое, для которого } 2^{i} \ge N. \] Если \(N\) — точная степень двойки, то \(i = \log_{2} N\).

Шаг 3. Примеры.

• \(N = 2\): \(2^{1} = 2\), значит \(i = 1\) бит.
• \(N = 256\): \(2^{8} = 256\), значит \(i = 8\) бит = 1 байт.
• Алфавит из 33 букв: \(2^{5} = 32 < 33\), а \(2^{6} = 64 \ge 33\), значит \(i = 6\) бит. Пяти бит не хватило бы — ими кодируются только 32 символа.

Проверка. Подставь найденное \(i\) обратно в неравенства: должно быть \(2^{i} \ge N\) и \(2^{i-1} < N\). Если оба выполняются, вес символа найден верно. Объём всего сообщения считается по формуле \(I = K \cdot i\), где \(K\) — число символов в сообщении.

Фрагмент вверху слева (\(I = ?\), \(K = 4096\)) обрезан условием — если нужно разобрать именно его, пришли кадр целиком.