Сколько бит нужно для записи одного кодового слова (символа алфавита)?

Цель: понять.

Решение (общий подход, без указания конкретного языка):

• Пусть размер алфавита равен N (количество разных символов).
• В k битах можно закодировать 2^k разных символов.
• Чтобы каждый символ можно было однозначно записать, нужно, чтобы 2^k ≥ N.
• Минимальное такое k находится как k = ceil(log2 N), то есть округление вверх до ближайшего целого.

Примеры:

• N = 2 → k = 1 (2^1 = 2).
• N = 4 → k = 2 (2^2 = 4).
• N = 26 (английский алфавит) → k = ceil(log2 26) = 5.
• N = 52 (верхний и нижний регистр) → k = 6.
• N = 33 (русский алфавит) → k = ceil(log2 33) = 6.
• N = 128 (ASCII) → k = 7 (иногда говорят 8 бит в одном байте, что чаще используют на практике).

Важно:

• Если вы знаете конкретный алфавит, подберите N и найдите k по формуле k = ceil(log2 N).
• Если N равно точной степени двойки, например N = 8, 16, 64, — то k = log2(N) без округления.

Итого: минимальное число бит для записи одного SYMBOL из алфавита размером N равно ceil(log2 N).