Сигнал S может быть подан на вход канала с вероятностью 0,6 и отсутствовать на входе с вероятностью 0,4. На выходе канала данный сигнал воспроизводится с вероятностью 0,8 и теряется с вероятностью 0,2. В случае отсутствия сигнала на входе с вероятностью 0,3 возможно появление ложного сигнала S на выходе.
Для начала, давайте построим диаграмму состояний и переходов канала.
Среднее количество информации о входном сигнале по фиксированному выходному сигналу может быть рассчитано с использованием формулы Шеннона-Хартли. Сначала необходимо найти энтропию источника информации, а затем вычислить условную энтропию. На основе этих значений можно определить среднее количество информации о входном сигнале.
Давайте начнем с построения диаграммы и далее перейдем к расчетам для определения среднего количества информации.