2.7  Пропускна здатність дискретного каналу. Основна теорема про кодування дискретного джерела

 

Максимально можлива швидкість передачі інформації по каналу називається пропускною здатністю, або ємністю  каналу зв'язку С.

Виходячи з виразів (1.34) і (1.43), дістанемо формулу

 

.        (1.49)

 

Очевидно, що вираз (1.49) досягає максимуму при абсолютній статистичній залежності джерел X, Y, тобто за відсутності або при малому рівні завад. У цьому випадку H(X/Y)=0, і оскільки ентропія максимальна у разі рівноімовірних повідомлень (1.4), то формула (1.49) набуває вигляду:

 

        .                        (1.50)

Вираз (1.50) визначає пропускну здатність за відсутності завад.

У разі, коли в каналі наявні завади, умовна ентропія на його вході і виході H(X/Y) знаходиться в діапазоні 0  H(X/Y)  H(X). Тоді пропускна здатність каналу визначається за формулою

 

 .                               (1.51)

 

При зменшенні рівня завад пропускна здатність каналу C прямує до максимального значення (1.50), а при збільшенні рівня завад – до нуля.

Основна теорема кодування дискретного джерела, сформульована і доведена К. Шенноном1, полягає в такому.

Припустимо, що при передачі інформації використовується канал без шуму. Розглянемо безнадмірні (рівноймовірні) вхідні повідомлення, що характеризуються максимальною ентропією H(X)max. У цьому випадку може бути досягнута максимальна швидкість передачі в каналі

 

,                              (1.52)

 

де V=1/T; T - тривалість передачі одного елементарного повідомлення (символу) xi; log2 k - максимальна ентропія джерела з алфавітом об'ємом k.

                Якщо статистична надлишковість джерела інформації більше нуля, то швидкість передачі інформації по каналу

 

.                                                              (1.53)

 

Як доведено К. Шенноном1, при будь-якій статистичній надмірності джерела інформації існує такий спосіб кодування повідомлень, при якому може бути досягнута швидкість передачі інформації по каналу без шуму, скільки завгодно близька до його пропускної здатності. Таким чином, умовою узгодженості джерела інформації і каналу передачі є відповідність продуктивності першого пропускній здатності другого.

Теорема Шеннона про кодування дискретного джерела за відсутності завад1 стверджує про таке.

Якщо пропускна здатність каналу без шуму перевищує швидкість створення джерелом повідомлень - його продуктивність, тобто

,

то існує спосіб кодування/ декодування повідомлень джерела з ентропією H(X), що забезпечує скільки завгодно високу надійність зіставлення прийнятих кодових комбінацій переданим, інакше - такого способу немає.

За наявності завад в каналі основна теорема кодування узагальнюється такою теоремою:

Якщо для будь-якого повідомлення дискретного джерела X задана ймовірність його спотворення в каналі , то для будь-якого  > 0 існує спосіб передачі інформації зі швидкістю

,

скільки завгодно близькою до

,

при якому ймовірність помилки в каналі буде менше . Цей спосіб утворює завадостійкий код.

Фано доведена зворотна теорема кодування джерела за наявності завад:

Якщо швидкість передачі інформації по каналу зв'язку з шумом , то можна знайти таке  > 0, що ймовірність помилки при передачі повідомлення при будь-якому методі кодування/ декодування буде не менше  (очевидно  зростає із зростанням ).