2.5  Продуктивність дискретного джерела інформації. Швидкість передачі інформації

 

Нехай дискретне джерело X видає послідовність повідомлень {xi}, заданих рядом ймовірностей {pi}.

Якщо джерелом вибирається одне повідомлення xi, то ним виробляється певна кількість інформації (1.1). Тоді швидкість утворення джерелом інформації повідомлень - продуктивність джерела щодо конкретного повідомлення можна визначити так:

 

,                                              (1.32)

 

де через i позначено проміжок часу вибору повідомлення xi.

Оскільки джерелом за деякий часовий інтервал вибирається велика кількість повідомлень і в загальному випадку ij, то продуктивність джерела інформації прийнято характеризувати середнім значенням

 

,                              (1.33)

 

де сер – середній час вибору джерелом одного повідомлення.

Отже, продуктивність джерела інформації визначається середньою кількістю інформації, що виробляється джерелом за одиницю часу.

Повідомлення xi передається по каналу зв'язку спостерігачеві Y, роль якого відіграє приймальний пристрій. Вибір повідомлень yjY джерелом Y характеризує процес передачі інформації по каналу зв'язку від джерела X на вихід джерела Y. При цьому взаємна кількість інформації I(X, Y) - це середня кількість інформації про стан джерела X, що міститься в одному повідомленні джерела Y.

Оскільки на вибір кожного повідомлення yj джерелом Y витрачається час , то швидкість передачі інформації по каналу зв'язку знаходиться за формулою

 

.                                              (1.34)