2.2  Модель системи передачі інформації

 

Розглянемо модель системи спостереження, перетворення, збору і зберігання інформації, що складається з двох джерел, між повідомленнями яких існує статистичний взаємозв'язок. Нехай джерело X задано моделлю - ансамблем повідомлень {x1, x2, …, xi, …, xk} і рядом розподілу P(X) їхніх ймовірностей, а джерело Y - ансамблем {y1, y2, …, yj, …, yl} і розподілом P(Y).

Ніяких обмежень на алфавіти X і Y не накладається. Вони можуть навіть збігатися (X=Y). Тоді можна аналізувати і враховувати взаємозв'язок між повідомленнями одного джерела, що рознесені за часом. Найбільш поширеною такою моделлю є послідовності елементарних повідомлень {xi}, умовна ймовірність p(xi/xi-1) кожного з яких залежить тільки від попереднього значення xi-1 за умови появи всіх i-1 повідомлень. Такі послідовності називають ланцюгами Маркова.

Алфавіти X і Y можуть і не збігатися (XY), хоча між їхніми елементами може бути встановлена взаємна відповідність. Джерело X описується моделлю - ансамблем повідомлень {xi} і рядом розподілу P(X). У той самий час джерело X може виступати як об'єкт спостереження для одержувача інформації Y і разом з ним утворювати нове джерело, яке описується моделлю - ансамблем {yj} і розподілом P(Y). Між джерелом X і спостерігачем Y існує канал зв'язку, на який впливають завади, що можуть порушити процес вибору спостерігачем Y повідомлень алфавіту yjY, що, у свою чергу, порушує відповідність між повідомленнями xiX і yjY.

Алфавіти X і Y можуть бути однакового (k=l) і неоднакового (kl) об'ємів. Звичайно розглядаються ситуації, коли k=l або  k<l. Система спостереження при k=l має природне пояснення. Спостерігач Y повинен реагувати повідомленнями yj (j=1, ..., l) на кожний стан джерела X, представлений повідомленням xi (i=1,...,k), при чому кожному повідомленню xi джерела X відповідає повідомлення yj з Y: x1y1, x2y2, …, xiyi, …, xkyk.

Дана модель показана на рис.1.3, за винятком елемента yl з Y, де l=k+1 (жирними лініями показані напрями взаємооднозначної відповідності XY).

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

У разі, коли джерелом X вибране деяке повідомлення xi, якому повинне відповідати повідомлення yj при i=j, то через вплив завад джерелом Y може бути вибране будь-яке з повідомлень yj, j=1…k з ймовірністю p(yj/xi), причому умовна імовірність правильного вибору повідомлення p(yi/xi). Інші повідомлення yj, що визначаються умовними ймовірностями p(yj/xi), де ij, є помилковими. Така модель дозволяє досліджувати систему передачі інформації з боку спостерігача Y.

Водночас таку систему можна досліджувати з позиції об'єкта спостереження X. Для цього потрібно знати факт вибору джерелом Y деякого повідомлення yj. Після цього можна з умовною імовірністю p(xi/yj) говорити, що об'єкт X знаходиться у стані xi. Це твердження правильне при i=j або неправильне при ij.

Існують ситуації, коли систему ускладнюють, вибираючи l>k (частіше l=k+1, див. рис. 1.3). При цьому повідомлення yl не відповідає ніякому з повідомлень xi і є ознакою особливого стану спостерігача Y - стирання повідомлення.

Взагалі статистична залежність джерела Y від джерела X задається матрицею прямих переходів повідомлень xi (i=1…k) джерела X в повідомлення yj (j=1…k) джерела Y:

 

 

 

 

 

P(Y/X)= X             Y

                               Y1           Y2           …            yi             …            yk

                x1            p(y1/x1)  p(y2/x1)  …            p (yj/x1)  …            p(yk/x1)

                x2            p(y1/x2)  p(y2/x2)  …            p(yj/x2)   …            p(yk/x2)

                …            …            …            …            …            …            …

                xi             p(y1/xi)   p(y2/xi)   …            p(yj/xi)    …            p(yk/xi)

                …            …            …            …            …            …            …

                xk            p(y1/xk)  p(y2/xk)  …            p(yj/xk)   …            p(yk/xk)

     (1.9)

На головній діагоналі цієї матриці розташовані умовні ймовірності прямої відповідності типу x1y1, x2y2, …, xkyk, які характеризують правильний вибір джерелом Y повідомлень (тобто відповідно до повідомлень джерела X).

Матриця (1.9) відображає вплив завад у каналі зв'язку між джерелом X і спостерігачем Y (рис.1.3). Якщо завади неістотні або відсутні, то маємо однозначну відповідність xiyj з умовної імовірності p(yi/xi)=1 для i=1…k, решта ймовірностей p(yi/xi)=0 для всіх ij.

Кожний рядок в (1.9) є спотвореним розподілом ймовірностей p(yj/xi) появи повідомлень yjY, причому для кожного рядка повинна виконуватися умова нормування

 

.                              (1.10)

 

Статистична залежність джерела X від джерела Y подається матрицею зворотних переходів типу xiyj з умовних ймовірностей p(xi/yj):

 

 

 

 

 

P(X/Y)= X             Y

                               y1            Y2           …            yi             …            yk

                x1            p(x1/y1)  p(x1/y2)  …            p(x1/yj)   …            p(x1/yk)

                x2            p(x2/y1)  p(x2/y2)  …            p(x2/yj)   …            p(x2/yk)

                …                                           …            …            …            …

                xi             p(xi/y1)   p(xi/y2)   …            p(xi/yj)    …            p(xi/yk)

                …                           …            …            …            …            …

                xk            p(xk/y1)  p(xk/y2)  …            p(xk/yj)   …            p(xk/yk)

           (1.11)

Матриця (1.11) складається з k розміщених стовпцями варіантів первинних розподілів ймовірностей ансамблю X, що на собі відчуває статистичний вплив повідомлень yj джерела Y. Для кожного такого розподілу виконується умова нормування

 

 .                             (1.12)

 

Отже, якщо задані ансамбль X і матриця прямих переходів (1.9), то, використовуючи безумовні імовірності P(X)={p(xi)}, за формулою (1.7) можна знайти матрицю сумісних ймовірностей

 

.     (1.13)

 

Виконавши у (1.13) згортку за i, дістанемо ряд розподілу безумовних ймовірностей P(Y)={p(yj)}, j=1…k:

 

,                              (1.14)

 

а виконавши згортку за j, - розподіл P(X)={p(xi)}, i=1…k:

.                              (1.15)