Исследование источника дискретной информации

Автор работы: Пользователь скрыл имя, 20 Ноября 2013 в 20:44, лабораторная работа

Краткое описание

Длина сообщения в эффективном кодировании меньше, чем в равномерном, следовательно, увеличивается скорость передачи информации. Так же энтропия источника становится больше, что обуславливает большее количество информации на один символ, и коэффициент избыточности уменьшается, чем характеризуется меньшей потери информации.

Скачать в ZIP архиве (29.22 Кб) Сколько стоит заказать работу?

Вложенные файлы: 1 файл

ТПС лаб 1.docx

— 31.64 Кб (Скачать файл)

Федеральное агентство железнодорожного транспорта

Уральский государственный университет путей сообщения

Кафедра «Связь»

Лабораторная работа №1

по дисциплине «Теория передачи сигналов»

на тему «Исследование источника дискретной информации»

Проверил Выполнил

преподаватель студент гр. СОа 311

Масленко Н.В. Рычков Д.А.

Екатеринбург,

2013

Исследование источника дискретной информации.

Вариант – 16.

Задание 1.

Сообщение: 3343334331144414133341334433343341444413444144334113333131431434331343313344413331444431433434333311

L_A = 100
m_A = 3
Определим вероятность появления символов P(a_i):

a_i	N(a_i)	P(a_i)
1	20	0,2
3	45	0,45
4	35	0,35

Определим тип источника:

a_ia_j	N(a_ia_j)	P(a_ia_j)	P(a_i)P(a_j)
11	3	0,03	0,04
13	9	0,09	0,09
14	8	0,08	0,07
31	9	0,09	0,09
33	23	0,23	0,2
34	13	0,13	0,16
41	8	0,08	0,07
43	13	0,13	0,16
44	14	0,14	0,12

Т.к. вероятность появления совместных символов не равна вероятности произведения этих символов, то данный источник со статическими связями (марковский).

Найдем энтропию источника:

H_(A/A’) = –P₁_[P₁₁log₂P₁₁ + P₁₃log₂P₁₃ + P₁₄log₂P₁₄] – P₃_[P₃₁log₂P₃₁ + P₃₃log₂P₃₃+ + P₃₄log₂P₃₄] –P₄_[P₄₁log₂P₄₁ + P₄₃log₂P₄₃ + P₄₄log₂P₄₄] = –0,2_[0,03log₂(0,03) + +0,09log₂(0,09) + 0,08log₂(0,08)] –0,45_[0,09log₂(0,09) + 0,23log₂(0,23) + +0,13log₂(0,13)] – 0,35_[0,08log₂(0,08) + 0,13log₂(0,13) + 0,14log₂(0,14)] = =0,2_[–0,15 – 0,31 – 0,29] –0,45_[–0,31 –0,49 –0,38] –0,35_[–0,29–0,3–0,39] = = 0,15 + 0,53 + 0,37 = 1,05 .

Найдем минимальное число двоичных символов необходимых для кодирования данного сообщения:

Поскольку общее количество информации в сообщении после кодера не изменяется, то должно выполняться равенство:

H(A)_L_A = H(A)_max_L_Amin;

H(A)_max = log₂(m_a) = log₂3 = 1,58;

L_Amin = = 66,2.

Найдем избыточность источника информации:

r = 1 – = 1 – = 0,34.

Составим равномерный двоичный код:

1 – 00

3 – 01

4 – 10

L_A’ = 200.

Составим эффективный двоичный код по методу Шеннона-Фано:

a_i	P(a_i)	Эл. код. комб.		Кодовая комб.
3	0,45	0		0
4	0,35	1 1	0	10
1	0,2	1 1	1	11

Составим заданное сообщение в двоичный эффективный код:

001000010001111101010111011000101100101000010001011101010101101101010111010001011110000110111001110010001101000110010101011000111010101001110001001000001111

L_A” = 155.

Сравним это значение со значением равномерного двоичного кода:

L_A” = 155 < L_A’ = 200.

Найдем остаточную избыточность:

a_i	N(a_i)	P(a_i)
0	79	0,51
1	76	0,49

a_ia_j	N(a_ia_j)	P(a_ia_j)	P(a_i)P(a_j)
00	36	0,23	0,26
01	44	0,28	0,25
10	44	0,28	0,25
11	31	0,2	0,24

H(A/A’) = –P(0)_[P(00)log₂P(00) + P(01)log₂P(01)] – P(1)_[P(10)log₂P(10) + +P(11)log₂P(11)] = –0,51_[–0,45 – 0,52] –0,49_[–0,51 – 0,46] = 0,49 + 0,48 = =0,97 .

H(A)_max = log₂(m_a) = log₂2 = 1;

L_Amin = = 150,3;

r = 1 – = 1 – = 0,03.

Задание 2.

Рычков_Денис_Александрович_

L_A = 27.

m_A = 14.

Равномерное кодирование:

a_i	N(a_i)	P(a_i)	2ⁿ14, n = 4
Р	2	0,07	0000
Ы	1	0,03	0001
Ч	2	0,07	0010
К	2	0,07	0011
О	2	0,07	0100
В	2	0,07	0101
_	3	0,11	0110
Д	2	0,07	0111
Е	2	0,07	1000
Н	2	0,07	1001
И	2	0,07	1010
С	2	0,07	1011
А	2	0,07	1100
Л	1	0,03	1101

Составим сообщение в равномерном кодировании:

000000010010001101000101011001111000100110101011011011001101100000111011110010010111000001000101101000100110

L_A’ = 108

m_A = 2

a_i	N(a_i)	P(a_i)
0	60	0,56
1	48	0,44

a_ia_j	N(a_ia_j)	P(a_ia_j)	P(a_i)P(a_j)
00	32	0,3	0,31
01	28	0,26	0,25
10	28	0,26	0,25
11	20	0,18	0,19

Источник со статическими связями.

H(A/A’) = –P(0)_[P(00)log₂P(00) + P(01)log₂P(01)] – P(1)_[P(10)log₂P(10) + +P(11)log₂P(11)] = –0,56_[–0,52 – 0,5] –0,44_[–0,5 – 0,44] = 0,57 + 0,41 = =0,98 .

H(A)_max = log₂(m_a) = log₂2 = 1;

L_Amin = = 105,8;

r = 1 – = 1 – = 0,02.

Составим эффективный двоичный код:

a_i	P(a_i)	Эл. код. комб.					Кодовая комб.
_	0,11	0 0 0 0 0 0	0 0 0	0			000
Р	0,07			1 1	0		0010
Ч	0,07			1 1	1		0011
К	0,07		1 1 1	0			010
О	0,07			1 1	0		0110
В	0,07			1 1	1		0111
Д	0,07	1 1 1 1 1 1 1 1	0 0 0	0			100
Е	0,07			1 1	0		1010
Н	0,07			1 1	1		1011
И	0,07		1 1 1 1 1	0 0	0		1100
С	0,07			0 0	1		1101
А	0,07			1 1 1	0		1110
Ы	0,03				1 1	0	11110
Л	0,03				1 1	1	11111

Составим сообщение в эффективный двоичный код:

001011110001101001100111000100101010111100110100011101111110100101101111010111000010011001111000011000

L_A” = 103.

m_A = 2.

a_i	N(a_i)	P(a_i)
0	48	0,47
1	55	0,53

a_ia_j	N(a_ia_j)	P(a_ia_j)	P(a_i)P(a_j)
00	23	0,22	0,22
01	25	0,24	0,25
10	25	0,24	0,25
11	30	0,29	0,28

H(A/A’) = –P(0)_[P(00)log₂P(00) + P(01)log₂P(01)] – P(1)_[P(10)log₂P(10) + +P(11)log₂P(11)] = –0,47_[–0,48 – 0,49] –0,53_[–0,49 – 0,52] = 0,46 + 0,53 = =0,99 .

H(A)_max = log₂(m_a) = log₂2 = 1;

L_Amin = = 101,97;

r = 1 – = 1 – = 0,01.

Выводы по работе

Информация о работе Исследование источника дискретной информации