Доказательство теоремы о предельных вероятностях в цепи Маркова

 

§5. Доказательство теоремы о предельных вероятностях в цепи Маркова

 

Докажем сначала две леммы. Положим

 

Лемма 1. При любых существуют пределы

 

и

 

Доказательство. Используя уравнение (3) с получим

 

Таким образом, последовательности и монотонны и ограничены. Отсюда следует утверждение леммы 1.

 

Лемма 2. Если выполнены условия теоремы 2, то существуют постоянные , такие, что

 

 

Для любых

 

где , означает суммирование по всем , при которых положительно, а суммирование по остальным . Отсюда

 

. (12)

 

Так как в условиях теоремы 1 вероятности перехода при всех , то при любых

 

(13)

 

И в силу конечности числа состояний

 

(14)

 

Оценим теперь разность . Используя уравнение (3) с , , получим

 

=

 

.

 

 

Отсюда, используя (8)-(10), найдем

 

=.

 

Объединяя это соотношение с неравенством (14) , получим утверждение леммы.

 

Перейти к доказательству теоремы. Так как последовательности , монотонны, то

 

0<. (15)

 

Отсюда и из леммы 1 находим

 

Следовательно, при получи и

 

(16)

 

Положительность следует из неравенства (15). Переходя к пределу при и в уравнении (3), получим, что удовлетворяет уравнению (12). Теорема доказана.

 

 

 

 

 

 

6. Области применения  цепей Маркова

 

Цепи Маркова служат хорошим введением в теорию случайных процессов, т.е. теорию простых последовательностей семейства случайных величин, обычно зависящих от параметра, который в большинстве приложений играет роль времени. Она предназначена, главным образом, для полного описания как долговременного, так и локального поведения процесса. Приведем некоторые наиболее изученные в этом плане вопросы.

 

Броуновское движение и его обобщения - диффузионные процессы и процессы с независимыми приращениями. Теория случайных процессов способствовала углублению связи между теорией вероятностей, теорией операторов и теорией дифференциальных уравнений, что, помимо прочего, имело важное значение для физики и других приложений. К числу приложений относятся процессы, представляющие интерес для актуарной (страховой) математики, теории массового обслуживания, генетики, регулирования дорожного движения, теории электрических цепей, а также теории учета и накопления товаров.

 

Мартингалы. Эти процессы сохраняют достаточно свойств цепей Маркова, чтобы для них оставались в силе важные эргодические теоремы. От цепей Маркова мартингалы отличаются тем, что когда текущее состояние известно, только математическое ожидание будущего, но необязательно само распределение вероятностей, не зависит от прошлого. Помимо того, что теория мартингалов представляет собой важный инструмент для исследования, она обогатила новыми предельными теоремами теорию случайных процессов, возникающих в статистике, теории деления атомного ядра, генетике и теории информации.

 

Стационарные процессы. Самая старая из известных эргодических теорем, как отмечалось выше, может быть интерпретирована как результат, описывающий предельное поведение стационарного случайного процесса. Такой процесс обладает тем свойством, что все вероятностные законы, которым он удовлетворяет, остаются инвариантными относительно сдвигов по времени. Эргодическую теорему, впервые сформулированную физиками в качестве гипотезы, можно представить как утверждение о том, что при определенных условиях среднее по ансамблю совпадает со средним по времени. Это означает, что одну и ту же информацию можно получить из долговременного наблюдения за системой и из одновременного (и одномоментного) наблюдения многих независимых копий той же самой системы. Закон больших чисел есть не что иное, как частный случай эргодической теоремы Биркгофа. Интерполяция и предсказание поведения стационарных гауссовских процессов, понимаемых в широком смысле, служат важным обобщением классической теории наименьших квадратов. Теория стационарных процессов - необходимое орудие исследования во многих областях, например, в теории связи, которая занимается изучением и созданием систем, передающих сообщения при наличии шума или случайных помех.

 

Марковские процессы (процессы без последействия) играют огромную роль в моделировании систем массового обслуживания (СМО), а также в моделировании и выборе стратегии управления социально-экономическими процессами, происходящими в обществе.

 

Также цепь Маркова можно использовать для генерации текстов. На вход подается несколько текстов, затем строится цепь Маркова с вероятностями следования одних слов за другими и на основе данной цепи создается результирующий текст. Игрушка получается весьма занятной!

 

 

 

 

 

 

 

 

 

Заключение

 

Таким образом, в нашей курсовой работе речь шла о схеме цепей Маркова. Узнали, в каких областях и как она применяется, независимые испытания являются доказали теорему о предельных вероятностях в цепи Маркова, приводили примеры для типичной и однородной цепи Маркова, а так же для нахождения матрицы перехода.

 

Мы убедились в том, что схема цепей Маркова является непосредственным обобщением схемы независимых испытаний.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Список использованной литературы

 

1. Чистяков В.П. Курс теории  вероятностей. 6-е изд., испр. ? СПб.: Издательство «Лань», 2003. ? 272 с. ? (Учебник для вузов. Специальная литература).

2. Гнеденко Б.В. Курс теории  вероятностей.

3. Гмурман В.Е. Теория вероятностей и математическая статистика.

4. Вентцель Е.С. Теория вероятностей и ее инженерные приложения.

5. Колмогоров А.Н., Журбенко  И.Г., Прохоров А.В. Введение в теорию  вероятностей. ? Москва-Ижевск: Институт компьютерных исследований, 2003, 188 стр.

6. Кац М. Вероятность и смежные вопросы в физике.