Исследование простого градиентного метода

Автор работы: Пользователь скрыл имя, 18 Февраля 2013 в 23:37, дипломная работа

Краткое описание

В теории управления эти методы, как правило, являются вспомогательными.
Например, в теории адаптивных систем широко применяется процедура градиентного метода. В теории нейронных сетей при настройке нейронных моделей часто используются метод наискорейшего спуска, метод Ньютона, квазиньютоновские методы и метод сопряженных градиентов. Кроме этого, безусловная оптимизация используется при решении задач связанных с оптимизацией химико-технологических систем при оперативном управлении в АСУТП.

Вложенные файлы: 1 файл

Мой диплом - Исследование простого градиентного метода.doc

— 2.18 Мб (Скачать файл)

 

 

Таблица 9 - Значения второй координаты x(2) в процессе поиска минимума

1) 2.8500   

2) 1.7946   

3) 0.2109   

4) 0.0359  

5) -0.2267  

6) -0.2557  

7) -0.2992  

8) -0.3041  

9) -0.3113  

10) -0.3121                    

11) -0.3133  

12) -0.3134  

13) -0.3136  

14) -0.3136  

15) -0.3137 

16) -0.3137 

17) -0.3137 

18) -0.3137 

19) -0.3137 

20) -0.3137 


Исследование  показало, что в системе координат без преобразования процесс сходимости проходит быстрее, так как минимум функции определяется за меньшее количество шагов.

 

2.1.3 Исследование метода Ньютона.

 

Удостовериться, что метод Ньютона сойдется за один шаг.

Открыть папку Кв_форма, затем М_Ньютона,  в ней, соответствуя своему варианту, проверить сходимость метода сначала без преобразования, а затем в преобразованной системе координат. Результаты свести в таблицу. Сделать выводы.

 

а) Метод Ньютона в системе координат без преобразования:

 

Сходимость  метода Ньютона показана на рисунке 12. Значения координат в процессе поиска минимума сведены в таблицы 10 и 11.

 

 

Рисунок 12 - Сходимость метода Ньютона в системе координат без преобразования

 

Собственные числа  матрицы Гессе

 

zh =  0.7700

         4.0000

 

Величина оптимального шага

 

m =0.4193

 

Минимальные значения аргумента

 

xmin = -0.1250

           -0.6494

 

 

Таблица 10 - Значения первой координаты x(1) в процессе поиска минимума

1) -4.0000  

2) -0.1250  


 

 

Таблица 11 - Значения второй координаты x(2) в процессе поиска минимума

1) 2.8500  

2) -0.6494  


 

 

б). Метод Ньютона в преобразованной системе координат:

 

Сходимость  метода Ньютона показана на рисунке 13. Значения координат в процессе поиска минимума сведены в таблицы 12 и 13.

 

 

Рисунок 13 - Сходимость метода Ньютона в преобразованной системе координат

 

a = 0.7800    0.1370

     0.1370    0.3677

 

b = 1.0500

       0.4000

 

Собственные числа  матрицы Гессе

zh = 0.3263

        0.8214

 

Величина оптимального шага

m =1.7426

 

Минимальные значения аргумента

 

xmin = -0.6180

            -0.3137

 

Таблица 12- Значения первой координаты x(1) в процессе поиска минимума

1) -4.0000  

2) -0.6180  


 

 

Таблица 13 - Значения второй координаты x(2) в процессе поиска минимума

1) 2.8500  

2) -0.3137  


 

 

Метод Ньютона в соответствии с теорией действительно сошелся за один шаг не зависимо от системы координат. Это видно из рисунков 12 и 13, а также по данным таблиц 10, 11, 12 ,13.

 

 

2.1.4 Исследование метода сопряженных градиентов

 

Удостовериться, что метод сопряженных градиентов сойдется за два шага.

Открыть папку Кв_форма, затем М_сопр_град,  в ней, соответствуя своему варианту, проверить сходимость метода сначала без преобразования, а затем в преобразованной системе координат. Результаты свести в таблицу. Сделать выводы.

 

а) Метод сопряженных градиентов в системе координат без преобразования:

 

Сходимость  метода сопряженных градиентов показана на рисунке 14. Значения координат в процессе поиска минимума сведены в таблицы 14и 15.

 

Рисунок 14 - Сходимость метода сопряженных градиентов в системе координат без преобразования

 

Собственные числа  матрицы Гессе

zh =0.7700

       4.0000

 

Величина оптимального шага

m =0.4193

 

Минимальные значения аргумента

xmin =-0.1250

           -0.6494

 

Таблица 14 - Значения первой координаты x(1) в процессе поиска минимума

1) 1.0000  

2) -0.4297  

3) -0.1250


 

 

Таблица 15 - Значения второй координаты x(2) в процессе поиска минимума

1) 2.8500   

2) 1.9939  

3) -0.6494


б) Метод сопряженных градиентов в преобразованной системе координат:

 

Сходимость  метода сопряженных градиентов показана на рисунке 15. Значения координат в процессе поиска минимума сведены в таблицы 16 и 17.

 

 

Рисунок 15 - Сходимость метода сопряженных градиентов в преобразованной системе координат

 

a =0.7800    0.1370

    0.1370    0.3677

 

b = 1.0500

      0.4000

 

Собственные числа  матрицы Гессе

 

zh =0.3263

       0.8214

 

Величина оптимального шага

m =1.7426

 

Минимальные значения аргумента

xmin =-0.6180

           -0.3137

 

 

Таблица 16 - Значения первой координаты x(1) в процессе поиска минимума

1.0000  

-1.2629  

-0.6180


 

 

Таблица 17 - Значения второй координаты x(2) в процессе поиска минимума

2.8500   

1.0015

-0.3137


 

 

Метод сопряженных  градиентов в соответствии с теорией  действительно сошелся за два шага не зависимо от системы координат. Это видно из рисунков 14 и 15, а также по данным таблиц 14, 15, 16, 17.

 

2.2 Целевая функция в виде функции Розенброка

 

В качестве произвольной взята функция Розенброка:

 

F(x1,x2)=(x1-1)2+100(x2-x12)2

 

Таблица 18 – Варианты для Розенброка

Начальное условие, е

1

[2 -0.5]

2

[2 1.5]

3

[1 2]

4

[-1 -2]

5

[0.3 1]

6

[1.5 -2]

7

[3 2]

8

[2 1.8]


2.2.1 Исследование простого градиентного метода

 

Исследуем влияние  изменения величины шага на количество шагов (путь) при поиске минимума.

Для этого в  программе  MATLAB, открыв папку Розенброк, в ней Гр_метод, будем менять численное значение шага. Результаты исследования свести в таблицу и построить график зависимости величины шага от скорости сходимости. Сделать выводы.

Результаты  сведены в таблицу 19.

Зависимость скорости сходимости от величины задаваемого  шага наглядно видна на рисунке 16. Сходимость простого градиентного метода при оптимальном шаге представлена на рисунке 17 .

 

Оптимальный шаг  для этого метода равен 0,0019, так как при нем поиск минимума проходит за меньшее количество шагов (2500 шагов). Сходимость для оптимального шага показана на рисунке 18.

При численном  значении шага большем 0,002 процесс поиска минимума становится неустойчивым.

 

 

Таблица 19 - Результаты исследования простого градиентного метода

Задаваемая  величина шага, α

 

0,0006

 

0,0008

 

0,00089

 

0,0009

 

0,001

 

0,0018

 

0,0019

 

0,002

Скорость сходи-мости, коли-чество шагов, n

 

19000

 

11000

 

4500

 

4000

 

14000

 

7000

 

2500

 

4500


 

 

Рисунок16 - зависимость скорости сходимости от величины шага.

 

 

 

Рисунок 17 - Сходимость простого градиентного метода при оптимальном шаге

 

Рисунок 18 - Сходимость для оптимального шага

 

 

Исследовав  простой градиентный метод, используя в качестве целевой функцию Розенброка, увидели, что процесс сходимости проходит гораздо медленнее, чем тот, где целевая функция задана в виде квадратичной формы.

 

2.2.2 Исследование метода наискорейшего спуска

 

В пакете MATLAB открыть папку Розенброк, затем Метод_наиск_спуска, открыв в ней свой вариант, исследовать сходимость. Вставить рисунки показывающие процесс сходимости и изменение величины шага при поиске минимума. Сделать выводы.

 

Наглядные результаты сходимости метода наискорейшего спуска для второго варианта показаны на рисунке 19 и 20. Изменение величины шага при поиске минимума представлено на рисунке 21.

Рисунок 19 - Сходимость метода наискорейшего спуска

 

Рассчитанные  точные конечные значения x =1.0000

                                                                        1.0000

Рисунок 20 - Сходимость метода наискорейшего спуска

Рисунок 21 - Изменение величины шага при поиске минимума

 

 

Если сравнивать метод наискорейшего спуска с  простым градиентным методом, то первый показал лучшие результаты, так как дал более высокую скорость сходимости.

Для функции  Розенброка метод наискорейшего  спуска показал скорость сходимости намного хуже, чем при задании  целевой функции в виде квадратичной формы.

 

 

 

 

 

 

 

 

 

 

 

 

  1. СТАНДАРТИЗАЦИЯ

Структура и содержание пояснительной записки дипломного проекта соответствуют требованиям СТП СПбГТИ 0.17-99 «КС УКДВ. Виды учебных занятий. Положение о выпускной квалификационной работе дипломированного специалиста (инженера). Общие требования».

ГОСТ 2.000 – 69 ЕСКД Основные положения

ГОСТ 2.104 – 68 ЕСКД Основные надписи

ГОСТ 2.103 – 68 ЕСКД Стадии разработки

ГОСТ 2.106 – 68 ЕСКД Текстовые документации

ГОСТ 2.300 – 68 ЕСКД Форматы

ГОСТ Р 01–2007 Библиографическое описание документа. Примеры оформления

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ЗАКЛЮЧЕНИЕ

 

Дипломная работа посвящена исследованию методов  безусловной оптимизации применительно  к задачам управления.

В     ходе    проведенной    работы    были   созданы программы  в пакете MATLAB для исследования методов безусловной оптимизации. На их основе создан лабораторный практикум, состоящий из восьми вариантов. Поставленная задача решена. Проведены исследования по методам оптимизации на примере второго варианта.

Для квадратичной формы простой градиентный  метод показал более высокую  скорость сходимости в преобразованной системе координат. Метод Ньютона в соответствии с теорией действительно сошелся за один шаг не зависимо от преобразований. Метод сопряженных градиентов также  доказал свое соответствие теории, показав сходимость за два шага.

Для функции  Розенброка метод наискорейшего  спуска показал скорость сходимости намного хуже, чем при задании  целевой функции в виде квадратичной формы.

Информация о работе Исследование простого градиентного метода