Задача нелинейного программирования. Безусловная оптимизация. - презентация

1 Задача нелинейного программирования. Безусловная оптимизация

2 Градиент: Матрица Гессе:

3 Оптимальная точка Необходимое условие максимума: - оптимальная точка Достаточное условие максимума: - отрицательно определена

4 Пример. Квадратичная функция

5 Аналитическое решение

6 Пример. Квадратичная функция

7 Траектория поиска решения - длина шага - вектор направления

8 Выбор длины шага Постоянный шаг: Алгоритм регулировки длины шага Использование методов одномерного поиска Оптимизация длины шага:

9 Правила остановки

10 Метод релаксации (покоординатного спуска/подъема) Метод Ньютона Метод наискорейшего спуска/подъема (градиентный) Метод сопряженных градиентов (Флетчера-Ривса) Методы переменной метрики (квазиньютоновские): Бройдена, ДФП (Дэвидона-Флетчера-Пауэла) Выбор направления

11 Метод релаксации

12 Шаг 1

13 Метод релаксации Шаг 2

14 Метод релаксации Шаг 3

15 Метод релаксации Шаг 4 Шаг 5

16 Метод релаксации Шаг 6 Шаг 7

17 Метод релаксации Оптимальная точка:

18 Метод релаксации

19 Метод Ньютона

20 Шаг 1

21 Метод Ньютона Для квадратичных функций метод Ньютона сходится за 1 шаг

22 Метод Ньютона

23 Метод наискорейшего подъема

24 Шаг 1

25 Метод наискорейшего подъема Шаг 2 Шаг 3

26 Метод наискорейшего подъема Шаг 4 Оптимальная точка:

27 Метод наискорейшего подъема

28 Метод сопряженных градиентов

29 Шаг 1

30 Метод сопряженных градиентов Шаг 2 Для квадратичных функций число шагов равно числу переменных

31 Метод сопряженных градиентов

32 Метод Бройдена

33 Шаг 1

34 Метод Бройдена Шаг 2

35 Метод Бройдена

36 Метод ДФП

37 Шаг 1

38 Метод ДФП Шаг 2

39 Метод ДФП