20556

Градиентные методы. Свойства градиента

Доклад

Математика и математический анализ

При движении в направлении градиента мы приходим к максимуму функции при движении в обратном направлении антиградиента приходим к минимуму функции. Для поиска минимума целевой функции Rx задается начальная точка поиска x0 то есть 1 x0 задается значение переменных вектора х. 2 В начальной точке поиска x0 вычисляется градиент целевой функции его проекции то есть частные производные целевой функции по каждой переменной: 3 В направлении Антиградиента целевой функции производиться шаг и вычисляется значение переменной следующей точки...

Русский

2015-01-19

42 KB

4 чел.

 Градиентные методы

Эти методы построены на наличии свойства градиента функции показывать направление движения в сторону максимума или минимума. При движении в направлении градиента мы приходим к максимуму функции, при движении в обратном направлении антиградиента приходим к минимуму функции. Для поиска минимума целевой функции R(x) задается начальная точка поиска x0, то есть

1) x0 задается значение переменных вектора х. Рекомендации по выбору начальной точки поиска не существует. Они выбираются на основе интуиции и опыта инженера.

2) В начальной точке поиска- x0 вычисляется градиент целевой функции, его проекции, то есть частные производные целевой функции по каждой переменной:

3) В направлении Антиградиента целевой функции производиться шаг и вычисляется значение переменной следующей точки поиска.  где - величина рабочего шага.

В этой точке х1 вычисляется новое направление антиградиента функции, то есть вычисляется частные производные в этой точке и совершается следующий шаг в направлении антиградиента из точки х1  и т.д

Картинка

Движение в направлении антиградиента производиться до тех пор, пока частные производные не обратятся в ноль: это значит что в точке х* достигается экстремум функции скорость достижения в точке экстремума определяется величиной . При большом  сокращается объем вычислений связанный  с расчетом частных производных и сокращением количества направлений вектора антиградиента, но при большом  возможно «рыскание» вокруг точки оптимизации. При малом значении шага  этот недостаток исключается, но возрастает объем вычислений, связанный с расчетом частных производных. Обычно поступают так: задают начальное значение шага , с этим шагом переходят в следующую точку; вычисляют в ней вектор градиента и сравнивают это направление с направлением в предыдущей точке; если они существенно отличаются друг от друга, то шаг уменьшают. Рекомендуется определять величину шага  по отношению к К (по величине косинуса угла между векторами) в двух соседних точках:

В числителе- скалярное произведение градиентов в соседних точках. В знаменателе произведение их модулей.

Достоинства метода

Высокая скорость сходимости.

Недостатки:

1 Большой объем вычислений связанный с расчетом частных производных

2 При наличии у целевой функции нескольких точек экстремума, при поиске метод застревает в первой же точке экстремума.

3 Для выявления точки абсолютного глобального максимума или минимума нужно начинать движение из различных начальных точек.

В результате этого процесса выявляются все точки максимума или минимума и путем сравнения целевой функции в этих точках экстремума удается определить точку глобального оптимума. Для сокращения объема вычислений применяется метод наискорейшего спуска.


 

А также другие работы, которые могут Вас заинтересовать

17584. ПРОГРАММИРОВАНИЕ C ИСПОЛЬЗОВАНИЕМ ПРОГРАММ ФУНКЦИЙ MATHCAD 366 KB
  Лекция 3 Программирование c использованием программ функций MathCad Реализовать тот или иной алгоритм вычисления в пакете Mathcad можно двумя способами: вставляя соответствующие операторы или функции в текст документа Mathcad. Такой способ называется программированием в те...
17585. Программирование в программе-функции циклических алгоритмов 251 KB
  Лекция 3 Программирование в программефункции циклических алгоритмов Напомним что циклические алгоритмы или проще циклы содержат повторяющиеся вычисления зависящие от некоторой переменной. Такая переменная называется параметром цикла а сами повторяющиеся выч...
17586. МОДУЛЬНОЕ ПРОГРАММИРОВАНИЕ В MATHCAD 1.42 MB
  ЛЕКЦИЯ 4. Модульное программирование в Mathcad Общая идея модульного программирования состоит в следующем: реализации вычислительных процессов в виде отдельных программных единиц модулей; в обращении к этим модулям в других программах с передачей данных необход
17587. ПРИЛОЖЕНИЯ ПАКЕТА MATHCAD В ЗАДАЧАХ ЛИНЕЙНОЙ АЛГЕБРЫ И МАТЕМАТИЧЕСКОГО АНАЛИЗА 268 KB
  ЛЕКЦИЯ 5. Приложения пакета Mathcad в задачах линейной алгебры и математического анализа 4.1 Задачи линейной алгебры в среде пакета Mathcad. 4.1.1 Определение и ввод матрицы в рабочий документ Mathcad Чтобы определить матрицу нужно: ввести с клавиатуры имя матрицы и знак п...
17588. Интегратор приложений MathConnex 397 KB
  ЛЕКЦИЯ 6. 5. Интегратор приложений MathConnex 5.1 Назначение MathConnex MathConnex новое средство примененное в системе MathCAD 7. 0 PRO. Оно выполняет две важнейшие и чрезвычайно мощные функции: служит для интеграции различных приложений с системой MathCAD и обеспечения их совместной ...
17589. Аппроксимация функций 676 KB
  Лекция 7 Аппроксимация функций Введение Когда обрабатывается выборка экспериментальных данных то они чаще всего представляются в виде массива состоящего из пар чисел xiyi. Поэтому возникает задача аппроксимации дискретной зависимости yxi непрерывной функц...
17590. Статистика. Абсолютные и относительные статистические величины 184 KB
  1. Статистика. Основные понятия 2.Статистический показатель система показателей. 3. Статистическая совокупность. 4. Группировка статистических данных и ее роль в анализе информации 5. Статистическая таблица. 6. Статистический график 7. Абсолютные и относительные ст...
17591. Ряды распределения. Показатели вариации 310.5 KB
  ТЕМА 3 Ряды распределения. Показатели вариации ПЛАН ЛЕКЦИИ 1. Понятие рядов распределения. 2. Характеристики центра распределения. Средние величины. 3. Характеристики вариации. 4. Характеристики формы распределения. 1. Понятие рядов распределения 1. В результате ...
17592. Выборочное наблюдение. Особенности малой выборки 201 KB
  11 ТЕМА 4 Выборочное наблюдение ПЛАН ЛЕКЦИИ 1. Статистическое наблюдение 2. Выборочное наблюдение причины и условия его применения. 3. Виды и схемы выборки. 4. Ошибки выборки. 5. Определение необходимой численности выборки. 6. Особенности малой вы