50625

Метод градиентного спуска

Лабораторная работа

Математика и математический анализ

Минимизировать функцию fxy=x by expcx2 dy2 методом градиентного спуска. Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности Xk вычисляются по формуле Xk1=Xkk Pk k=012 где Pk направление спуска; длина шага в этом направлении.

Русский

2014-01-27

54.5 KB

36 чел.

Лабораторная работа

5

Тема

Метод градиентного спуска

Ф.И.О.

Пастухова Светлана Владимировна

Группа

403

Вариант

15

Минимизировать функцию f(x,y)=ax + by + exp(cx2 + dy2 ) методом градиентного спуска.

 N

a

b

c

d

15

15

-0.0

1.96

0.25

Рассмотрим задачу минимизации функции f(x)=f(x1 ,x2 ,..,xn ), заданной во всем n-мерном евклидовом пространстве E n.

Как правило, численные методы отыскания экстремума состоят в построении последовательности векторов { Xk }, удовлетворяющих условию: f( X1) > f(X2 ) >... > f(Xn ). Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности { Xk} вычисляются по формуле

Xk+1=Xk-k Pk, k=0,1,2,…,

где Pk направление спуска; k - длина шага в этом направлении.

Как известно, градиент функции в некоторой точке Xk направлен в сторону наискорейшего локального возрастания функции. Следовательно, при поиске минимума спускаться нужно по антиградиенту. Выбирая вектор антиградиента в качестве направления спуска,приходим к итерационному процессу вида

Xk+1=Xk-k gradf(Xk)Pk.

В методе наискорейшего спуска величина k определяется из условия f( Xk - k gradf( Xk)=min f(Xk - α gradf(Xk)), 0, то есть на каждом шаге решается одномерная задача минимизации. Геометрическая интерпретация этого метода достаточно просто.Заметим, что на двух последовательных шагах направления спуска ортогональны.

Рассмотрим метод градиентного спуска с дроблением шага. Выбираем некоторое начальное значение X0. Затем выбираем некоторое k==const и на каждом шаге процесса (2) проверяем условие монотонности f(Xk+1 ) f(Xk ). Если это условие нарушается, то дробим до тех пор пока монотонность не восстановится. Время от времени полезно пробовать увеличить  с сохранением условия монотонности.

Для окончания счета можно использовать различные критерии. В данной работе итерации прекращаем, если ║grad f(X k+1)║ < ε. В этом случае полагаем X min=Xk+1. Здесь ║gradf║=

Порядок выполнения работы:

  1.  Построим график заданной функции:

ezsurf('15*x+(-0.0)*y+exp(1.96*x^2+0.25*y^2)')

  1.  Напишем программу минимизации данной функции методом градиентного спуска:

Получим:

min =[ -0.8695         0]

f(xmin)=  -7.6317

Заданная точность eps=0.001 достигнута за n=237 шагов.

  1.  При минимизации функции стандартными средствами MatLab

x = [0,-6];

min = fminsearch(@my_fun,x)

где x=[0,-6] – начальное приближение, а @my_fun:

function f = my_fun(x)

f =22*x(1)+0.6*x(2)+exp(5.02*x(1)^2+0.32*x(2)^2); 

Получим:

min =[-1.0167, 0.0974]

f(xmin)=  -8.7965


 

А также другие работы, которые могут Вас заинтересовать

17691. Теорія випромінювання Ейнштейна 19.17 KB
  Теорія випромінювання Ейнштейна Це по суті новий теоретичний вивід формули Планка. Нехай значення енергії які може набувати атом чи будьяка атомна система. Розглянемо багато однакових атомів у світловому полі яке є ізотропним і неполяризованим. Нехай і – кіль...
17692. Товсті та тонкі голограми 96.74 KB
  Товсті та тонкі голограми. Голографія набір технологій для точного запису відтворення і переформатування хвильових полів. Це спосіб одержання обємних зображень предметів на фотопластинці голограми за допомогою когерентного випромінювання лазера. Голограма фік
17693. Умови інтерференції двох хвиль 17.49 KB
  Умови інтерференції двох хвиль. Інтерференція – зміна середньої інтенсивності що обумовлена принципом суперпозиції. Для інтерференції хвиль необхідною умовою є їх когерентність: однакові частоти однаково поляризованілінійно стала в часі різниця фаз. ...
17694. Фазовий синхронізм у параметричних явищах 36.72 KB
  Фазовий синхронізм у параметричних явищах. Нелінійний доданок до поляризації середовища в нульовому наближені:перший доданок не залежить від часу так зване оптичне детектування. Другий доданок гармонічно змінюється з часом. З ним пов’язана генерація в нелінійному сер...
17695. Фізіологічні властивості ока 20.29 KB
  Фізичні та фізіологічні властивості зору. Гострота зору. Навпроти зіниці в сітківці знаходиться так звана жовта пляма в середині якої центральна ямка. Щільність зорових клітин паличок і колбочок в цьому місці найбільшатому тут найвища гострота зору. Акомодація
17696. Формула Планка 22.79 KB
  Формула Планка. Виводячи формулу для спектральної густини енергії рівноважного випромінювання Планк висунув гіпотезу про те що випромінення й поглинання світла речовиною відбувається не неперевно а кінцевими порціями які називаються квантами світла або енергії. ...
17697. Формули енергетичної світності Стефана-Больцмана і зміщення Віна 73.39 KB
  Формули енергетичної світності СтефанаБольцмана і зміщення Віна. Закон СтефанаБольцмана: Повна потужність теплового випромінювання зростає пропорційно четвертому ступеню абсолютної температури тіла. Енергетичною світністю R називається відношення потоку випр
17698. Формули Френеля 41.19 KB
  Формули Френеля Фомули Френеля визначають амплітуди й інтенсивності заломленої й відбитої хвилі при проходженні світла через плоску границю розділу двох середовищ із різними показниками заломлення. Формули Френеля справделиві в тому випадку коли границя розділу дв...
17699. Хвильове рівняння для металів 21.52 KB
  Хвильове рівняння для металів З рівн Максвела: та рівнянь: діелектр проникність електрична провідність хвильове рівняння = бо = Нехай вектор рівняння Гельмгольца для монохроматичної хвилі. Введемо