50625

Метод градиентного спуска

Лабораторная работа

Математика и математический анализ

Минимизировать функцию fxy=x by expcx2 dy2 методом градиентного спуска. Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности Xk вычисляются по формуле Xk1=Xkk Pk k=012 где Pk направление спуска; длина шага в этом направлении.

Русский

2014-01-27

54.5 KB

34 чел.

Лабораторная работа

5

Тема

Метод градиентного спуска

Ф.И.О.

Пастухова Светлана Владимировна

Группа

403

Вариант

15

Минимизировать функцию f(x,y)=ax + by + exp(cx2 + dy2 ) методом градиентного спуска.

 N

a

b

c

d

15

15

-0.0

1.96

0.25

Рассмотрим задачу минимизации функции f(x)=f(x1 ,x2 ,..,xn ), заданной во всем n-мерном евклидовом пространстве E n.

Как правило, численные методы отыскания экстремума состоят в построении последовательности векторов { Xk }, удовлетворяющих условию: f( X1) > f(X2 ) >... > f(Xn ). Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности { Xk} вычисляются по формуле

Xk+1=Xk-k Pk, k=0,1,2,…,

где Pk направление спуска; k - длина шага в этом направлении.

Как известно, градиент функции в некоторой точке Xk направлен в сторону наискорейшего локального возрастания функции. Следовательно, при поиске минимума спускаться нужно по антиградиенту. Выбирая вектор антиградиента в качестве направления спуска,приходим к итерационному процессу вида

Xk+1=Xk-k gradf(Xk)Pk.

В методе наискорейшего спуска величина k определяется из условия f( Xk - k gradf( Xk)=min f(Xk - α gradf(Xk)), 0, то есть на каждом шаге решается одномерная задача минимизации. Геометрическая интерпретация этого метода достаточно просто.Заметим, что на двух последовательных шагах направления спуска ортогональны.

Рассмотрим метод градиентного спуска с дроблением шага. Выбираем некоторое начальное значение X0. Затем выбираем некоторое k==const и на каждом шаге процесса (2) проверяем условие монотонности f(Xk+1 ) f(Xk ). Если это условие нарушается, то дробим до тех пор пока монотонность не восстановится. Время от времени полезно пробовать увеличить  с сохранением условия монотонности.

Для окончания счета можно использовать различные критерии. В данной работе итерации прекращаем, если ║grad f(X k+1)║ < ε. В этом случае полагаем X min=Xk+1. Здесь ║gradf║=

Порядок выполнения работы:

  1.  Построим график заданной функции:

ezsurf('15*x+(-0.0)*y+exp(1.96*x^2+0.25*y^2)')

  1.  Напишем программу минимизации данной функции методом градиентного спуска:

Получим:

min =[ -0.8695         0]

f(xmin)=  -7.6317

Заданная точность eps=0.001 достигнута за n=237 шагов.

  1.  При минимизации функции стандартными средствами MatLab

x = [0,-6];

min = fminsearch(@my_fun,x)

где x=[0,-6] – начальное приближение, а @my_fun:

function f = my_fun(x)

f =22*x(1)+0.6*x(2)+exp(5.02*x(1)^2+0.32*x(2)^2); 

Получим:

min =[-1.0167, 0.0974]

f(xmin)=  -8.7965


 

А также другие работы, которые могут Вас заинтересовать

3782. Жизнь и творчество Пабло Пикассо 116.5 KB
  Введение Актуальность выбранной темы я вижу в том, что немногим удавалось достичь такой популярности и силы воздействия на искусство ХХ в., как Пабло Пикассо, родившемуся почти 120 лет назад на юге Испании. Он прожил долгую и плодотворную жизнь. Ког...
3783. Жизнь Льва Ивановича Иванова 44.5 KB
  Жизнь Льва Ивановича Иванова сложилась нелегко, как складывалась жизнь многих русских талантов. Незаконно рожденный, он провёл первые три года в петербургском воспитательном доме, затем был усыновлен отцом и позже отдан в театральное училище. В 1850 г...
3786. Жизнь и творчество Карла Брюллова 307.2 KB
  Введение В развитии искусства, в характере и особенностях отдельных его направлений большая роль принадлежит творческим личностям художников, которых история называла великими или замечательными. Этот художники своей деятельностью участвуют в формир...
3787. Илья Репин 53 KB
  Репин родился в 1884 году в маленьком украинском городке Чугуеве, недалеко от Харькова, в семье военного поселянина. С родными местами связаны первые жизненные и художественные впечатления Репина, здесь же он получил и первые профессиональные навыки...
3788. Жизнь и творчество художника А.П. Лежнева 41.5 KB
  Вступление Изобразительное искусство в Башкортостане, как и другие виды искусства, имеет свои истоки. Это – народная традиция, которая нашла отражение в орнаментах, украшениях, узорах, формах предметов бытового назначения. Их цвета созвучны бог...
3789. Жизнь и творчество И.В. Шишкина 103 KB
  Шишкин родился 13 (25) января 1832 года в Елабуге - маленьком городке, расположенном на высоком берегу Камы. Впечатлительный, любознательный, одаренный мальчик нашел незаменимого друга в своем отце. Небогатый купец, И. В. Шишкин был человеком разнос...
3790. Суйменкул Чокморов. Жизнь и творческий путь Суйменкула Чокморова 46.5 KB
  В конце шестидесятых годов кыргызское киноискусство достигло всемирной известности: тогда мировая печать заговорила о чуде кыргызского кино. Именно в эти годы начал свою кинодеятельность Суйменкул Чокморов. Если Ч. Айтматов, Б. Шамшиев, ...