50625

Метод градиентного спуска

Лабораторная работа

Математика и математический анализ

Минимизировать функцию fxy=x by expcx2 dy2 методом градиентного спуска. Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности Xk вычисляются по формуле Xk1=Xkk Pk k=012 где Pk направление спуска; длина шага в этом направлении.

Русский

2014-01-27

54.5 KB

36 чел.

Лабораторная работа

5

Тема

Метод градиентного спуска

Ф.И.О.

Пастухова Светлана Владимировна

Группа

403

Вариант

15

Минимизировать функцию f(x,y)=ax + by + exp(cx2 + dy2 ) методом градиентного спуска.

 N

a

b

c

d

15

15

-0.0

1.96

0.25

Рассмотрим задачу минимизации функции f(x)=f(x1 ,x2 ,..,xn ), заданной во всем n-мерном евклидовом пространстве E n.

Как правило, численные методы отыскания экстремума состоят в построении последовательности векторов { Xk }, удовлетворяющих условию: f( X1) > f(X2 ) >... > f(Xn ). Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности { Xk} вычисляются по формуле

Xk+1=Xk-k Pk, k=0,1,2,…,

где Pk направление спуска; k - длина шага в этом направлении.

Как известно, градиент функции в некоторой точке Xk направлен в сторону наискорейшего локального возрастания функции. Следовательно, при поиске минимума спускаться нужно по антиградиенту. Выбирая вектор антиградиента в качестве направления спуска,приходим к итерационному процессу вида

Xk+1=Xk-k gradf(Xk)Pk.

В методе наискорейшего спуска величина k определяется из условия f( Xk - k gradf( Xk)=min f(Xk - α gradf(Xk)), 0, то есть на каждом шаге решается одномерная задача минимизации. Геометрическая интерпретация этого метода достаточно просто.Заметим, что на двух последовательных шагах направления спуска ортогональны.

Рассмотрим метод градиентного спуска с дроблением шага. Выбираем некоторое начальное значение X0. Затем выбираем некоторое k==const и на каждом шаге процесса (2) проверяем условие монотонности f(Xk+1 ) f(Xk ). Если это условие нарушается, то дробим до тех пор пока монотонность не восстановится. Время от времени полезно пробовать увеличить  с сохранением условия монотонности.

Для окончания счета можно использовать различные критерии. В данной работе итерации прекращаем, если ║grad f(X k+1)║ < ε. В этом случае полагаем X min=Xk+1. Здесь ║gradf║=

Порядок выполнения работы:

  1.  Построим график заданной функции:

ezsurf('15*x+(-0.0)*y+exp(1.96*x^2+0.25*y^2)')

  1.  Напишем программу минимизации данной функции методом градиентного спуска:

Получим:

min =[ -0.8695         0]

f(xmin)=  -7.6317

Заданная точность eps=0.001 достигнута за n=237 шагов.

  1.  При минимизации функции стандартными средствами MatLab

x = [0,-6];

min = fminsearch(@my_fun,x)

где x=[0,-6] – начальное приближение, а @my_fun:

function f = my_fun(x)

f =22*x(1)+0.6*x(2)+exp(5.02*x(1)^2+0.32*x(2)^2); 

Получим:

min =[-1.0167, 0.0974]

f(xmin)=  -8.7965


 

А также другие работы, которые могут Вас заинтересовать

74832. Поэтическая образность «Слова о полку Игореве». Композиция «Слова о полку Игореве», лирические и публицистические отступления 19.8 KB
  В нем автор размышляет о художественных принципах наложения материала и как бы ведет диалог с читателем. Далее автор переходит к повествованию о событиях похода. Автор дает краткий эмоционально приподнятый рассказ о первом столкновении русских с половцами и о богатых трофеях взятых русскими. В описании битвы автор сосредоточивает внимание на героической фигуре буйтура Всеволода и ограничивается упоминанием об Игоре который пытается вернуть на поле боя бегущих ковуев.
74833. Моление Даниила Заточника: своеобразие памятника, его обличительный пафос, антибоярская и антиклерикальная направленность 16.22 KB
  Моление Даниила Заточника адресовано князю Ярославу Всеволодовичу Переяславскому княжившему с 1213 по 1236 г. Сам же Даниил выступает сторонником сохранения холопства. Бояр Даниил относит к злым господам которые попирают человеческое достоинство своих слуг.
74834. Повести о татарском нашествии. «Повесть о битве на реке Калке» (1223 г.), «Повесть о приходе Батыя на Рязань» (1237 г.) – воинские повести 20.59 KB
  Повесть о битве на реке Калке. Первое столкновение русских войск с кочевниками произошло в 1223 г. на реке Калке (Кальмиус). Летописная повесть об этой битве дошла до нас в двух редакциях. Повесть обстоятельно излагает ход событий. Весть о появлении языка незнаемого (неизвестного народа) принесли в Киев половцы, с которыми первыми столкнулись отряды степных кочевников, шедшие с Кавказа под руководством нойонов (воевод) Чингиза Джебе и Сабутэ
74835. Слово о погибели Русской земли. Гражданский патриотический пафос памятника. Народно-поэтическая стилистика 16.22 KB
  Событиями монголотатарского нашествия очевидно порождено и такое выдающееся поэтическое произведение как Слово о погибели Русской земли впервые обнаруженное только в конце 70х годов прошлого века К. Слово о погибели Русской земли исполнено высокого гражданского патриотического звучания. В центре образ Русской земли светлосветлой и украсноукрашеной.
74836. Житие Александра Невского. Идея защиты родины. Образ Александра Невского – полководца и государственного деятеля 17.73 KB
  Образ Александра Невского полководца и государственного деятеля. Житие Александра Невского написанное вскоре после смерти князя ум. Основу жития Александра Невского составляют две воинские повести о битве на Неве и на Чудском озере.
74837. Летописные повести о Куликовской битве: «Задонщина», «Сказание о Мамаевом побоище», общность идейной направленности повестей 18.15 KB
  Большинством исследователей это объясняется зависимостью Сказания. Текстуальные же совпадения между пространной летописной повестью и Сказанием ο Мамаевом побоище столь малочисленны и имеют такой характер что у нас отнюдь не меньше оснований предполагать обратную зависимость а именно зависимость пространной летописной повести от Сказания. Стремясь нарисовать идеальный образ великого князя московского автор Сказания. Для того чтобы подчеркнуть силу и общерусское значение великого князя московского автор Сказания.
74838. Житие Сергия Радонежского. Общая характеристика агиографического творчества Пахомия Лагофета 16.33 KB
  Епифаний создал Житие Сергия Радонежского. Епифаний хорошо передает факты биографии Сергия с лирической теплотой говорит о его деятельности связанной с борьбой против ненавистной розни за укрепление централизованного Русского государства. О роли Сергия Радонежского и Стефана Пермского в политическом и нравственном возрождении Русской земли говорил В.
74839. Повесть о взятии Царьграда Нестора – Искандера. Историко-философское осмысление событий в повести 15.23 KB
  Повесть содержит описание истории Константинополя с момента его основания, но особенно подробно рассказывается об осаде византийской столицы турками и ее взятии. Хотя в “Повести” содержится немало достоверных сведений, в целом она все же чисто литературное произведение, а не документальная хроника. Некоторые эффектные сюжетные коллизии оказываются вымыслом: так, в Константинополе во время осады не было патриарха
74840. Хождение за три моря тверского купца Афанасия Никитина 17.94 KB
  Хождение за три моря Афанасия Никитина. является Хождение за три моря тверского купца Афанасия Никитина помещенное под 1475 г. Да станет Русская земля благоустроенной и да будет в ней справедливость Православная вера является для Никитина символом родины.