50625

Метод градиентного спуска

Лабораторная работа

Математика и математический анализ

Минимизировать функцию fxy=x by expcx2 dy2 методом градиентного спуска. Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности Xk вычисляются по формуле Xk1=Xkk Pk k=012 где Pk направление спуска; длина шага в этом направлении.

Русский

2014-01-27

54.5 KB

38 чел.

Лабораторная работа

5

Тема

Метод градиентного спуска

Ф.И.О.

Пастухова Светлана Владимировна

Группа

403

Вариант

15

Минимизировать функцию f(x,y)=ax + by + exp(cx2 + dy2 ) методом градиентного спуска.

 N

a

b

c

d

15

15

-0.0

1.96

0.25

Рассмотрим задачу минимизации функции f(x)=f(x1 ,x2 ,..,xn ), заданной во всем n-мерном евклидовом пространстве E n.

Как правило, численные методы отыскания экстремума состоят в построении последовательности векторов { Xk }, удовлетворяющих условию: f( X1) > f(X2 ) >... > f(Xn ). Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности { Xk} вычисляются по формуле

Xk+1=Xk-k Pk, k=0,1,2,…,

где Pk направление спуска; k - длина шага в этом направлении.

Как известно, градиент функции в некоторой точке Xk направлен в сторону наискорейшего локального возрастания функции. Следовательно, при поиске минимума спускаться нужно по антиградиенту. Выбирая вектор антиградиента в качестве направления спуска,приходим к итерационному процессу вида

Xk+1=Xk-k gradf(Xk)Pk.

В методе наискорейшего спуска величина k определяется из условия f( Xk - k gradf( Xk)=min f(Xk - α gradf(Xk)), 0, то есть на каждом шаге решается одномерная задача минимизации. Геометрическая интерпретация этого метода достаточно просто.Заметим, что на двух последовательных шагах направления спуска ортогональны.

Рассмотрим метод градиентного спуска с дроблением шага. Выбираем некоторое начальное значение X0. Затем выбираем некоторое k==const и на каждом шаге процесса (2) проверяем условие монотонности f(Xk+1 ) f(Xk ). Если это условие нарушается, то дробим до тех пор пока монотонность не восстановится. Время от времени полезно пробовать увеличить  с сохранением условия монотонности.

Для окончания счета можно использовать различные критерии. В данной работе итерации прекращаем, если ║grad f(X k+1)║ < ε. В этом случае полагаем X min=Xk+1. Здесь ║gradf║=

Порядок выполнения работы:

  1.  Построим график заданной функции:

ezsurf('15*x+(-0.0)*y+exp(1.96*x^2+0.25*y^2)')

  1.  Напишем программу минимизации данной функции методом градиентного спуска:

Получим:

min =[ -0.8695         0]

f(xmin)=  -7.6317

Заданная точность eps=0.001 достигнута за n=237 шагов.

  1.  При минимизации функции стандартными средствами MatLab

x = [0,-6];

min = fminsearch(@my_fun,x)

где x=[0,-6] – начальное приближение, а @my_fun:

function f = my_fun(x)

f =22*x(1)+0.6*x(2)+exp(5.02*x(1)^2+0.32*x(2)^2); 

Получим:

min =[-1.0167, 0.0974]

f(xmin)=  -8.7965


 

А также другие работы, которые могут Вас заинтересовать

54055. Урочисте відкриття тижня Логіки 149.5 KB
  Учень. Відкрити тиждень логіки дозволяю Капітанів прошу представити команди і здати рапорти команди здають рапорти 1 учень. Увага Увага 2 учень. Доброго дня дорогі діти і гості 1 учень.
54056. Інтегрування змісту навчальних предметів та логіки 120.5 KB
  Дітям необхідно знати правила і закони логіки у них мають бути сформовані логічні вміння розвинуте логічне мислення. Особливо виразно продуктивність застосування інтегрованого підходу можна побачити на уроках логіки. Знання учителя основних правил і законів логіки дає змогу користуватися логічними прийомами під час розвязування проблемних ситуацій з будь якої освітньої галузі; розвивати в учнів вміння застосовувати правила і закони логіки щодо аналізу подій явищ оцінки своїх і чужих думок формулювати і приймати обґрунтовані рішення під...
54057. Межпредметная интеграция как средство активизации учебного процесса 135.5 KB
  В специализированных школах с углубленным изучением иностранного языка межпредметная интеграция должна занимать не последнее место. В этой связи совместные уроки математики и английского языка могут быть очень интересными.
54058. АЛГЕБРА ВЫСКАЗЫВАНИЙ. ОСНОВНЫЕ ОПЕРАЦИИ АЛГЕБРЫ ВЫСКАЗЫВАНИЙ 1.77 MB
  Таблица истинности - это таблица, устанавливающая соответствие между всеми возможными наборами логических переменных, входящих в логическую функцию и значениями функции.
54059. Логика 81.18 KB
  Знаешь ли ты этого человека запутанного в плащ Нет. А между прочим это твой отец. Объект логики это то на что направлен интерес ученого в логике это мышление на человекомышление. Логика это наука не о всем мышлении а о правильном мышлении о правильном рациональном мышлении которое можно выразить в знаково символической форме словами.
54061. Ліс. Дерева. Кущі. Ягоди. Розвиток зв’язного мовлення 40 KB
  Мета: Збагачувати словник дітей на основі знань, уявлень про довкілля. Учити перераховувати якості, властивості предметів, намагатись давати їм характеристику, формувати вміння найбільш точно застосовувати слова, що підходять до конкретної ситуації або опису.
54062. Пригоди веселих кошенят 44.5 KB
  Під музичний супровід діти разом із логопедом заходять до музичної зали. Логопед: Доброго ранку доброго дня Хай плещуть долоньки Хай тупають ніжки Хай ротик співає Та сяють усмішки. Піпіпі куди це я потрапила Логопед.
54063. Логопсихокорекція у роботі з дітьми з порушеннями мовлення 67.5 KB
  Ігри і вправи на розвиток емоційної сфери Казка-гра : Про рибака та рибку Логопед читає уривок з казки О. Гра із шишками напруження та розслаблення мязів рук. Гра з бджілкою напруження та розслаблення мязів ніг. Ведмедиця кличе золоту бджілку погратися з ведмежатами.