50625

Метод градиентного спуска

Лабораторная работа

Математика и математический анализ

Минимизировать функцию fxy=x by expcx2 dy2 методом градиентного спуска. Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности Xk вычисляются по формуле Xk1=Xkk Pk k=012 где Pk направление спуска; длина шага в этом направлении.

Русский

2014-01-27

54.5 KB

39 чел.

Лабораторная работа

5

Тема

Метод градиентного спуска

Ф.И.О.

Пастухова Светлана Владимировна

Группа

403

Вариант

15

Минимизировать функцию f(x,y)=ax + by + exp(cx2 + dy2 ) методом градиентного спуска.

 N

a

b

c

d

15

15

-0.0

1.96

0.25

Рассмотрим задачу минимизации функции f(x)=f(x1 ,x2 ,..,xn ), заданной во всем n-мерном евклидовом пространстве E n.

Как правило, численные методы отыскания экстремума состоят в построении последовательности векторов { Xk }, удовлетворяющих условию: f( X1) > f(X2 ) >... > f(Xn ). Методы построения таких последовательностей называются методами спуска. В этих методах элементы последовательности { Xk} вычисляются по формуле

Xk+1=Xk-k Pk, k=0,1,2,…,

где Pk направление спуска; k - длина шага в этом направлении.

Как известно, градиент функции в некоторой точке Xk направлен в сторону наискорейшего локального возрастания функции. Следовательно, при поиске минимума спускаться нужно по антиградиенту. Выбирая вектор антиградиента в качестве направления спуска,приходим к итерационному процессу вида

Xk+1=Xk-k gradf(Xk)Pk.

В методе наискорейшего спуска величина k определяется из условия f( Xk - k gradf( Xk)=min f(Xk - α gradf(Xk)), 0, то есть на каждом шаге решается одномерная задача минимизации. Геометрическая интерпретация этого метода достаточно просто.Заметим, что на двух последовательных шагах направления спуска ортогональны.

Рассмотрим метод градиентного спуска с дроблением шага. Выбираем некоторое начальное значение X0. Затем выбираем некоторое k==const и на каждом шаге процесса (2) проверяем условие монотонности f(Xk+1 ) f(Xk ). Если это условие нарушается, то дробим до тех пор пока монотонность не восстановится. Время от времени полезно пробовать увеличить  с сохранением условия монотонности.

Для окончания счета можно использовать различные критерии. В данной работе итерации прекращаем, если ║grad f(X k+1)║ < ε. В этом случае полагаем X min=Xk+1. Здесь ║gradf║=

Порядок выполнения работы:

  1.  Построим график заданной функции:

ezsurf('15*x+(-0.0)*y+exp(1.96*x^2+0.25*y^2)')

  1.  Напишем программу минимизации данной функции методом градиентного спуска:

Получим:

min =[ -0.8695         0]

f(xmin)=  -7.6317

Заданная точность eps=0.001 достигнута за n=237 шагов.

  1.  При минимизации функции стандартными средствами MatLab

x = [0,-6];

min = fminsearch(@my_fun,x)

где x=[0,-6] – начальное приближение, а @my_fun:

function f = my_fun(x)

f =22*x(1)+0.6*x(2)+exp(5.02*x(1)^2+0.32*x(2)^2); 

Получим:

min =[-1.0167, 0.0974]

f(xmin)=  -8.7965


 

А также другие работы, которые могут Вас заинтересовать

72035. УДОСКОНАЛЕННЯ ЗАСОБІВ ОЧИЩЕННЯ ПРОМИВНИХ ВОД ТА УТИЛІЗАЦІЇ ОСАДУ ВОДОПРОВІДНИХ ФІЛЬТРУВАЛЬНИХ СТАНЦІЙ 225 KB
  У багатьох частинах світу спостерігається дефіцит поступове вичерпання і зростаюче забруднення джерел прісної води. Питне водопостачання здійснюється як з поверхневих близько 70 всієї води так і з підземних джерел. В процесі очищення води тільки поверхневих джерел на спорудах поліпшення її якості щорічно утворюється близько 100 млн.
72036. СТАБІЛЬНИЙ РАНГ ТА ПОВ’ЯЗАНІ З НИМ ЗАДАЧІ ТЕОРІЇ КІЛЕЦЬ І МОДУЛІВ 405.5 KB
  У дисертаційній роботі встановлюються принципові зв’язки методів теорії матриць над кільцями з сучасними досягненнями алгебраїчної К-теорії. При дослідженні проблем алгебри матриць над кільцями неможливо обійтись без застосування результатів К-теорії.
72037. ПРОФІЛАКТИКА, ДІАГНОСТИКА І ЛІКУВАННЯ ПОРУШЕНЬ МЕНСТРУАЛЬНОГО ЦИКЛУ У ДІВЧАТ-ПІДЛІТКІВ З НЕРВОВОЮ АНОРЕКСІЄЮ 290.5 KB
  На сучасному етапі однією з важливих проблем дитячої та підліткової гінекології є профілактика та лікування порушень функції репродуктивної системи у дівчатпідлітків з психоемоційними розладами В. Відомо що порушення менструальної функції в підлітковому віці у дівчат негативно впливають на стан репродуктивної системи...
72038. ОСОБЛИВОСТІ КЛІНІЧНОГО ПЕРЕБІГУ ПОРОЖНИННИХ УТВОРЕНЬ ПІДШЛУНКОВОЇ ЗАЛОЗИ ТА ЇХ ХІРУРГІЧНЕ ЛІКУВАННЯ 174 KB
  Метою роботи було поліпшення результатів хірургічного лікування хворих на порожнинні утворення підшлункової залози при панкреатиті шляхом диференційованого вибору операційних технологій з урахуванням особливостей клінічного перебігу та прогнозування розвитку їх ускладнень.
72039. ПЕДАГОГІЧНІ УМОВИ ФІЗИЧНОГО ВИХОВАННЯ ДІТЕЙ СТАРШОГО ДОШКІЛЬНОГО ВІКУ У ВЗАЄМОДІЇ ДОШКІЛЬНОГО НАВЧАЛЬНОГО ЗАКЛАДУ І СІМ’Ї 202 KB
  Трансформаційні процеси у сучасному суспільстві висувають нові вимоги до системи освіти загалом та фізичного виховання дітей зокрема. Економічні й політичні реформи в Україні здійснюються на тлі загострення проблеми захворюваності дітей яка зросла за багатьма показниками: лише третина сучасних...
72040. КРИМСЬКОТАТАРСЬКИЙ НАЦІОНАЛЬНИЙ РУХ ЯК СУБ’ЄКТ ПОЛІТИЧНОГО ПРОЦЕСУ В КРИМУ 163 KB
  В останні два десятиліття проблема повернення та облаштування кримських татар питання політикоправового статусу кримсько-татарського народу виступають найважливішими чинниками етнополітичної ситуації на півострові визначаючи діяльність кримсько-татарського національного...
72041. ПІДГОТОВКА МАЙБУТНІХ УЧИТЕЛІВ ПОЧАТКОВИХ КЛАСІВ ДО РОЗВИТКУ ПІЗНАВАЛЬНИХ ІНТЕРЕСІВ УЧНІВ У ПРОЦЕСІ НАВЧАННЯ МАТЕМАТИКИ 865.5 KB
  У державних та міжнародних документах з проблем вищої освіти наголошується на необхідності формування нової генерації педагогічних кадрів, підготовленої до якісного забезпечення освітніх потреб особистості, розвитку її інтелектуального та культурного потенціалу.
72042. ОБГРУНТУВАННЯ ПАРАМЕТРІВ І УДОСКОНАЛЕННЯ СИСТЕМИ ВІДСІЧЕННЯ КОНВЕРТЕРНОГО ШЛАКУ ЕЛЕМЕНТАМИ ПОПЛАВКОВОГО ТИПУ ПРИ ВИПУСКУ СТАЛІ 3.67 MB
  Мінімізація кількості кінцевого шлаку що потрапляє в розливний ківш під час випуску металу з кисневого конвертера є важливим технологічним завданням від успішного вирішення якого значною мірою залежать ефективність подальшої позапічної обробки сталі і виробничі витрати зумовлені...
72043. СТАТИСТИЧНИЙ АНАЛІЗ ПОВЕДІНКИ САМООРГАНІЗОВАНИХ СКЛАДНИХ СИСТЕМ 2.15 MB
  У фізиці можна виділити феромагнетики спінове скло двовимірну електронну плазму у турбулентному режимі системи з аномальною дифузією Леві гранульовані системи тверді тіла піддані йонному бомбардуванню гравітаційні системи сонячні нейтрино чорні діри елементарні частинки які зіштовхуються...