40110

Методы наискорейшего и координатного спуска для минимизации выпуклой функции без ограничений. Их алгоритмы и геометрическая интерпретация

Доклад

Менеджмент, консалтинг и предпринимательство

Все методы спуска решения задачи безусловной минимизации различаются либо выбором направления спуска, либо способом движения вдоль направления спуска. Решается задача минимизации функции f(x) на всём пространстве Rn. Методы спуска состоят в следующей процедуре построения последовательност

Русский

2013-10-15

94.5 KB

45 чел.

25. Методы наискорейшего и координатного спуска для минимизации выпуклой функции без ограничений. Их алгоритмы и геометрическая интерпретация.

Выпуклой функцией на выпуклом множестве X называется функция: f(x1 + (1 – )x2)  f(x1)+ (1 – )f(x2)      x1, x2 X, [0,1]

Если в точке x0 у выпуклой функции f локальный min, то в этой точке grad f = 0.

У выпуклой функции локальный min совпадает с глобальным.

Общих методов решения нелинейной задачи не существует, однако для некоторых классов нелинейных задач разработаны общие методы, в частности, когда функция является выпуклой. Тогда задача заключается в минимизации выпуклой дифференцируемой  функции f(x), то есть

f(x)  min

Все методы спуска решения задачи безусловной минимизации различаются либо выбором направления спуска, либо способом движения вдоль направления спуска.

Решается задача минимизации функции f(x) на всём пространстве Rn. Методы спуска состоят в следующей процедуре построения последовательности {Xk}. В качестве начального приближения выбирается любая точка X0Rn. Последовательные приближения X1, X2, … строятся по следующей схеме:

  1.  в точке Xk выбирают направление спуска –Sk n-мерный вектор;
  2.  находят (k+1)-е приближение по формуле Xk+1 = XkkSk.

Направление Sk и параметр k выбираются из условия сходимости последовательности решений к некоторому оптимальному решению X*, то есть необходимо обеспечить неравенство f(Xk+1) < f(Xk).

Вообще говоря, можно бесконечно долго приближаться к X*. В некоторых случаях мы можем попасть в точку  X*, в которой grad f = 0. Поэтому решение задачи часто находиться с точностью до некоторого  или .

| Xk+1Xk| <  

| f(Xk+1) – f(Xk)| < .

Метод наискорейшего спуска 

Если функция дифференцируема, то можно использовать градиентные методы. МНС является одним из вариантов градиентного спуска. Суть градиентного метода заключается в следующем: выбрать произвольную точку X0 и с помощью антиградиента -f(X0), вычисленного в этой точке, определить направление наискорейшего убывания функции и сместиться из точки X0 по этому направлению:

Таким образом, строится последовательность {Xk}.

Если величину k выбирать так, чтобы значение f = f(Xk+1) – f(Xk) было наименьшим, то градиентный метод называется МНС. В силу того, что f(Xk) известно и учитывая, что Xk+1=Xk kf(Xk), получаем, что приращение f является функцией одной переменной k, то есть f  = f (k).

Согласно необходимому условию ext функции одной переменной должно выполняться:

Величину k , при которой достигается наименьшее значение f , можно определить одним из методов одномерной минимизации.

Поиск решения прекращается, когда | Xk+1Xk| < или | f(Xk+1) – f(Xk)| < .

Алгоритм метода наискорейшего спуска:

0 шаг. Выберем .

1 шаг. Находим . Если , то остановка и  Хk – решение.

2 шаг. Находится .

3 шаг. .

4 шаг. Если | Xk+1Xk| < или | f(Xk+1) – f(Xk)| < , то остановка и  Хk+1 – решение

5 шаг. k=k+1, переход к шагу 1.

С геометрической точки зрения градиент в очередной точке Xk+1 ортогонален градиенту в предыдущей точке Xk. Для случая функции двух переменных МНС имеет следующую геометрическую интерпретацию: для любого к луч, идущий от точки Xk к точке Xk+1, перпендикулярен к линии уровня функции, проходящей через точку  Xk, и касается линии уровня, проходящей через точку  Xk+1.


Метод покоординатного спуска

Одним из наиболее простых способов определения направления спуска является выбор в качестве Sk одного из координатных векторов e1, e2, …, en, вследствие чего у Xk на каждой итерации изменяется лишь одна из компонент. Существуют многочисленные варианты покоординатного спуска. Рассмотрим 2 из них.

Обозначим через ei =(0..0, 1, 0..0) – вектор, у которого на i-ой позиции находится 1.

Поиск решения прекращается, когда k < .

Метод ПС может применять (не всегда эффективно) и для не дифференцируемых функций, так как сам алгоритм покоординатного спуска не требует вычисления производной функции.

Теорема [о сходимости МПС]. Пусть функция f(x) является выпуклой в Rn и имеет непрерывную производную. Тогда последовательность точек МПС сходится к точке min.

Алгоритм метода покоординатного спуска:

0 шаг. Выберем .

1 шаг. Положим:

                (1)

Условие (1) обеспечивает перебор координатных векторов.

2 шаг. Вычисляют значение целевой функции f(X) в точке  и проверяют неравенство:

 (2)

Если (2) выполняется, то полагают:

Проверяется условие прекращения решения и при необходимости переход к шагу 1.

3 шаг. Если (2) не выполняется, то вычисляют значение целевой функции f(X) в точке  и проверяют неравенство:

 (3)

Если (3) выполняется, то полагают:

Проверяется условие прекращения решения и при необходимости переход к шагу 1.

4 шаг. (k+1)-ая итерация называется удачной, если справедливо либо (2), либо (3), иначе она является неудачной и шаг k дробиться / увеличивается.

Существует другой вариант ПС, основанный на использовании градиента функции.

Поиск решения прекращается, когда | Xk+1-Xk| < или .

Алгоритм метода покоординатного спуска:

0 шаг. Выберем .

1 шаг. Находят максимальный по абсолютной величине из частных производных (элементов градиента), вычисленных в точке Xk, то есть

Обозначим через imax номер элемента, соответствующего S. Тогда координатный вектор

В качестве Sk выбирается

Sk = ekS, если частная производная отрицательна, и

Sk = -ekS, если частная производная положительна.

2 шаг. Находится

3 шаг. 

4 шаг. Проверяется условие прекращения решения.

X0

X1

X0

X1

X0

X0


 

А также другие работы, которые могут Вас заинтересовать

75207. Социолингвистика как раздел языкознания 28.5 KB
  Проблематика и базовые понятия социолингвистики: Языковое варьирование Языковые контакты Языковая ситуация Литературный язык Проблематику нередко подразделяют на : Микросоциолингвистику изучающую использование говорящими языковых единиц в рамках отдельных речевых актов в ходе межличностного общения Макросоциолингвистику объектом изучения которой выступают целые языки и их варианты выполняющие различные общественные функции Различают также Синхроническую социолингвистику изучающую социальное функционирование языка на определенном...
75208. Типы письма. Специфика иероглифического типа письма 24.94 KB
  Письмо условная семиотическая система; искусственное образование созданное человеком. Звуковой язык естественный письмо искусственная система. Существовали различные системы письма Начертательное письмо зарождается как пиктография. письмо рисунками.
75209. Билингвизм и диглоссия 27.5 KB
  Билингвизм и диглоссия Билингвизм явление встречается и описывается в плане синхронии и диахронии на территории одного народа функционируют 2 и более языков. Это достаточно редкое явление. В целом как явление очень распространено.
75211. Понятие субстрата, суперстрата и адстрата 41.5 KB
  Каждое из этих понятий явлений оказывается связанным с историческими событиями народа который владел этим языком. Результат это кардинальное изменение языков которые они затрагивают: изменяется грамматический строй словарный состав фонетический строй...
75212. КУЛЬТУРА США В КОНЦЕ XVIII – СЕРЕДИНЕ XIX ВЕКОВ 16.1 KB
  Период развития американской культуры между Гражданской и первой мировой войной отличался напряженностью. Писатели архитекторы и художники XIX в. Одна из самых значительных фигур в американской литературе XIX века Марк Твен выдающийся сатирик мастер как реалистической прозы Приключения Тома Сойера Приключения Гекльберри Финна.
75213. Национальный язык. Формы его существования и образования 34 KB
  Национальный язык. Формы его существования и образования Национальный язык это важнейшая форма. Каждый национальный язык состоит из основной его части литературного языка и развитых диалектов. Диалекты: Территориальные на определенной территории могли стать национальными языками как провансальский язык на юге Франции.
75214. КУЛЬТУРА И НАУКА США ПОСЛЕ ВТОРОЙ МИРОВОЙ ВОЙНЫ. СОВРЕМЕННАЯ НАУКА И КУЛЬТУРА США 19.68 KB
  КУЛЬТУРА И НАУКА США ПОСЛЕ ВТОРОЙ МИРОВОЙ ВОЙНЫ. СОВРЕМЕННАЯ НАУКА И КУЛЬТУРА США После Второй мировой войны центр мирового искусства переместился из Парижа в НьюЙорк. Кино главный вид искусства и всей культуры США. Классическая музыка в США находится на высоком уровне.