21693

Обучение контроллера: подход на основе прогнозируемой ошибки выхода

Лекция

Информатика, кибернетика и программирование

Шаг 1. read ; Шаг 2. {Обучение эмулятора} for := downto 0 do begin :=; ; end; Шаг 3. {Генерация управляющего входного сигнала} :=; или :=; :=; Шаг 4.

Русский

2013-08-03

361.5 KB

4 чел.

етоды искусственного интеллекта

Лекция № 10

МЕТОДЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

ЛЕКЦИЯ № 10

На прошлой лекции мы начали заниматься проблемой эффективного управления с помощью нейроконтроллеров. Я напомню, г-н Омату предлагает три метода обучения. Первый — это обучение эмулятора, а другие два — это обучение контроллера, либо на ошибке инверсно-прямого управления, либо на основе прогнозируемой ошибки выхода.

Мы остановились на втором подходе, и пришли к выводу, что он сам по себе даёт плохие результаты: выход нейроконтроллера устанавливается на некоторой постоянной величине, в результате чего ошибка обучения оказывается нулевой, однако характеристики управления оставляют желать лучшего. Этот недостаток присущ всем методам обучения, основанным на минимизации ошибки инверсного управления. Его можно устранить, используя сочетание таких методов управления с другими, непосредственно минимизирующими ошибку системы регулирования.

Мы начали рассматривать пример, который это иллюстрирует.

Пусть р=3, q=2 и только что получена величина у(9). Предположим также, что в памяти имеются аналогичные величины, что и в предыдущем примере: , , …  и , … .

Обозначим через  текущее отображение, выполняемое нейроконтроллером. Равенство  означает, что обучения ещё нет. Входной сигнал для объекта управления  можно вычислить из соотношения , где .

Для обучения в соответствии с подходом на основе ошибки инверсно-прямого управления можно использовать следующие векторы:

Эти векторы и входные величины ,  и  образуют три обучающих образца (входной вектор и желаемый выход) для обучения нейроконтроллера в момент времени . Однако такой метод обучения непосредственно не минимизирует ошибку управления, поэтому на практике необходимо его сочетание с другими методами.

На рисунке этот подход будет выглядеть так:

{рис. 4.4.1-б, с. 127}

На рисунке показано сочетание множественного обучения на основе инверсно-прямого управления и простого обучения на основе обучающей конфигурации. В результате выполняется 4 обучающих итерации за один период дискретизации. Вектор  задаётся составляющими . Через  обозначено состояние нейроконтроллера во время -го интервала дискретизации, после -й обучающей итерации. В результате достигается точное обучение нейроэмулятора за счёт усложнения процесса обучения.


3. Обучение контроллера: подход на основе прогнозируемой ошибки выхода

Более сложный подход к множественному обучению нейроконтроллера можно получить на основе конфигурации из эмулятора и контроллера (рис. 4.2.5, с. 98). Предположим, что в момент времени  в дополнение к  значениям переменной  (включая ) и  предыдущим значениям переменной     имеется также  значений опорного сигнала .

Наличие таких данных эквивалентно наличию в памяти  входных векторов . В момент времени  входной управляющий сигнал  определяется следующим образом:

.

Однако с момента времени, когда вектор  был сохранён, до текущего момента времени  было выполнено несколько корректировок нейроконтроллера. Поэтому в момент времени  сохранённый входной вектор  даст следующий виртуальный входной сигнал:

.

Это означает только, что последняя величина  с соответствующими величинами  и   может быть непосредственно использована для обучения на основе одной из конфигураций адаптивного управления. Однако это не относится в полной мере к предыдущим величинам  для . Для таких случаев можно спрогнозировать соответствующий выходной сигнал объекта управления с помощью эмулятора в соответствии с выражением:

,

где второй верхний индекс в обозначении  опущен для простоты, а вектор задаётся следующим образом:

{рис. 4.4.2-а, с. 130}

Для лучшего понимания процесса обучения нейроконтроллера представим себе нейроконтроллер и нейроэмулятор как одну многослойную сеть. В момент времени  каждому входному вектору  пусть соответствует прогнозируемая ошибка , и обучение направлено на минимизацию некоторой нормы предсказанной ошибки выхода. Функция ошибки может иметь следующий вид:

.

В обучающей конфигурации нейроконтроллер обучается на основе ошибки, представляющей собой расхождение между опорным сигналом и выходом нейроэмулятора, а не расхождение между опорным сигналом и выходом объекта управления, как в схеме прямого адаптивного управления. Предыдущие значения величины выхода объекта управления  необходимы для входных векторов нейроконтроллера и нейроэмулятора.

Пример. Пусть ,  и только что получена величина . Предположим, что в памяти имеются значения , а также , и ещё ,  и . Входные векторы нейроконтроллера, используемые для вычисления трёх последних значений входного управляющего сигнала, можно записать в следующей форме:

Возможная процедура обучения для момента времени  показана на следующем рисунке:

{рис. 4.4.2-б, с. 130}

За один период дискретизации выполняется три обучающих итерации.

Мы сейчас рассмотрели методы оперативного обучения, предложенные г-ном Омату. А теперь мы рассмотрим, в теории, алгоритмы в псевдокоде, который обеспечит определённую однозначность реализации таких методов.

Алгоритмы обучения

Сперва обращу внимание, что алгоритм обратного распространения мы будем указывать в виде вызова процедуры ,

где  — это имя процедуры,  — корректируемая сеть,  — входной вектор,  — желаемый выход, а  — фактический выход.

1. Множественное обучение эмулятора

Пусть в момент времени  в памяти хранятся векторы  для . Из этого следует, что новейшие данные соответствуют значению , а более старые данные соответствуют большим значениям . Начиная с момента времени , алгоритм множественного обучения эмулятора можно представить в следующей форме.

Шаг 1.

read ;

Шаг 2. {Обучение эмулятора}

for :=() downto 0 do

begin

:=;

;

end;

Шаг 3. {Генерация управляющего входного сигнала}

:=;

или

:=;

:=;

Шаг 4. Применить  к объекту управления и ждать время .

Шаг 5. {Сдвиг данных}

for :=() downto 1 do

:=;

Шаг 6. {Новейший вектор данных}

:=;

Шаг 7.

:=;

Шаг 8. Переход к шагу 1.

2. Множественное обучение контроллера: инверсно-прямое управление

Пусть в момент времени  в памяти хранятся векторы  для . Начиная с момента времени , алгоритм множественного обучения контроллера можно представить в следующей форме.

Шаг 1.

read ;

Шаг 2. {Новейший вектор данных}

:=;

Шаг 3. {Обучение контроллера}

for :=() downto 0 do

begin

 :=;

;

end;

Шаг 4. {Генерация управляющего входного сигнала}

:=;

или

:=;

:=;

Шаг 5. Применить  к объекту управления и ждать время .

Шаг 6. {Сдвиг данных}

for :=() downto 1 do

 :=;

Шаг 7.

:=;

Шаг 8. Переход к шагу 1.

3. Множественное обучение контроллера: прогнозируемая ошибка выхода

Пусть в момент времени  в памяти хранится -вектор  или . Обозначим через  нейронные сети, образованные связыванием нейроконтроллера и нейроэмулятора. Начиная с момента времени , алгоритм множественного обучения контроллера можно представить в следующей форме.

Шаг 1.

read ;

Шаг 2. {Обучение контроллера по прогнозируемым ошибкам}

for :=() downto 1 do

begin

for :=0 to  do

 :=;

{виртуальный входной вектор для эмулятора}

:=;

{виртуальный выход}

:=;

 ;

end;

Шаг 3. {Обычное обучение с использованием новейших данных}

;

Шаг 4. {Сдвиг данных}

for :=() downto 1 do

 :=;

Шаг 5. {Генерация управляющего входного сигнала}

:=;

или

:=;

:=;

Шаг 6. Применить  к объекту управления и ждать время .

Шаг 7.

:=;

Шаг 8. Переход к шагу 1.

Сегодня мы закончили изучать методы эффективного обучения нейроэмуляторов и нейроконтроллеров, рассмотрели в теории алгоритм работы каждого из этих методов. На следующем практическом занятии мы будем изучать, как это работает с реальными цифрами.

PAGE  2

Томский политехнический университет,

Дмитрий Афонин, апрель 2006 г.


 

А также другие работы, которые могут Вас заинтересовать

82500. Характеристика правовой системы социалистических стран 25.95 KB
  Социалистическая система действительно представляет собой упрощенный и сильно идеологизированный вариант романогерманской правовой системы с более низким уровнем юридической техники. Среди специфических черт социалистической правовой системы – резкое уменьшение частноправовой сферы связанное с идеями обобществления производства и уничтожения частной собственности на средства производства. В первый период развития социалистической правовой системы существенное влияние имел тезис о классовом характере социалистического права.
82501. Общая характеристика англо-саксонской правовой системы (правовой семьи общего права) 25.43 KB
  Данная семья характеризуется следующими признаками: основным источником права выступает судебный прецедент правила поведения сформулированные судьями в их решениях по конкретному делу и распространяющиеся на аналогичные дела; ведущая роль в формировании права правотворчестве отводится суду который в этой связи занимает особое положение в системе государственных органов; на первом месте находятся не обязанности а права человека и гражданина защищаемые прежде всего в судебном порядке; главенствующее значение имеет в первую очередь...
82503. Характеристика прецедента как источника права в системе общего права Англии 25.62 KB
  Решения высшей инстанции – палаты лордов – обязательны для всех других судов. Апелляционный суд состоящий из двух отделений гражданского и уголовного обязан соблюдать прецеденты палаты лордов и свои собственные а его решения обязательны для всех нижестоящих судов. Высокий суд все его отделения связан прецедентами обеих вышестоящих инстанций его решения обязательны для всех нижестоящих инстанций а также не будучи строго обязательны влияют на рассмотрение дел в его отделениях. Окружные и магистратские суды обязаны следовать...
82504. Общая характеристика судебной системы Великобритании 25.93 KB
  Судебная система Великобритании включает в себя: магистратские суды – рассматривают как правило без участия присяжных заседателей преступления не представляющие значительной общественной опасности преступления по обвинительному акту тяжкие преступления гражданские иски административные дела; суды графств – являются основными судами первой инстанции по гражданским делам; Верховный суд Великобритании. Особенности судебной системы Великобритании проявляются в наличии следующих судов: Королевский суд Лондона – это высшая инстанция...
82505. Формирование американского права 27.12 KB
  Ллевелина Традиции общего права выделяются три периода развития американского права: первый – с 1800 г. Богдановская выделяет четыре этапа в развитии американского права. Первый – этап утверждения прецедентного права в колониальный период.
82506. Особенности и тенденции развития современного американского права 27.6 KB
  Федеративное устройство США ставит на повестку дня вопрос о единстве правовой системы страны. Наличие Конституции США ограничивает свободу действий как законодательных так и судебных органов в части внесения изменений в организацию правосудия. Втретьих реализация принципа разделения властей дополняет с введением судебного контроля за конституционностью законов При этом Верховный суд США напоминает скорее законодательный чем правоприменительный орган особенно когда создаваемая им норма распространяется не на рассматриваемое дело а на дела...
82507. Характеристика судебной системы США 26.5 KB
  Кроме того в систему федеральных судов входят так называемые специализированные суды имеющие отдельную компетенцию с правом вынесения приговоров и решений налоговый суд суд по делам военнослужащих суд по таможенным и патентным делам претензионный суд. Районные суды рассматривают уголовные и гражданские дела в качестве суда первой инстанции. Апелляционные окружные суды осуществляют проверку решений районных судов а также рассматривают жалобы на решения ряда административных квазисудебных органов например Национального управления...
82508. Общая характеристика мусульманской правовой семьи 28.91 KB
  История развития мусульманской правовой системы неразрывно связана с формированием мусульманской религиозной культуры. Но в Коране было упомянуто о том что мнение единое во всей мусульманской общине не может быть неверным. Иджма мнение по правовым вопросам авторитетных ученыхтеологов которое представлено как мнение всей мусульманской общины.