17418

Асоціативна мережа Хопфілда

Лабораторная работа

Коммуникация, связь, радиоэлектроника и цифровые приборы

Лабораторна робота № 5 Асоціативна мережа Хопфілда Мета: отримати навички розвязання практичних задач за допомогою мереж Хопфілда. 4.1. Теоретичні відомості 4.1.1. Дискретна модель Хопфілда як асоціативна пам'ять Визначення. Асоціативна пам'ять система здатна в...

Украинкский

2013-07-01

127 KB

5 чел.

Лабораторна робота № 5

Асоціативна мережа Хопфілда

Мета: отримати навички розв’язання практичних задач за допомогою мереж Хопфілда.

4.1. Теоретичні відомості

4.1.1. Дискретна модель Хопфілда як асоціативна пам'ять

Визначення. Асоціативна пам'ять — система, здатна відновлювати збережені в ній стани за неповною або зашумленою інформацією.

Асоціативна пам'ять відображає реальні образи  в стійкі точки динамічної системи  (рис. 4.1).

Рис. 4.1. Схема роботи асоціативної пам’яті

Якщо на вхід системи подати неповний або зашумлений образ, то завдяки динаміці НМ траєкторія системи зійдеться до стійкого стану (атрактору) — мережа "згадає" образ.

Стан мережі визначається вектором

Постсинаптичний потенціал обчислюється за формулою

.

Модифікація стану мережі:

Якщо  то можна вибрати довільне значення , однак краще залишити нейрон у попередньому стані. Тоді діаграма станів буде симетрична.

4.1.2. Фази функціонування дискретної мережі Хопфілда

Фаза запам'ятовування

Нехай необхідно запам'ятати  -мірних бінарних векторів

,

де  — прототипи, що запам'ятовуються.

За правилом навчання Хебба:

де  — -ий компонент вектора . У векторній формі

Запам'ятовування виконується за один прохід. Нейрони не мають зворотних зв'язків із самими собою, тому для кожного :

, і

При такому навчанні виконуються наступні умови.

1. Вихід кожного нейрона пов'язаний із входами всіх інших нейронів.

2. Нейрон не має зв'язків із самим собою.

3. Матриця вагових коефіцієнтів симетрична: .

Фаза відновлення

У мережу подається пробний вектор  —з числа незаписаних у мережі (неповний або зашумлений еталон):

.

Елементи вектора x оновлюється асинхронно, по одному в кожен момент часу:

де  — матриця синаптичних вагових коефіцієнтів ,  — вектор відхилення.

Процес припиняється, якщо

,

де  — вихід мережі.

Таким чином, алгоритм функціонування мережі Хопфілда має наступний вигляд:

1. Навчання. Нехай -мірні прототипи. За правилом Хебба

.

Після обчислення синаптичні вагові коефіцієнти фіксуються.

2. Ініціалізація. Стан нейронів мережі в початковий момент часу при подачі нового (зашумленого) образу:

3. Ітераційний процес збіжності мережі до стійкого стану. Вектор  обробляється за формулою:

.

4. Завершення роботи алгоритму. Якщо

 –– вихід мережі.

Пункт 1 описує фазу запам'ятовування, пункти 2–3 — фазу відновлення.

Запам'ятовуюча здатність мережі:

де  — число нейронів,  — число образів.

4.2. Порядок виконання роботи

1. Реалізувати нейронну мережу Хопфілда, використовуючи такі мови програмування як C++, Java, Fortran.

2. За допомогою побудованої нейронної мережі розв’язати задачу класифікації зображень (ту саму, що і для мережі Кохонена). Порівняти ефективність роботи мережі Кохонена та асоціативної мережі Хопфілда на однакових наборах тестових (однаково зашумлених) даних.

3. Результати роботи оформити звітом, який має містити: постановку задачі, навчальну вибірку даних, їх графічне представлення, спосіб кодування зображень для їх представлення нейронній мережі, результати роботи на тестовій множині даних із вказанням похибки та результати порівняння мереж Кохонена та Хопфілда, параметри нейронної мережі, що навчилася, вихідний код програми.


 

А также другие работы, которые могут Вас заинтересовать

32768. Закон Максвелла для распределения молекул идеального газа по скоростям и энергиям 26.5 KB
  Закон Максвелла для распределения молекул идеального газа по скоростям и энергиям. Закон распределения молекул идеального газа по скоростям закон Максвелла определяет вероятное количество dN молекул из полного их числа N число Авогадро в данной массе газа которые имеют при данной температуре Т скорости заключенные в интервале от V до V dV: dN N=FVdV FV функция распределения вероятности молекул газа по скоростям определяется по формуле; FV=4πM 2πRT3 2 V2 expMV2 2RT где V модуль скорости молекул м с; абсолютная...
32769. Барометрическая формула. Закон Больцмана для распределения частиц во внешнем потенциальном поле 56.5 KB
  Барометрическая формула зависимость давления или плотности газа от высоты в поле тяжести. Для идеального газа имеющего постоянную температуру T и находящегося в однородном поле тяжести во всех точках его объёма ускорение свободного падения g одинаково барометрическая формула имеет следующий вид: где p давление газа в слое расположенном на высоте h p0 давление на нулевом уровне h = h0 M молярная масса газа R газовая постоянная T абсолютная температура. Из барометрической формулы следует что концентрация молекул n или...
32770. Среднее число столкновений и средняя длина свободного пробега молекул. Их связь с концентрацией и размером молекул 56.5 KB
  Среднее число столкновений и средняя длина свободного пробега молекул. Их связь с концентрацией и размером молекул. Средние скорости молекул газа очень велики порядка сотен метров в секунду при обычных условиях. Однако процесс выравнивая неоднородности в газе вследствие молекулярного движения протекает весьма медленно.
32771. Понятие о разрежённых газах. Вакуум и методы его получения 41 KB
  Вакуум и методы его получения. Такое состояние газа называется вакуумом. Разреженный газ Вакуум среда содержащая газ при давлениях значительно ниже атмосферного. Вакуум характеризуется соотношением между длиной свободного пробега молекул газа λ и характерным размером процесса d.
32772. Обратимые и необратимые процессы. Круговой процесс (цикл). Тепловые двигатели и холодильные машины. Термический КПД 52.5 KB
  производит положительную работу за счёт своей внутренней энергии и количеств теплоты Qn полученных от внешних источников а на др. системой или над системой работа А равна алгебраической сумме количеств теплоты Q полученных или отданных на каждом участке К. Отношение А Qn совершённой системой работы к количеству полученной ею теплоты называется коэффициентом полезного действия кпд К. называется прямым если его результатом является совершение работы над внешними телами и переход определённого количества теплоты от более нагретого...
32773. Цикл Карно и его КПД для идеального газа. Второе начало термодинамики. Независимость КПД цикла Карно от рабочего вещества. Лемма Карно 47 KB
  Второе начало термодинамики. Следовательно согласно I началу термодинамики работа совершаемая двигателем равна =Q1Q2 Коэффициентом полезного действия КПД теплового двигателя называется отношение работы совершаемой двигателем к количеству теплоты полученному от нагревателя η=Q1Q2 Q1 КПД тепловой машины всегда меньше единицы η=1Q2 Q1 Следовательно невозможно всю теплоту превратить в работу. Отсюда Q2 T2≥Q1 T1 На основании этого неравенства можно прийти к понятию энтропия и второму началу термодинамики. Второе начало термодинамики ...
32774. Энтропия идеального газа при обратимых и необратимых процессах 33.5 KB
  К определению энтропии S можно прийти на основе анализа работы тепловых машин. ∆S=∆Q T Для тепловой машины изменение энтропии нагревателя и холодильника равны: ∆S1=Q1 T1 и ∆S2=Q2 T2 Формула ∆S=∆Q T справедлива для изотермического процесса и представляет собой термодинамическое определение энтропии. Для любого процесса можно найти бесконечно малое изменение энтропии т. ее дифференциал dS=δQ T где δQ элементарная теплота В интегральной форме для любого процесса изменение энтропии равно Найдем изменение энтропии за один цикл для тепловой...
32775. Статистическое толкование энтропии 31 KB
  Рассматривая Вселенную как изолированную систему и распространяя на неё второй закон термодинамики Р. Из сказанного в предыдущем разделе следует что к Вселенной в целом как изолированной системе F = 0 второе начало термодинамики неприменимо по определению. При этом второй закон термодинамики формулируется следующим образом: природа стремится от состояния менее вероятного к состоянию более вероятному. Таким образом являясь статистическим законом второй закон классической термодинамики выражает закономерности хаотического движения большого...
32776. Термодинамические потенциалы. Направление течения процессов в неравновесных состояниях 33.5 KB
  Потенциалы термодинамические определённые функции объёма V давления р температуры Т энтропии S числа частиц системы N и др. К Потенциалы термодинамические относятся: внутренняя энергия U = U S V N xi; энтальпия Н = Н S р N xi; Гельмгольцева энергия свободная энергия или изохорноизотермический потенциал обозначается А или F F = F V T N xi Гиббсова энергия изобарноизотермический потенциал обозначается Ф или G G = G p Т N xi и др. Зная Потенциалы термодинамические как функцию указанных...