36245

Распознавание образов: подходы

Доклад

Информатика, кибернетика и программирование

Ассоциативность памяти и задача распознавания образов Динамический процесс последовательной смены состояний нейронной сети Хопфилда завершается в некотором стационарном состоянии являющемся локальным минимумом энергетической функции ES. Невозрастание энергии в процессе динамики приводит к выбору такого локального минимума S в бассейн притяжения которого попадает начальное состояние исходный пред'являемый сети образ S0. Поскольку для двух двоичных векторов минимальное число изменений компонент переводящее один вектор в другой является...

Русский

2013-09-21

36 KB

5 чел.

31. Распознавание образов: подходы.

Ассоциативность памяти и задача распознавания образов

Динамический процесс последовательной смены состояний нейронной сети Хопфилда завершается в некотором стационарном состоянии, являющемся локальным минимумом энергетической функции E(S). Невозрастание энергии в процессе динамики приводит к выбору такого локального минимума S, в бассейн притяжения которого попадает начальное состояние (исходный, пред'являемый сети образ) S0. В этом случае также говорят, что состояние S0 находится в чаше минимума S.

При последовательной динамике в качестве стационарного состояния будет выбран такой образ S, который потребует минимального числа изменений состояний отдельных нейронов. Поскольку для двух двоичных векторов минимальное число изменений компонент, переводящее один вектор в другой, является расстоянием Хемминга r H(S,S0), то можно заключить, что динамика сети заканчивается в ближайшем по Хеммингу локальном минимуме энергии.

Пусть состояние S соответствует некоторому идеальному образу памяти. Тогда эволюцию от состояния S0 к состоянию S можно сравнить с процедурой постепенного восстановления идеального образа S по его искаженной (зашумленной или неполной) копии S0. Память с такими свойствами процесса считывания информации является ассоциативной. При поиске искаженные части целого восстанавливаются по имеющимся неискаженным частям на основе ассоциативных связей между ними.

Ассоциативный характер памяти сети Хопфилда качественно отличает ее от обычной, адресной, компьютерной памяти. В последней извлечение необходимой информации происходит по адресу ее начальной точки (ячейки памяти). Потеря адреса (или даже отного бита адреса) приводит к потере доступа ко всему информационному фрагменту. При использовании ассоциативной памяти доступ к информации производится непосредственно по ее содержанию, т.е. по частично известным искаженным фрагментам. Потеря части информации или ее информационное зашумление не приводит к катастрофическому ограничению доступа, если оставшейся информации достаточно для извлечения идеального образа.

Поиск идеального образа по имеющейся неполной или зашумленной его версии называется задачей распознавания образов. В нашей лекции особенности решения этой задачи нейронной сетью Хопфилда будут продемонстрированы на примерах, которые получены с использованием модели сети на персональной ЭВМ.

В рассматриваемой модели сеть содержала 100 нейронов, упорядоченных в матрицу 10 x 10. Сеть обучалась по правилу Хебба на трех идеальных образах - шрифтовых начертаниях латинских букв M, A и G (Рис. 8.3.). После обучения нейросети в качестве начальных состояний нейронов пред'являлись различные искаженные версии образов, которые в дальнейшем эволюционировали с последовательной динамикой к стационарным состояниям.

Рис. 8.3. Идеальные образы обучающей выборки. Темные квадратики соответствуют нейронам в состоянии +1, светлые -1.

Для каждой пары изображений на рисунках этой страницы, левый образ является начальным состоянием, а правый - результатом работы сети - достигнутым стационарным состоянием.

Рис. 8.4. (A) - Один из идеальных образов является стационарной точкой. (Б) - Образ, заданный другим шрифтом, удачно распознается.

Рис. 8.5. (A,Б) - Образы с информационным шумом удачно распознаются.

Рис. 8.6. Образ может быть распознан по небольшому фрагменту.

Рис. 8.7. (A) - Пример релаксации к ложному образу. (Б) - Добавление информации к левой картинке (А) приводит к правильному распознаванию.

Образ на Рис. 8.4.(А) был выбран для тестирования адекватности поведения на идеальной задаче, когда пред'явленное изображение точно соотвествует информации в памяти. В этом случае за один шаг было достигнуто стационарное состояние. Образ на Рис. 8.4.(Б) характерен для задач распознавания текста независимо от типа шрифта. Начальное и конечное изображения безусловно похожи, но попробуйте это об'яснить машине!

Задания на Рис. 8.5 характерны для практических приложений. Нейросетевая система способна распознавать практически полностью зашумленные образы. Задачи, соответствующие Рис. 8.6. и 8.7.(Б), демонстрируют замечательное свойство сети Хопфилда ассоциативно узнавать образ по его небольшому фрагменту. Важнейшей особенностью работы сети является генерация ложных образов. Пример релаксации к ложному образу показан на Рис. 8.7.(А). Ложный образ является устойчивым локальным экстремумом энергии, но не соответствует никакому идеальному образу. Он является в некотором смысле собирательным образом, наследующим черты идеальных собратьев. Ситуация с ложным образом эквивалентна нашему "Где-то я уже это видел".

В данной простейшей задаче ложный образ является "неверным" решением, и поэтому вреден. Однако, можно надеяться, что такая склонность сети к обобщениям наверняка может быть использована. Характерно, что при увеличении об'ема полезной информации (сравните Рис. 8.7.(А) и (Б)), исходное состояние попадает в область притяжения требуемого стационарного состояния, и образ распознается.

Несмотря на интересные качества, нейронная сеть в классической модели Хопфилда далека от совершенства. Она обладает относительно скромным об'емом памяти, пропорциональным числу нейронов сети N, в то время как системы адресной памяти могут хранить до 2N различных образов, используя N битов. Кроме того, нейронные сети Хопфилда не могут решить задачу распознавания, если изображение смещено или повернуто относительно его исходного запомненного состояния. Эти и другие недостатки сегодня определяют общее отношение к модели Хопфилда, скорее как к теоретическому построению, удобному для исследований, чем как повседневно используемому практическому средству.

На следующих лекциях мы рассмотрим развитие модели Хопфилда, модификации правила Хебба, увеличивающие об'ем памяти, а также приложения вероятностных обобщений модели Хопфилда к задачам комбинаторной оптимизации.


 

А также другие работы, которые могут Вас заинтересовать

20773. Настройка токарно-винторезного станка для нарезания резьб 69.18 KB
  При массовом производстве резьбы изготавливают резьбонарезными головками резьбовыми фрезами на катками плашками и метчиками. Резьбы бывают однозаходные и многозаходные. По профилю резьбы различают треугольные прямоугольные ленточные упорные полукруглые и трапеции дальные; по виду метрические дюймовые модульные и питче вые. Шаг резьбы Р это расстояние между двумя одноименными точками винтовой линии измеренное по образующей цилиндра.
20774. Устройство, кинематика широкоуниверсального горизонтально-фрезерного станка и работы, выполняемые на нем 160.62 KB
  1600 Подача мм мин продольная и поперечная 25. Прямолинейные движения заготовки в трех направлениях служат для подачи углубления или первоначальной установки детали. В консоли размещена коробка подач.3 включает кинематические цепи главного движения подач и ускоренных перемещений стола.
20775. Изучение назначения, кинематики и настройки универсальной делительной головки УДГ Д-200 113.62 KB
  Червячная передача позволяет передавать вращение от рукоятки к шпинделю и заготовке. Делительный лимб 12 служит для отсчета числа оборотов рукоятки. Для удобства отсчета числа оборотов рукоятки к делительному лимбу прикреплен сектор 16 линейки которого раздвигаются на требуемый угол. При делении окружности заготовки на части вращение рукоятки может производиться относительно как неподвижного так и подвижного лимбов.
20776. Устройство вертикально-сверлильного станка и его настройка на обработку отверстий 1.74 MB
  Станок 2Н135 рис. Стол 2 имеет Тобразные пазы для крепления тисков приспособлений или детали. Рис. Краткая техническая характеристика станка 2Н135 Размеры рабочей поверхности стола мм ширина х на длину 450x500 Наибольший диаметр сверления в стали мм 35 Конус Морзе шпинделя №4 Наибольшее вертикальное перемещение стола мм 300 Число ступеней частоты вращения шпинделя 12 Частота вращения шпинделя мин1 315; 45; 63; 90; 125; 180; 250; 355; 500; 710; 1000; 1400 Число ступеней подач шпинделя 9 Подачи шпинделя мм об 01; 014; 02;...
20777. Ряды Динамики. Установление вида ряда динамики 1.63 MB
  Установление вида ряда динамики. Основная цель статистического изучения динамики коммерческой деятельности состоит в выявлении и измерении закономерностей их развития во времени. Это достигается посредством построения и анализа статистических рядов динамики.
20778. Индексный метод. Статистические индексы 262.5 KB
  Статистические индексы. Индексы широко применяются в экономических разработках государственной и ведомственной статистики. Индивидуальные и общие индексы. В зависимости от степени охвата подвергнутых обобщению единиц изучаемой совокупности индексы подразделяются на индивидуальные элементарные и общие.
20779. Выборочное наблюдение 1.05 MB
  Проведение исследования социально экономических явлений выборочным методом складывается из ряда последовательных этапов: 1 обоснование в соответствии с задачами исследования целесообразности применения выборочного метода; 2 составление программы проведения статистического исследования выборочным методом; 3 решение организационных вопросов сбора и обработки исходной информации; 4 установление доли выборки т. части подлежащих обследованию единиц генеральной совокупности; 5 обоснование способов формирования выборочной совокупности; 6...
20780. Изучение статистической связи 666.23 KB
  N 130 ПОЛОЖЕНИЕ О ПОРЯДКЕ ПРЕДСТАВЛЕНИЯ ГОСУДАРСТВЕННОЙ СТАТИСТИЧЕСКОЙ ОТЧЕТНОСТИ В РОССИЙСКОЙ ФЕДЕРАЦИИ I. ОБЩИЕ ПОЛОЖЕНИЯ Настоящее Положение разработано в соответствии с Законом Российской Федерации Об ответственности за нарушение порядка представления государственной статистической отчетности Временным положением о Государственном комитете Российской Федерации утвержденным Постановлением Президиума Верховного Совета РСФСР от 27 апреля 1991 года N 11171 и во исполнение постановления Верховного Совета Российской Федерации от 13 мая...
20781. Общая теория статистики 199.97 KB
  Отдельные объекты или явления образующие статистическую совокупность называются единицами совокупности. Например при проведении переписи торгового оборудования единицей наблюдения является торговое предприятие а единицей совокупности их оборудование прилавки холодильные агрегаты и т. Вариация это многообразие изменяемость величины признака у отдельных единиц совокупности наблюдения. Любое статистическое наблюдение осуществляется с помощью оценки и регистрации признаков единиц совокупности в соответствующих учетных документах.