36245

Распознавание образов: подходы

Доклад

Информатика, кибернетика и программирование

Ассоциативность памяти и задача распознавания образов Динамический процесс последовательной смены состояний нейронной сети Хопфилда завершается в некотором стационарном состоянии являющемся локальным минимумом энергетической функции ES. Невозрастание энергии в процессе динамики приводит к выбору такого локального минимума S в бассейн притяжения которого попадает начальное состояние исходный пред'являемый сети образ S0. Поскольку для двух двоичных векторов минимальное число изменений компонент переводящее один вектор в другой является...

Русский

2013-09-21

36 KB

5 чел.

31. Распознавание образов: подходы.

Ассоциативность памяти и задача распознавания образов

Динамический процесс последовательной смены состояний нейронной сети Хопфилда завершается в некотором стационарном состоянии, являющемся локальным минимумом энергетической функции E(S). Невозрастание энергии в процессе динамики приводит к выбору такого локального минимума S, в бассейн притяжения которого попадает начальное состояние (исходный, пред'являемый сети образ) S0. В этом случае также говорят, что состояние S0 находится в чаше минимума S.

При последовательной динамике в качестве стационарного состояния будет выбран такой образ S, который потребует минимального числа изменений состояний отдельных нейронов. Поскольку для двух двоичных векторов минимальное число изменений компонент, переводящее один вектор в другой, является расстоянием Хемминга r H(S,S0), то можно заключить, что динамика сети заканчивается в ближайшем по Хеммингу локальном минимуме энергии.

Пусть состояние S соответствует некоторому идеальному образу памяти. Тогда эволюцию от состояния S0 к состоянию S можно сравнить с процедурой постепенного восстановления идеального образа S по его искаженной (зашумленной или неполной) копии S0. Память с такими свойствами процесса считывания информации является ассоциативной. При поиске искаженные части целого восстанавливаются по имеющимся неискаженным частям на основе ассоциативных связей между ними.

Ассоциативный характер памяти сети Хопфилда качественно отличает ее от обычной, адресной, компьютерной памяти. В последней извлечение необходимой информации происходит по адресу ее начальной точки (ячейки памяти). Потеря адреса (или даже отного бита адреса) приводит к потере доступа ко всему информационному фрагменту. При использовании ассоциативной памяти доступ к информации производится непосредственно по ее содержанию, т.е. по частично известным искаженным фрагментам. Потеря части информации или ее информационное зашумление не приводит к катастрофическому ограничению доступа, если оставшейся информации достаточно для извлечения идеального образа.

Поиск идеального образа по имеющейся неполной или зашумленной его версии называется задачей распознавания образов. В нашей лекции особенности решения этой задачи нейронной сетью Хопфилда будут продемонстрированы на примерах, которые получены с использованием модели сети на персональной ЭВМ.

В рассматриваемой модели сеть содержала 100 нейронов, упорядоченных в матрицу 10 x 10. Сеть обучалась по правилу Хебба на трех идеальных образах - шрифтовых начертаниях латинских букв M, A и G (Рис. 8.3.). После обучения нейросети в качестве начальных состояний нейронов пред'являлись различные искаженные версии образов, которые в дальнейшем эволюционировали с последовательной динамикой к стационарным состояниям.

Рис. 8.3. Идеальные образы обучающей выборки. Темные квадратики соответствуют нейронам в состоянии +1, светлые -1.

Для каждой пары изображений на рисунках этой страницы, левый образ является начальным состоянием, а правый - результатом работы сети - достигнутым стационарным состоянием.

Рис. 8.4. (A) - Один из идеальных образов является стационарной точкой. (Б) - Образ, заданный другим шрифтом, удачно распознается.

Рис. 8.5. (A,Б) - Образы с информационным шумом удачно распознаются.

Рис. 8.6. Образ может быть распознан по небольшому фрагменту.

Рис. 8.7. (A) - Пример релаксации к ложному образу. (Б) - Добавление информации к левой картинке (А) приводит к правильному распознаванию.

Образ на Рис. 8.4.(А) был выбран для тестирования адекватности поведения на идеальной задаче, когда пред'явленное изображение точно соотвествует информации в памяти. В этом случае за один шаг было достигнуто стационарное состояние. Образ на Рис. 8.4.(Б) характерен для задач распознавания текста независимо от типа шрифта. Начальное и конечное изображения безусловно похожи, но попробуйте это об'яснить машине!

Задания на Рис. 8.5 характерны для практических приложений. Нейросетевая система способна распознавать практически полностью зашумленные образы. Задачи, соответствующие Рис. 8.6. и 8.7.(Б), демонстрируют замечательное свойство сети Хопфилда ассоциативно узнавать образ по его небольшому фрагменту. Важнейшей особенностью работы сети является генерация ложных образов. Пример релаксации к ложному образу показан на Рис. 8.7.(А). Ложный образ является устойчивым локальным экстремумом энергии, но не соответствует никакому идеальному образу. Он является в некотором смысле собирательным образом, наследующим черты идеальных собратьев. Ситуация с ложным образом эквивалентна нашему "Где-то я уже это видел".

В данной простейшей задаче ложный образ является "неверным" решением, и поэтому вреден. Однако, можно надеяться, что такая склонность сети к обобщениям наверняка может быть использована. Характерно, что при увеличении об'ема полезной информации (сравните Рис. 8.7.(А) и (Б)), исходное состояние попадает в область притяжения требуемого стационарного состояния, и образ распознается.

Несмотря на интересные качества, нейронная сеть в классической модели Хопфилда далека от совершенства. Она обладает относительно скромным об'емом памяти, пропорциональным числу нейронов сети N, в то время как системы адресной памяти могут хранить до 2N различных образов, используя N битов. Кроме того, нейронные сети Хопфилда не могут решить задачу распознавания, если изображение смещено или повернуто относительно его исходного запомненного состояния. Эти и другие недостатки сегодня определяют общее отношение к модели Хопфилда, скорее как к теоретическому построению, удобному для исследований, чем как повседневно используемому практическому средству.

На следующих лекциях мы рассмотрим развитие модели Хопфилда, модификации правила Хебба, увеличивающие об'ем памяти, а также приложения вероятностных обобщений модели Хопфилда к задачам комбинаторной оптимизации.


 

А также другие работы, которые могут Вас заинтересовать

85386. Экологический мониторинг поверхностных водных объектов 78.5 KB
  Программа ГСМОС Вода включает 7 основных пунктов: создание всемирной сети станций мониторинга; разработка единой методики отбора и анализа проб воды; осуществление контроля за точностью данных; использование современных систем хранения и распространения информации; организация повышения квалификации для специалистов; подготовка методических справочников; обеспечение необходимым оборудованием в отдельных случаях. Основные задачи систематических наблюдений за качеством поверхностных вод в системе ОГСНК можно сформулировать следующим образом:...
85387. Отбор проб воды. Методы анализа водных сред 47.5 KB
  Отбор проб воды. representtive представительный показательный считается такая проба которая в максимальной степени характеризует качество воды по данному показателю является типичной и не искаженной вследствие концентрационных и других факторов. Пробы из рек и водных потоков отбирают для определения качество воды в бассейне реки пригодности воды для пищевого использования орошения для водопоя скота рыборазведения купания и водного спорта установления источников загрязнения. Учитывая длительность существования озер на первый план...
85388. Роль пробоотбора в общей процедуре методики анализа 44.5 KB
  Роль пробоотбора в общей процедуре методики анализа. Отбор проб почвы донных отложений растительности. Эффективность и достоверность методик и методического обеспечения системы экоаналитического контроля определяются прежде всего пробоотбором и пробоподготовкой. Любой химический анализ чаще всего начинают с отбора и подготовки пробы к анализу.
85389. Стабилизация, хранение, и транспортировка проб для анализа 57.5 KB
  Стабилизация хранение и транспортировка проб для анализа. Подготовка проб к анализу в лаборатории Пробы объектов окружающей среды могут отбираться как непосредственно перед анализом так и заблаговременно. В последнем случае применяются промежуточные операции хранения и стабилизации проб. Хранение проб в том числе содержащих следовые количества исследуемых веществ осложнено проблемой их потерь за счет сорбции на стенках сосудов а также разрушения в растворителях и на поверхностях носителей под действием кислорода света и других факторов...
85390. Метрологические аспекты экоаналитической процедуры 230.5 KB
  Задача количественного анализа определение измерение содержания т. Методики анализа включают в себя стадии подготовки пробы к анализу прямые измерения аналитических сигналов и их обработку вычисления результата анализа функционально связанного с результатами прямых измерений. Каждая стадия влияет на формирование аналитического сигнала и соответственно на результат анализа. Поэтому для метрологической характеристики определений необходима подробная методика описание всех условий и операций которые обеспечивают регламентированные...
85391. Основные принципы естествознания и концепция систем мониторинга 179 KB
  Концептуальные и теоретические схемы систем мониторинга. Пути усовершенствования мониторинга которые могут предложить современная наука и техника. Процедуру и технику эксперимента мониторинга нужно сделать как можно более устойчивой к неизвестным условиям наблюдения и изменяющимся и неизвестным параметрам или свойствам самого объекта.
85392. Цели и задачи экологического мониторинга 49.5 KB
  Цели и задачи экологического мониторинга. Классификация видов мониторинга В XX веке в науке возник термин мониторинг для определения системы повторных целенаправленных наблюдений за одним или более элементами окружающей природной среды в пространстве и времени. определяет мониторинг как систему регулярных длительных наблюдений в пространстве и во времени дающую информацию о прошлом и настоящем состояниях окружающей среды позволяющую прогнозировать на будущее изменение ее параметров имеющих особенное значение для человечества. Согласно...
85393. Государственная система мониторинга окружающей среды 77.5 KB
  Государственная система мониторинга окружающей среды. отходы w w w v w wсущественный объём информации; vограниченная информация отдельные вопросы Распределение функций мониторинга по различным ведомствам не связанным между собой приводило к дублированию усилий снижало эффективность всей системы мониторинга и затрудняло доступ к необходимой информации как для граждан так и для государственных организаций. Поэтому в 1993 году было принято решение о создании Единой государственной системы экологического мониторинга ЕГСЭМ которая должна...
85394. Глобальный мониторинг окружающей среды 48.5 KB
  Глобальный мониторинг окружающей среды Всемирной метеорологической организацией ВМО в шестидесятые годы была создана мировая сеть станций мониторинга фонового загрязнения атмосферы БАПМоН. Ее цель состояла в получении информации о фоновых уровнях концентрации атмосферных составляющих их вариациях и долгопериодных изменениях по которым можно судить о влиянии человеческой деятельности на состояние атмосферы. Развёрнутая там программа Глобальные системы мониторинга окружающей среды имеет 7 направлений: организация и расширение системы...