45353

Пандемониум Селфриджа

Доклад

Информатика, кибернетика и программирование

Демоны – это относительно автономные сущности выполняющие элементарные функции. На самом нижнем уровне находятся демоны данных или демоны изображения рис. Вычислительные демоны обрабатывая визуальную информацию от демонов данных вырабатывают признаки и передают их демонам понимания. Демоны понимания всего лишь вычисляют взвешенные суммы сигналов поступающих от вычислительных демонов.

Русский

2013-11-16

56 KB

17 чел.

22 Пандемониум Селфриджа

Системы распознавания строятся таким образом, что на первом этапе поступающие на вход изображения обрабатываются с целью выделения наиболее существенных признаков. Эти признаки могут представлять собой определенные участки изображения либо иметь достаточно общий характер, например давать ответ на конкретный вопрос: "Имеется ли на изображении вертикальная черта?".

Система распознавания образов, предложенная Оливером Селфриджем и называемая пандемониумом, состоит из элементов – демонов. Демоны – это относительно автономные сущности, выполняющие элементарные функции. На самом нижнем уровне находятся демоны данных, или демоны изображения (рис. 6.1), которые играют роль светочувствительных элементов

Рисунок 6.1 – Пандемониум Селфриджа

На самом верхнем уровне находится демон решения, который определяет выход всей системы в целом – выдает сообщение, к какой категории относится узнанный образ. Ниже демона решения имеется некоторое число демонов понимания, каждый из которых соответствует одной из узнанных категорий. Например, первый демон понимания соответствует кошке, второй – собаке, третий – человеку и т.д. Вычислительные демоны, обрабатывая визуальную информацию от демонов данных, вырабатывают признаки и передают их демонам понимания.

Идея пондемониума состоит в том, что каждый демон понимания должен определить меру соответствия поступающих на его вход признаков категории образа, представленного этим демоном понимания. Чем лучше это соответствие, тем более сильный сигнал посылается к демону решения, который сравнивает интенсивность сигналов и выбирает наиболее сильный.

Идея, предложенная О. Селфриджем, программируется весьма просто. Демоны понимания всего лишь вычисляют взвешенные суммы сигналов, поступающих от вычислительных демонов. Так, i-й демон понимания вычисляет свой выходной сигнал Di, следующим образом:

где wij – весовые множители, устанавливающие значимость признаков, поступающих для суммирования; dj – выходной сигнал j-го вычислительного демона.

Суммирование ведется по всем вычислительным демонам. Фактически демоны понимания различаются между собой только значениями указаных весовых множителей.

Рассмотрим простой пример. Пусть сущностью первого демона понимания является кошка, второго – собака, третьего – человек. Зададим для них по десятибалльной шкале значения весовых множителей, например:

Демон

понимания

Наличие усов

Наличие

шерсти

Наличие

хвоста

Вес более

50 кг

Кошка

w11 = 10

w12 = 10

w13 = 10

w14 = 0

Собака

w21 = 0

w22 = 10

w23 = 8

w24 = 0

Человек

w31 = 2

w32 = 0

w33 = 0

w34 = 10

Допустим, что на считывающем устройстве пандемониума появляется образ в виде кошки. Вычислительные демоны сформируют следующие признаки: d1 = 1 (что означает – есть усы), d2 = 1 (есть шерсть), d3 = 1 (имеется хвост), d4 = 0 (вес не более 50 кг).

Демоны понимания произведут обработку признаков:

демон кошки – D1 = 10 х 1 + 10 х 1 + 10 х 1 + 0 х 0 = 30;

демон собаки – D2= 0 x l + 10 x 1 + 8 x l + 0 x 0=18;

демон человека – D3 = 2 x 1 + 0 x 1 + 0 x 1 + 10 x 0 = 2.

Таким образом, наибольшее число баллов набрала кошка.

Если на входе появился человек. Вычислительные демоны дадут признаки: d1 = 0 (что означает – нет усов), d2 = 0 (нет шерсти), d3 = 0 (нет хвоста), d4 = 1 (вес более 50 кг).

Демоны понимания произведут обработку поступивших признаков:

демон кошки – D1 = 10 х 0+ 10 x 0+ 10 x 0 + 0 x 1 = 0;

демон собаки – D2 = 0 x 0 + 10 x 0 + 8 x 0 + 0 x 1 = 0;

демон человека – D3 = 2 x 0 + 0 x 0 + 0 x 0 +10 x 1 = 10.

Вывод очевиден – на входе человек.

Пандемониум представляет собой обучающееся устройство, и каждый демон понимания осуществляет настройку своего способа комбинации выходных сигналов вычислительных демонов. Эта подстройка выполняется путем подбора весов wij и определяется обратной связью с окружающей средой, указывающей на правильность или полезность принимаемого решения, т. е. здесь подразумевается присутствие учителя, который сообщает системе правильную классификацию. Конкретные алгоритмы настройки системы могут быть самыми разнообразными и включать в себя математические методы оптимизации.

Когда весовые коэффициенты более-менее подобраны и принимаемое решение близко к оптимальному, то для любого вычислительного демона становится возможным вычислить его ценность для всей системы в целом. Ценность вычислительного демона определяется тем, насколько используется его выход. Мерой такой ценности может быть величина

.

Определение ценности позволяет производить изменения в используемом множестве вычислительных демонов. Например, можно автоматически исключать малоценные демоны и заменять их другими. Таким образом система приобретает самоорганизующийся характер и её настройка не сводится просто к самооптимизации параметров.

Автором системы были предложены два способа получения новых вычислительных демонов. Оба они основаны на том соображении, что целесообразно создавать демоны, имеющие что-то общее с уже существующими, которые доказали свою ценность. Эти методы называются слиянием и делением с мутацией. Слияние заключается в том, что выходные сигналы двух демонов высокой ценности комбинируются между собой.

6.3 Персептрон Розенблатта

Способ распознавания, заложенный в пандемониуме О. Селфрижда, плохо согласуется с представлениями о процессах, происходящих в мозге. Поэтому этот способ характерен для кибернетики "черного ящика". Альтернативным подходом является попытка копирования процессов коры головного мозга, реализованная в другом устройстве распознавания образа – персептроне.

Первоначально персептрон Розенблатта (рис. 6.2) содержал узлы трех типов. Сенсорные, или с-узлы, имитировали светочувствительные клетки сетчатки глаза. Они соответствовали демонам изображения, или демонам данных, пандемониума Селфриджа.

Рисунок 6.2 – Персептрон Розенблатта

Следующий слой состоял из ассоциативных, или а-узлов, которые в общих чертах соответствуют вычислительным демонам пандемониума. В первоначальных вариантах исполнения персептрона соединения, идущие от с-узлов, формировались случайным образом еще в процессе конструирования системы, поэтому они определяли некоторые случайные свойства изображения. Как и в пандемониуме, при обучении персептрона вычислялись данные о ценности каждого а-узла. Входные соединения а-узла, ценность которых в процессе работы оказывалась малой, аннулировались, после чего случайным или псевдослучайным образом устанавливался новый набор соединений.

Выходы а-узлов были соединены с узлами реакции, или р-узлами, соответствующими демонам понимания пандемониума. В отличие от пандемониума р-узел дает только ответ "да" или "нет".

Как а-узлы, так и р-узлы персептрона представляли собой математические нейроны, которые были рассмотрены ранее. Некоторые из соединений между узлами являлись возбуждающими, а некоторые – тормозящими. Веса синапсов, идущих к р-узлам, изменялись в процессе обучения персептрона.

Алгоритм обучения персептрона состоял в следующем. Если реакция р-узла являлась правильной (т.е. он срабатывал, когда образ принадлежал к распознаваемому классу, или не срабатывал, когда образ не принадлежал указанному классу), то веса не изменялись.

Если р-узел не срабатывал, когда распознаваемый образ на самом деле относился к рассматриваемому классу, то веса синапсов, бывших активными, увеличиваются на некоторую величину с. С другой стороны, если р-узел срабатывал на образ, который не принадлежал распознаваемому классу, то веса активных синапсов уменьшались на величину с.

С помощью этих весов вычислялись ценности каждого а-узла, и если ценность была мала, то его синапсы (связи с с-узлами) разрушались и строились новые.

В заключение отметим, что, несмотря на отмеченное сходство идей, персептрон в большей степени, чем пандемониум, соответствует нашим представлениям о структуре и процессах функционирования мозга. Возможно поэтому он оказался более эффективен и получил в наши дни дальнейшее развитие и применение в нейросетевых и нейрокомпьютерных технологиях.


емон решения

Демоны понимания

(суммируют признаки,

соответствуют объектам)

Вычисляемые демоны

(вырабатывают признаки)

Демоны данных

(сетчатка глаза)

Признаки

c-узлы

a-узлы

p-узел


 

А также другие работы, которые могут Вас заинтересовать

46679. Стабилизационная политика государства в закрытой экономике 30.73 KB
  Инструменты денежнокредитной политики Банка России: ограничения динамики кредитования; учетная дисконтная политика; операции на открытом рынке; рефинансирование коммерческих банков. Современный коммерческий банк: функции операции роль в экономике. расчетнокассовые операции. Пассивные операции это такие операции банков в результате которых происходит увеличение денежных средств находящихся на пассивных счетах или активнопассивных счетах в части превышения пассивов над активами.
46680. НЭП и его особенности 29.93 KB
  Цель принятия НЭПа была направлена: на преодоление разрухи в стране восстановление экономики; создание фундамента социализма; развитие крупной промышленности; вытеснение и ликвидацию капиталистических элементов; укрепление союза рабочего класса и крестьянства. Вводилось ограничение на прибыль; разрешение наёмного труда аренды земли предприятий; возрождение кредитной системы был воссоздан Госбанк образован целый ряд специализированных банков;...
46683. Матаериалы применяемые для ликвидации зимней скользкости 27.64 KB
  При зимнем содержании автомобильных дорог применяют химический химикофрикционный и фрикционный способы борьбы с зимней скользкостью в соответствии с СТБ 1158. Зимнее содержание искуственных сооружений Искусственные сооружения относятся к опасным участкам дорог поэтому работы по профилактической обработке ликвидации зимней скользкости и снегоочистке на них должны проводиться в первую очередь. Для эффективной организации работ по зимнему содержанию автомобильных дорог необходимо иметь фактические данные о подверженности конкретных участков...
46685. Da, wo ich mich wohlfühle 26 KB
  Wir sind in Neubauvierteln groß geworden, mit Cola und Corn-flakes, mit Michael Jackson und „Sesamstraße“. Wir wollten nicht mehr Polizist werden und Prinzessin, sondern Filmstar oder Ölmilliardär. Wir sind mit sieben schon auf Mallorca gewesen und haben die Familie im Stockwerk über uns nicht gekannt. Wir konnten mit zwölf schon Englisch und verstanden Omas Dialekt nicht mehr
46686. Основні характеристики сучасної української літературної мови. Види мовних норм 26 KB
  Основні характеристики сучасної української літературної мови. Основні характеристики мовної норми на сучасному етапі розвитку літературної мови. Літературна мова унормована стандартна правильна з погляду усталених кодифікованих норм форма національної мови що обслуговує культурноосвітні потреби нації виконує консолідуючу функцію шляхом використання у сферах державного управління ЗМІ науки культури та літератури. Мовна норма сукупність найтісніших усталених елементів мови які в процесі історичного розвитку відібрала і закріпила...