45353

Пандемониум Селфриджа

Доклад

Информатика, кибернетика и программирование

Демоны это относительно автономные сущности выполняющие элементарные функции. На самом нижнем уровне находятся демоны данных или демоны изображения рис. Вычислительные демоны обрабатывая визуальную информацию от демонов данных вырабатывают признаки и передают их демонам понимания. Демоны понимания всего лишь вычисляют взвешенные суммы сигналов поступающих от вычислительных демонов.

Русский

2013-11-16

56 KB

17 чел.

22 Пандемониум Селфриджа

Системы распознавания строятся таким образом, что на первом этапе поступающие на вход изображения обрабатываются с целью выделения наиболее существенных признаков. Эти признаки могут представлять собой определенные участки изображения либо иметь достаточно общий характер, например давать ответ на конкретный вопрос: "Имеется ли на изображении вертикальная черта?".

Система распознавания образов, предложенная Оливером Селфриджем и называемая пандемониумом, состоит из элементов – демонов. Демоны – это относительно автономные сущности, выполняющие элементарные функции. На самом нижнем уровне находятся демоны данных, или демоны изображения (рис. 6.1), которые играют роль светочувствительных элементов

Рисунок 6.1 – Пандемониум Селфриджа

На самом верхнем уровне находится демон решения, который определяет выход всей системы в целом – выдает сообщение, к какой категории относится узнанный образ. Ниже демона решения имеется некоторое число демонов понимания, каждый из которых соответствует одной из узнанных категорий. Например, первый демон понимания соответствует кошке, второй – собаке, третий – человеку и т.д. Вычислительные демоны, обрабатывая визуальную информацию от демонов данных, вырабатывают признаки и передают их демонам понимания.

Идея пондемониума состоит в том, что каждый демон понимания должен определить меру соответствия поступающих на его вход признаков категории образа, представленного этим демоном понимания. Чем лучше это соответствие, тем более сильный сигнал посылается к демону решения, который сравнивает интенсивность сигналов и выбирает наиболее сильный.

Идея, предложенная О. Селфриджем, программируется весьма просто. Демоны понимания всего лишь вычисляют взвешенные суммы сигналов, поступающих от вычислительных демонов. Так, i-й демон понимания вычисляет свой выходной сигнал Di, следующим образом:

где wij – весовые множители, устанавливающие значимость признаков, поступающих для суммирования; dj – выходной сигнал j-го вычислительного демона.

Суммирование ведется по всем вычислительным демонам. Фактически демоны понимания различаются между собой только значениями указаных весовых множителей.

Рассмотрим простой пример. Пусть сущностью первого демона понимания является кошка, второго – собака, третьего – человек. Зададим для них по десятибалльной шкале значения весовых множителей, например:

Демон

понимания

Наличие усов

Наличие

шерсти

Наличие

хвоста

Вес более

50 кг

Кошка

w11 = 10

w12 = 10

w13 = 10

w14 = 0

Собака

w21 = 0

w22 = 10

w23 = 8

w24 = 0

Человек

w31 = 2

w32 = 0

w33 = 0

w34 = 10

Допустим, что на считывающем устройстве пандемониума появляется образ в виде кошки. Вычислительные демоны сформируют следующие признаки: d1 = 1 (что означает – есть усы), d2 = 1 (есть шерсть), d3 = 1 (имеется хвост), d4 = 0 (вес не более 50 кг).

Демоны понимания произведут обработку признаков:

демон кошки – D1 = 10 х 1 + 10 х 1 + 10 х 1 + 0 х 0 = 30;

демон собаки – D2= 0 x l + 10 x 1 + 8 x l + 0 x 0=18;

демон человека – D3 = 2 x 1 + 0 x 1 + 0 x 1 + 10 x 0 = 2.

Таким образом, наибольшее число баллов набрала кошка.

Если на входе появился человек. Вычислительные демоны дадут признаки: d1 = 0 (что означает – нет усов), d2 = 0 (нет шерсти), d3 = 0 (нет хвоста), d4 = 1 (вес более 50 кг).

Демоны понимания произведут обработку поступивших признаков:

демон кошки – D1 = 10 х 0+ 10 x 0+ 10 x 0 + 0 x 1 = 0;

демон собаки – D2 = 0 x 0 + 10 x 0 + 8 x 0 + 0 x 1 = 0;

демон человека – D3 = 2 x 0 + 0 x 0 + 0 x 0 +10 x 1 = 10.

Вывод очевиден – на входе человек.

Пандемониум представляет собой обучающееся устройство, и каждый демон понимания осуществляет настройку своего способа комбинации выходных сигналов вычислительных демонов. Эта подстройка выполняется путем подбора весов wij и определяется обратной связью с окружающей средой, указывающей на правильность или полезность принимаемого решения, т. е. здесь подразумевается присутствие учителя, который сообщает системе правильную классификацию. Конкретные алгоритмы настройки системы могут быть самыми разнообразными и включать в себя математические методы оптимизации.

Когда весовые коэффициенты более-менее подобраны и принимаемое решение близко к оптимальному, то для любого вычислительного демона становится возможным вычислить его ценность для всей системы в целом. Ценность вычислительного демона определяется тем, насколько используется его выход. Мерой такой ценности может быть величина

.

Определение ценности позволяет производить изменения в используемом множестве вычислительных демонов. Например, можно автоматически исключать малоценные демоны и заменять их другими. Таким образом система приобретает самоорганизующийся характер и её настройка не сводится просто к самооптимизации параметров.

Автором системы были предложены два способа получения новых вычислительных демонов. Оба они основаны на том соображении, что целесообразно создавать демоны, имеющие что-то общее с уже существующими, которые доказали свою ценность. Эти методы называются слиянием и делением с мутацией. Слияние заключается в том, что выходные сигналы двух демонов высокой ценности комбинируются между собой.

6.3 Персептрон Розенблатта

Способ распознавания, заложенный в пандемониуме О. Селфрижда, плохо согласуется с представлениями о процессах, происходящих в мозге. Поэтому этот способ характерен для кибернетики "черного ящика". Альтернативным подходом является попытка копирования процессов коры головного мозга, реализованная в другом устройстве распознавания образа – персептроне.

Первоначально персептрон Розенблатта (рис. 6.2) содержал узлы трех типов. Сенсорные, или с-узлы, имитировали светочувствительные клетки сетчатки глаза. Они соответствовали демонам изображения, или демонам данных, пандемониума Селфриджа.

Рисунок 6.2 – Персептрон Розенблатта

Следующий слой состоял из ассоциативных, или а-узлов, которые в общих чертах соответствуют вычислительным демонам пандемониума. В первоначальных вариантах исполнения персептрона соединения, идущие от с-узлов, формировались случайным образом еще в процессе конструирования системы, поэтому они определяли некоторые случайные свойства изображения. Как и в пандемониуме, при обучении персептрона вычислялись данные о ценности каждого а-узла. Входные соединения а-узла, ценность которых в процессе работы оказывалась малой, аннулировались, после чего случайным или псевдослучайным образом устанавливался новый набор соединений.

Выходы а-узлов были соединены с узлами реакции, или р-узлами, соответствующими демонам понимания пандемониума. В отличие от пандемониума р-узел дает только ответ "да" или "нет".

Как а-узлы, так и р-узлы персептрона представляли собой математические нейроны, которые были рассмотрены ранее. Некоторые из соединений между узлами являлись возбуждающими, а некоторые – тормозящими. Веса синапсов, идущих к р-узлам, изменялись в процессе обучения персептрона.

Алгоритм обучения персептрона состоял в следующем. Если реакция р-узла являлась правильной (т.е. он срабатывал, когда образ принадлежал к распознаваемому классу, или не срабатывал, когда образ не принадлежал указанному классу), то веса не изменялись.

Если р-узел не срабатывал, когда распознаваемый образ на самом деле относился к рассматриваемому классу, то веса синапсов, бывших активными, увеличиваются на некоторую величину с. С другой стороны, если р-узел срабатывал на образ, который не принадлежал распознаваемому классу, то веса активных синапсов уменьшались на величину с.

С помощью этих весов вычислялись ценности каждого а-узла, и если ценность была мала, то его синапсы (связи с с-узлами) разрушались и строились новые.

В заключение отметим, что, несмотря на отмеченное сходство идей, персептрон в большей степени, чем пандемониум, соответствует нашим представлениям о структуре и процессах функционирования мозга. Возможно поэтому он оказался более эффективен и получил в наши дни дальнейшее развитие и применение в нейросетевых и нейрокомпьютерных технологиях.


емон решения

Демоны понимания

(суммируют признаки,

соответствуют объектам)

Вычисляемые демоны

(вырабатывают признаки)

Демоны данных

(сетчатка глаза)

Признаки

c-узлы

a-узлы

p-узел


 

А также другие работы, которые могут Вас заинтересовать

40719. Основные направления инновационной политики государства 53.5 KB
  Одним из важнейших показателей состояния и развития научной деятельности является численность исследователей техников и вспомогательного персонала занятых в инновационной сфере. Россия направляющая в научнотехническую сферу менее 1 ВВП все больше отстает от группы промышленно развитых и некоторых развивающихся стран. Недостаток капитала выступает сегодня в России в качестве одного из основных ограничителей научнотехнического развития. Устойчивой гарантией динамичного развития научнотехнической сферы в условиях рынка является только...
40720. Инновация: сущность, источники, жизненный цикл 31.5 KB
  Эти различия затрагивают прежде всего общую продолжительность цикла продолжительность каждой стадии внутри цикла особенности развития самого цикла разное количество стадий. Виды и количество стадий жизненного цикла определяются особенностями той или иной инновации. Однако у каждой инновации можно определить стержневую то есть базовую основу жизненного цикла с четко выделенными стадиями. Схемы жизненного цикла различны у инновационного продукта и у инновационной операции процедуры.
40721. Программно-целевой метод управления 28 KB
  Программноцелевой метод управления. Программноцелевой метод научнопрограммный и временной способ увязки планируемых целей с ресурсами. Программноцелевой метод в управлении ориентирован на достижение конечного результата в логике поэтапного действия: формирование дерева целей разработка адекватной исполняющей программы реализация управляющей программы. Ключевой идеей программноцелевого метода выступает матрица цель средство иерархическая структура строго сформулированных целей программных элементов каждый из которых служит...
40722. Инновационная стратегия фирмы 33.5 KB
  Инновационная стратегия фирмы. Обычно к таким стратегиям относят: 1. Стратегия непрерывного совершенствования кайзен продукции. Инновационная стратегия целенаправленная деятельность по определению приоритетов перспективного развития организации и их достижению в результате которой обеспечивается новое качество производства и управления.
40723. Прогрессивные формы организации инновационной деятельности :бизнес-инкубаторы, технопарки, технополисы 31 KB
  Инновационная деятельность это процесс направленный на реализацию результатов законченных научных исследований и разработку иных научно технических достижений интеллектуального продукта. Отличительные черты: комплексность по научнопроизводственному циклу научные учреждения вузы промышленные предприятия компактность расположения ограниченность площади расположение в экологически чистых районах. Технополис научнотехнический комплекс соединяющий научнотехническую деятельность с наукоемким производством с хорошо развитой...
40724. Экономическая безопасность государства и механизм ее реализации 43 KB
  Проблемы обеспечения экономической безопасности страны стабильного экономического развития государства и общества стоят перед многими странами мира. Современное социальноэкономическое положение России обусловливает чрезвычайную актуальность целенаправленной деятельности государства в сфере обеспечения экономической безопасности страны российского общества и каждого гражданина в отдельности. Например США разрабатывают доктрину концепцию и стратегию своей национальной безопасности где особое место уделено вопросам экономической...
40725. Предпринимательство как вид экономической деятельности. Виды предпринимательства 35 KB
  Виды предпринимательства. Рыночная экономика экономика свободного предпринимательства. В зависимости от содержания и направленности предпринимательской деятельности объекта приложения капитала и получения конкретных результатов связи предпринимательской деятельности с основными стадиями воспроизводственного процесса различают следующие виды предпринимательства: 1. Коммерческое торговое предпринимательство Принцип организации торгового предпринимательства несколько отличается от производственного так как предприниматель выступает...
40726. Инфраструктурное обеспечение предпринимательской деятельности 25 KB
  Cистема общих условий воспроизводства предпринимательского типа представляющая собой совокупность техникотехнологических организационноэкономических и социальных взаимосвязей тех элементов инфраструктуры которые обеспечивают обслуживание процесса предпринимательства на уровне макро мезо и микроэкономики. являются научность и системность в формировании и развитии предпринимательства и его инфраструктуры а также постепенность и многообразие моделей инфраструктурного обеспечения предпринимательства. Прежде всего нужна трансформация...
40727. Виды и формы предпринимательской деятельности 39 KB
  Рыночная экономика экономика свободного предпринимательства. В зависимости от содержания и направленности предпринимательской деятельности объекта приложения капитала и получения конкретных результатов связи предпринимательской деятельности с основными стадиями воспроизводственного процесса различают следующие виды предпринимательства: 1. Коммерческое торговое предпринимательство Принцип организации торгового предпринимательства несколько отличается от производственного так как предприниматель выступает непосредственно в роли...