45346

Персептрон Розенблатта

Доклад

Информатика, кибернетика и программирование

В первоначальных вариантах исполнения персептрона соединения идущие от сузлов формировались случайным образом еще в процессе конструирования системы поэтому они определяли некоторые случайные свойства изображения. Как и в пандемониуме при обучении персептрона вычислялись данные о ценности каждого аузла. Как аузлы так и рузлы персептрона представляли собой математические нейроны которые были рассмотрены ранее. Веса синапсов идущих к рузлам изменялись в процессе обучения персептрона.

Русский

2013-11-16

53 KB

30 чел.

12 Персептрон Розенблатта

Способ распознавания, заложенный в пандемониуме О. Селфрижда, плохо согласуется с представлениями о процессах, происходящих в мозге. Поэтому этот способ характерен для кибернетики "черного ящика". Альтернативным подходом является попытка копирования процессов коры головного мозга, реализованная в другом устройстве распознавания образа – персептроне.

Первоначально персептрон Розенблатта (рис. 6.2) содержал узлы трех типов. Сенсорные, или с-узлы, имитировали светочувствительные клетки сетчатки глаза. Они соответствовали демонам изображения, или демонам данных, пандемониума Селфриджа.

Рисунок 6.2 – Персептрон Розенблатта

Следующий слой состоял из ассоциативных, или а-узлов, которые в общих чертах соответствуют вычислительным демонам пандемониума. В первоначальных вариантах исполнения персептрона соединения, идущие от с-узлов, формировались случайным образом еще в процессе конструирования системы, поэтому они определяли некоторые случайные свойства изображения. Как и в пандемониуме, при обучении персептрона вычислялись данные о ценности каждого а-узла. Входные соединения а-узла, ценность которых в процессе работы оказывалась малой, аннулировались, после чего случайным или псевдослучайным образом устанавливался новый набор соединений.

Выходы а-узлов были соединены с узлами реакции, или р-узлами, соответствующими демонам понимания пандемониума. В отличие от пандемониума р-узел дает только ответ "да" или "нет".

Как а-узлы, так и р-узлы персептрона представляли собой математические нейроны, которые были рассмотрены ранее. Некоторые из соединений между узлами являлись возбуждающими, а некоторые – тормозящими. Веса синапсов, идущих к р-узлам, изменялись в процессе обучения персептрона.

Алгоритм обучения персептрона состоял в следующем. Если реакция р-узла являлась правильной (т.е. он срабатывал, когда образ принадлежал к распознаваемому классу, или не срабатывал, когда образ не принадлежал указанному классу), то веса не изменялись.

Если р-узел не срабатывал, когда распознаваемый образ на самом деле относился к рассматриваемому классу, то веса синапсов, бывших активными, увеличиваются на некоторую величину с. С другой стороны, если р-узел срабатывал на образ, который не принадлежал распознаваемому классу, то веса активных синапсов уменьшались на величину с.

С помощью этих весов вычислялись ценности каждого а-узла, и если ценность была мала, то его синапсы (связи с с-узлами) разрушались и строились новые.

В заключение отметим, что, несмотря на отмеченное сходство идей, персептрон в большей степени, чем пандемониум, соответствует нашим представлениям о структуре и процессах функционирования мозга. Возможно поэтому он оказался более эффективен и получил в наши дни дальнейшее развитие и применение в нейросетевых и нейрокомпьютерных технологиях.

Персептрон Розенблатта

У. Мак-Каллок и В. Питтс предложили конструкцию сети из математических нейронов и показали, что такая сеть в принципе может выполнять числовые и логические операции. Далее они высказали идею о том, что сеть из математических нейронов в состоянии обучаться, распознавать образы, обобщать, т.е. она обладает свойствами человеческого интеллекта.

Идея Мак-Каллока – Питтса была реализована в 1958 году Фрэнком Розенблаттом сначала в виде компьютерной программы для компьютера IBM-794, а затем, спустя два года, в виде электронного устройства, моделирующего человеческий глаз. Это устройство, имеющее в качестве элементной базы модельные нейроны Мак-Каллока – Питтса и названное персептроном, удалось обучить решению сложнейшей интеллектуальной задачи – распознаванию букв латинского алфавита. Таким образом, удалось проверить основные гипотезы функционирования человеческого мозга и сам механизм его обучаемости. "Нельзя сказать, что мы точно воспроизводим работу человеческого мозга, – признавался Ф. Розенблатт, – но пока персептрон ближе всего к истине".

Рассмотрим принцип действия персептрона на примере. На рис. 5.4 приведен один из простейших вариантов исполнения персептрона, предназначенного для классификации цифр на чётные и нечётные. Представим себе матрицу из 12 фотоэлементов, расположенных в виде четырех горизонтальных рядов, в каждом из которых три фотоэлемента. На матрицу фотоэлементов накладывается карточка с изображением цифры, в данном примере – цифра 4. Если на фотоэлемент попадает какой-либо фрагмент цифры, то данный фотоэлемент вырабатывает сигнал в виде двоичной единицы, в противном случае – нуль. В приведенном примере первый фотоэлемент выдает сигнал x1 = 0, второй фотоэлемент – х2 = 1 и т.д. Далее производиться суммирование входных сигналов xj, помноженных на синаптические веса wj, первоначально заданные датчиком случайных чисел. После этого сумма сравнивается с порогом чувствительности , также заданным случайным образом. Цель обучения персептрона состоит в том, чтобы выходной сигнал у был равен единице, если на карточке была изображена чётная цифра, и нулю, если цифра была нечётной.

Эта цель достигается путём обучения персептрона, заключающемся в корректировке весовых коэффициентов wj. Если, например, на вход персептрона была предъявлена карточка с цифрой 4 и выходной сигнал у случайно оказался равным единице, означающей чётность, то корректировать веса не нужно, так как реакция персептрона правильна. Однако если выход неправилен и у = 0, то следует увеличить веса тех активных входов, которые способствуют возбуждению нейрона. В данном случае увеличению подлежат w2, wj и w11.

Таким образом, можно сформулировать следующий итерационный алгоритм корректировки весовых коэффициентов, обеспечивающий обучение персептрона в нужном направлении.

Шаг 1. Подать входной образ и вычислить выход персептрона у.

Шаг 2, а. Если выход правильный, то перейти на шаг 1.

Шаг 2, б. Если выход неправильный и равен нулю, то увеличить веса активных входов, например, добавить все входы к соответствующим им весам: wj(t + 1) = wj(t) + хj.

Шаг 2, в. Если выход неправильный и равен единице, то уменьшить веса активных входов, например вычесть каждый вход из соответствующего ему веса: wj(t + 1) = wj(t) - хj.

Шаг 3. Перейти на шаг 1 или завершить процесс обучения.

В приведенном здесь алгоритме шаг 2, б называют первым правилом Хебба, а шаг 2, в – вторым правилом Хебба, в честь учёного, предложившего этот алгоритм в 1949 году.

Рассмотренный алгоритм обучения персептрона можно представить в более общей форме. Если через d обозначить требуемый выходной сигнал, то на каждой итерации можно рассчитывать разницу между требуемым ответом персептрона d и реальным значением у, вычисляемым на его выходе:

= (d – y).

Тогда случай = 0 соответствует шагу 2, а, когда выход правилен; случай > 0 – шагу 2, б; случай  < 0 – шагу 2, в.

Рассмотрим пример использования персептрона для распознавания букв русского алфавита (рис. 5.5). В отличие от предыдущей схемы такой персептрон имеет 33 нейрона, для каждой букве алфавита. Выход первого нейрона у1 должен быть равен единице, если персептрону предъявлена буква "А", и нулю для всех остальных букв. Выход второго нейрона у2 должен быть равен единице, если персептрону предъявлена буква "Б", и нулю во всех остальных случаях. И так далее до буквы "Я"

Такой персептрон можно использовать и для решения других практических задач. Например, обучить выполнять прогноз погоды или ставить диагнозы болезней. Все зависит от того, какой смысл придавать входному вектору x1 и выходному вектору у1. Круг решаемых задач значительно расширится, если научить персептрон выдавать не только бинарные выходные сигналы типа ноль и единица, но и аналоговые, т. е. имеющие непрерывные значения. Такое обобщение персептрона было сделано Уидроу и Хоффом.

Ф. Розенблатту удалось обучить свой персептрон распознавать буквы алфавита. Это был колоссальный успех. Электронное устройство, созданное по образу и подобию человеческого мозга, обученное подобно человеку, успешно моделировало интеллектуальные функции человека. Это был шаг вперед в познании природы человеческого мышления. Появилась возможность исследовать мозг методами моделирования, не прибегая к натурным экспериментам. Казалось, что ключ к интеллекту был найден и полное воспроизведение человеческого мозга и всех его функций – это всего лишь вопрос времени.

Класс решаемых персептронами задач расширялся. Персептроны применялись для решения задач диагностики, таких как анализ электрокардиограмм и заключение врача о диагнозе болезни пациента. По мере расширения области научных исследований появились трудности. Неожиданно оказалось, что многие новые задачи персептрон решить не мог, причём эти задачи внешне ничем не отличались от тех, с которыми персептрон успешно справлялся ранее. Возникла необходимость объяснения возникших парадоксов, глубокого анализа и создания теоретической базы персептронов. Одну из таких задач, заключающуюся в реализации логической операции "Исключающее ИЛИ", мы рассмотрим подробно.

"Исключающее ИЛИ" – это булева функция двух аргументов, каждый из которых может иметь значение "истинно" либо "ложно". Сама она принимает значение "истинно", когда только один из аргументов имеет значение "истинно". Во всех остальных случаях функция принимает значение "ложно".

Как показали исследования, рассмотренный персептрон в принципе не способен воспроизвести соотношение между входами и выходом, требуемое для представления функции "Исключающее ИЛИ".


Признаки

-узлы

a-узлы

p-узел


 

А также другие работы, которые могут Вас заинтересовать

54254. Функціональна залежність в системі прикладних задач шкільного курсу математики 631.08 KB
  Стаття містить приклад класифікації прикладних задач та аналіз способу їх розв’язання, узагальнений алгоритм розв’язування задач прикладного характеру. Основне її завдання спонукати використання прикладних задач при вивченні функціональної лінії шкільного курсу математики.
54255. Письмове додавання трицифрових чисел із переходом через розряд 716 KB
  Ознайомити учнів із прийомом письмового додавання трицифрових чисел з переходом через розряд; формувати навички письмового додавання і віднімання трицифрових чисел; виховувати почуття взаємодопомоги, вміння працювати в команді, аргументовано відстоюючи власну думку; розвивати охайність при виконанні робіт.
54256. Відсоткові розрахунки, Один день праці на підприємстві 102.5 KB
  Мета уроку: Формування в учнів вмінь самостійно визначати тип задачі на відсотки та навичок обчислень відсотка від числа, числа за його відсотком та відсоткового відношення двох чисел; розкрити практичну необхідність вивчення теми «Відсотки» в шкільному курсі; розвивати інтерес до математики, прагнення до самовдосконалення; виховувати почуття колективізму та відповідальності перед колективом.
54257. Умножение и деление рациональных чисел 174.5 KB
  Цель: развивать социальную компетентность используя самооценку и взаимооценку; развивать компетентность самообразования стимулируя познавательный интерес; развивать коммуникативную компетентность организовывая работу в парах; обобщить знания учащихся об умножении и делении рациональных чисел; экономическое воспитание. Тема урока Умножение и деление рациональных чисел. Как будет называться наше АО вы узнаете по своим ответам на мои вопросы составив слово Теория первична Учитель ...
54258. Закрепление сложения и вычитания трехзначных чисел 333 KB
  Ребята сегодня у нас необычный урок математики к нам пришли гости. Какие вы второклассники Ждут вас сегодня затеи и задачи Игры шутки всё для вас Пожелаю вам удачи За работу в добрый час Ребята за ваши правильные и полные ответы я вам буду раздавать наклейки. Ребята наши гости решили поиграть с вами в прятки спрятались от вас.
54259. Переместительное свойство сложения 22.5 KB
  Материалы необходимые для урока: изображение дерева изображения листьев Ход урока: Давайте посчитаем сколько же листьев на нашем дереве Сколько листьев справа от дерева 4 Сколько листьев слева от дерева 3 Где листьев больше а где меньше 3.
54260. Видатні українські математики. Застосування різних способів розкладання многочленів на множники 619.5 KB
  1 учень: Остроградський Михайло Васильович народився у вересні 1801 року на Полтавщині. 2 учень: Походив з родини збіднілих дворян які мали глибоке козацьке коріння. 3 учень: У 8 років його віддали до гімназії у Полтаві але хлопчик жвавої та веселої вдачі звикший до роздольного життя у рідному селі особливою старанністю не відзначався. Учень: Блискуче закінчивши університет Михайло рік живе у батька а потім вирішивши присвятити себе математиці знову повертається до Харкова для вдосконалення своїх знань.
54261. Творчий підхід до вивчення математики 155.5 KB
  Школа покликана якомога раніше виявити якості творчої особистості в учнів і розвивати їх у всіх школярів зважаючи звичайно на те що діти народжуються з різними задатками творчості. Водночас більшою мірою потрібно дбати про розвиток творчої особистості у здібних та обдарованих учнів. Можна розглянути інтелектуальноеврестичні здібності особистості які включають: Здібності генерувати ідеї висувати гіпотези що характеризує інтелектуальноеврестичні властивості особистості в...
54262. Активізація пізнавальної діяльності на уроках математики 168 KB
  Знайти середню лінію. Знайти основи трапеції. Знайти основи. Знайти меншу основу трапеції якщо її периметр 54см.