8137

Обучение с использованием знаний. Логическая формулировка задачи обучения

Лекция

Информатика, кибернетика и программирование

Обучение с использованием знаний. Логическая формулировка задачи обучения Обучение с использованием знаний Рассмотрим логические связи между гипотезами, описаниями примеров и классификациями. Пусть Descriptions обозначает коньюнкцию всех описаний пр...

Русский

2013-02-04

78.5 KB

3 чел.

Обучение с использованием знаний.

Логическая формулировка задачи обучения

Обучение с использованием знаний

Рассмотрим логические связи между гипотезами, описаниями примеров и классификациями. Пусть Descriptions обозначает коньюнкцию всех описаний примеров в обучающем множестве, а Classifications – коньюнкцию всех классификаций примеров. В таком случае гипотеза, которая позволяет “объяснить результаты наблюдений”, должна удовлетворять следующему свойству:

Hypothesis & Descriptions |= Classifications

Связь такого рода называется ограничением логического следствия, в котором Hypothesis представляет собой “неизвестное”. Например, если дерево решений рассматривается как логическая формула, то дерево решений, совместимое со всеми примерами, удовлетворяет данному уравнению.

Современный подход состоит в том, что должны проектироваться агенты, которые уже что-то знают и пытаются освоить в процессе обучения некоторую дополнительную информацию. Схема, которая показывает, как в процессе обучения с накоплением знаний используется и со временем обогащается запас фоновых знаний, изображена на рис. 4.

Рис. 4

Агент может начать свое существование без какого-либо запаса знаний, осуществляя индуктивные выводы в условиях отсутствия знаний. В дальнейшем агент должен использовать свои фоновые знания для все более эффективного обучения. Вопрос заключается в том, как фактически следует использовать знания в обучении.

Рассмотрим общеизвестные примеры обучения на основе фоновых знаний.

1. В первом примере пещерный человек поджаривает на огне ящерицу, насаженную на заостренную палочку. За ним наблюдает и обучается толпа соплеменников, которые до сих пор разогревали пищу над огнем, держа ее голыми руками.

2. Во втором примере путешественник, прибывший в Бразилию, встречает первого в своей жизни бразильца. Услышав от него речь на португальском языке, путешественник делает вывод, что бразильцы говорят на португальском, но узнав, что его собеседника зовут Фернандо, он не делает вывод, что все бразильцы носят это же имя. Аналогичный пример из научной области: когда студент-физик измеряет плотность и проводимость медного образца при определенной температуре, он обобщает эти данные на все предметы из меди. Но измерив массу этого образца, студент не рассматривает гипотезу, что все предметы из меди имеют такую же массу, хотя он может сделать такое обобщение относительно всех монет одинакового достоинства.

3. Следующий пример: студент-медик присутствует на консультации, которую дает пациенту опытный терапевт. После ряда вопросов и ответов специалист сообщает пациенту, чтобы он прошел курс лечения конкретным антибиотиком. Студент-медик делает вывод, что данный антибиотик является эффективным средством лечения при данном конкретном типе инфекции.

В данных примерах использование фоновых знаний обеспечивает гораздо более быстрое обучение по сравнению с тем, чего можно ожидать при использовании метода чисто индуктивного обучения.

Рассмотрим какие ограничения приведенного выше логического следствия применяются в каждом из этих случаев. В таких ограничениях, кроме гипотезы, описаний наблюдаемых примеров и классификации, применяются фоновые знания Backgraund.

В первом примере используется обобщение, получившее название обучения на основе объяснения (EBLExplanation-Based Learning). Здесь общее правило следует логически из фоновых знаний, которыми обладают пещерные люди:

Hypothesis & Descriptions |= Classifications

Backgraund |= Hypothesis

Во втором примере априорные знания Backgraund касаются релевантности множества характеристик по отношению к целевому предикату. Эти знания, наряду с результатами наблюдений, позволяют агенту вывести новое, общее правило, которое объясняет результаты наблюдений, следующим образом:

Hypothesis & Descriptions |= Classifications

Backgraund &Descriptions & Classifications |= Hypothesis

Обобщение такого рода называется обучением с учетом релевантности (RBLRelevance-Based Learning).

В третьем примере для объяснения примеров объединяются фоновые знания и новая гипотеза:

Backgraund & Hypothesis & Descriptions |= Classifications

Как и при чисто индуктивном обучении, алгоритм обучения должен выдвигать гипотезы, которые являются как можно более простыми и совместимыми с данным ограничением. Такие алгоритмы называются алгоритмами индуктивного обучения на основе знаний (KBILKnowledge-Based Inductive Learning).

Логическая формулировка задачи обучения

Для создания логической формулировки задачи обучения гипотеза представляется в виде множества логических высказываний. Описания примеров и определения классов также заданы в виде логических высказываний, а классификация нового примера может быть выполнена путем логического вывода классификационного высказывания из гипотезы и описания примера. Такой подход обеспечивает инкрементное формирование гипотез и дает возможность использовать априорные знания, так как уже известные высказывания могут помочь при классификации новых примеров.

Рассмотрим логическую формулировку задачи обучения на примере задачи обучения с рестораном, в которой требуется изучить правило принятия решения о том, при каких условиях следует ждать освобождения столика. В логической формулировке задачи атрибуты становятся унарными предикатами. Пусть Xi – обозначение i-го примера. Каждый пример может быть описан с помощью примерно таких высказываний:

Alternate(Xi)&¬Bar(Xi)&¬Fri/Sat(Xi)&Hungry(Xi)& …

Полное обучающее множество представляет собой коньюнкцию всех описательных и классификационных высказываний.

Целью индуктивного обучения в логической постановке задачи является поиск эквивалентного логического выражения для целевого предиката Q, который может использоваться для правильной классификации примеров. Подобное выражение – потенциальное определение целевого предиката – предлагается в каждой гипотезе. Используя Ci для обозначения потенциального определения, можно утверждать, что каждая гипотеза Hi представляет собой высказывание в форме  x Q(x)  Ci(x). В частности, дерево решений представляет собой утверждение, что целевой предикат принимает истинное значение по отношению к какому-то объекту тогда и только тогда, когда выполняются условия в одной из ветвей, ведущих к листовому узлу со значением true. Таким образом, на рис. 4 в графической форме выражено следующее логическое определение Hr:

r WillWait(r) Patrons(r,Some)

 or Patrons(r,Full)&WaitEstimate(r,0-10)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   ¬Alternate(r)&Reservation(r)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   ¬Alternate(r)&¬Reservation(r)&Bar(r)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   Alternate(r)&Fri/Sat(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&¬Hungry(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&Hungry(r)&

   ¬Alternate(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&Hungry(r)&

   Alternate(r)&Raining(r)

Каждая гипотеза предсказывает, что некоторое множество примеров, соответствующих ее потенциальному определению, будет представлять собой примеры целевого предиката. Такое множество называется расширением предиката. Две гипотезы с разными расширениями логически несовместимы и две гипотезы, имеющие одно и то же расширение, логически эквивалентны.

Алгоритм обучения позволяет утверждать, что одна из гипотез является правильной, т.е. что истинно следующее высказывание:

H1 or H2 or H3 or … or Hn

По мере поступления новых примеров появляется возможность исключать гипотезы, не совместимые с этими примерами. Примеры могут быть двух видов по отношению к гипотезе. Пример ложно отрицателен, если гипотеза утверждает, что он должен быть отрицательным, а он фактически положителен. Пример ложно положителен для данной гипотезы, если в гипотезе утверждается, что он должен быть положительным, но фактически он является отрицательным. Если некоторый пример является ложно положительным или ложно отрицательным применительно к некоторой гипотезе, то данный пример и данная гипотеза являются логически несовместимыми друг с другом, что и позволяет исключить данную гипотезу. Операция исключения гипотезы полностью аналогична операции применения правила резолюции в логическом выводе. Дизьюнкция гипотез соответствует выражению, а пример соответствует литералу, который взаимно уничтожается с одним из литералов выражения. Например, если пример I1 несовместим с выражениями H2 и H3, а пространство гипотез представляет собой высказывание H1 or H2 or H3 or H4, то система логического вывода сформирует новое высказывание H1 or H4, соответствующее уточненному пространству гипотез.

Таким образом, индуктивное обучение в логической постановке задачи есть процесс постепенного устранения гипотез, несовместимых с примерами. Но поскольку пространство гипотез велико (бесконечно для логики первого порядка), то обычно система обучения не создается с использованием доказательства на основе резолюции и полного перебора пространства гипотез.


Апр
иорные знания

Гипотезы

Индуктивное

обучение на основе знаний

Наблюдения

Предсказания


 

А также другие работы, которые могут Вас заинтересовать

81009. Психолого-педагогические методы коррекции 31.95 KB
  Общепедагогические методы: словесные методы наглядные практические методы стимулирования метод оценки. Специфические методы коррекции: метод игнорирования метод переключения внимания на другую деятельность метод испытаний метод естественных последствий метод фиктивной выдуманной коррекции метод заставания врасплох метод парадоксальной интенции метод обратного действия.Словесные методы Преподаватель свои общепедагогические и специфические функции в значительной мере реализует с помощью слова: ставит перед занимающимися задачи...
81010. Предмет, структура и задачи коррекционной педагогики, ее взаимосвязь с другими науками 27.51 KB
  Объект коррекционной педагогики специальное образование людей с особыми образовательными потребностями дети с психофизическими нарушениями. Предмет коррекционной педагогики теория и практика специального образования. Система отраслей коррекционной педагогики структура науки.
81011. История развития специального (коррекционного) образования 26.64 KB
  Сеген в США открыл частные школы для слабоумных детей предполагающие обучение и воспитание трудовое и физическое. Первые школы для слепых и глухих детей в России появились в начале 19 в. появляются школы для умственно отсталых детей. разработка методик обучения для каждой категории детей с психофизическими нарушениями.
81012. Сеть специальных учреждений для детей с психофизическими нарушениями 26.53 KB
  специальные дошкольные образовательные учреждения: специальные ячли специальные детские сады группы конпенсирующего вида при массовых детских садах специальные детские дома для детей сирот подготовительные отделения при специальных школах; 2. специальные общеобразовательные учреждения: специальные школы первого вида для глухих; второго вида для слабослышащих; третьего вида для незрячих; четвертого вида для слабовидящих; пятого вида для детей с нарушениями речи; шестого вида для детей с нарушениями опорно двигательного аппарата; седьмого...
81013. Особенности дошкольного и школьного специального (коррекционного) образования 28.25 KB
  комплектование ДОУ по принципу ведущего отклонения в развитии ребенка с нарушениями слуха глухие и слабослышащие; с нарушениями зрения; с нарушениями речи; с нарушениями интеллекта; с ЗПР; с нарушениями опорно двигательного аппарата. для каждой категории детей с психофизическими нарушениями предусмотрена своя специальная школа; 2.
81014. Принципы специального образования 28.23 KB
  Выготского о зоне ближайшего развития ; принцип ранней педагогической помощи обеспечение раннего выявления и ранней диагностики отклонения ребенка для определения его образовательных потребностей; принцип коррекционнокомпенсирующей направленности опора на сохранные анализаторы а так же использование компенсаторных возможностей детей; принцип социальноадаптирующей направленности обучения подготовка ребенка с психофизическими нарушениями к максимально самостоятельной жизни в обществе чтобы избежать социального выпадения; принцип...
81015. Показатели развития ребенка, значимые для выявления психофизических нарушений 27.51 KB
  В соответствии с этим учитывается степень достижения зрелости в каждый период развития ребенка до и после его рождения. Во время эмбрионального развития организм плода очень восприимчив к различным неблагоприятным факторам. Развитие сенсорных и моторных функций которые являются базой для развития психических процессов.
81016. Причины аномального развития детей. Типы нарушений психического развития 29.04 KB
  Типы нарушений психического развития по Лебединскому: недоразвитие ранее время поражения незрелость мозга. Пример: умственная отсталость психические функции недоразвиты вынужденная недостаточность высших психических функций мышления речи; ✓ задержанное развитие замедление темпов формирования познавательной и эмоциональной сфер; ✓ поврежденное развитие более позднее после 2 3 лет патологическое воздействие на мозг; ✓ дефицитарное развитие тяжелые нарушения отдельных систем: зрения слуха речи опорнодвигательного...
81017. Принципы и методы диагностики отклонений в развитии ребенка. Функции психолого-медико-педагогической консультации 30.39 KB
  Принцип комплексного изучения ребенка который предполагает всестороннее обследование особенностей развития всех видов познавательной деятельности эмоциональноволевой сферы личности навыков и т.Принцип целостного системного изучения ребенка.Принцип динамического изучения ребенка согласно которому при обследовании важно выяснить не только то что дети знают и умеют но и их возможности в обучении зона ближайшего развития.