8137

Обучение с использованием знаний. Логическая формулировка задачи обучения

Лекция

Информатика, кибернетика и программирование

Обучение с использованием знаний. Логическая формулировка задачи обучения Обучение с использованием знаний Рассмотрим логические связи между гипотезами, описаниями примеров и классификациями. Пусть Descriptions обозначает коньюнкцию всех описаний пр...

Русский

2013-02-04

78.5 KB

3 чел.

Обучение с использованием знаний.

Логическая формулировка задачи обучения

Обучение с использованием знаний

Рассмотрим логические связи между гипотезами, описаниями примеров и классификациями. Пусть Descriptions обозначает коньюнкцию всех описаний примеров в обучающем множестве, а Classifications – коньюнкцию всех классификаций примеров. В таком случае гипотеза, которая позволяет “объяснить результаты наблюдений”, должна удовлетворять следующему свойству:

Hypothesis & Descriptions |= Classifications

Связь такого рода называется ограничением логического следствия, в котором Hypothesis представляет собой “неизвестное”. Например, если дерево решений рассматривается как логическая формула, то дерево решений, совместимое со всеми примерами, удовлетворяет данному уравнению.

Современный подход состоит в том, что должны проектироваться агенты, которые уже что-то знают и пытаются освоить в процессе обучения некоторую дополнительную информацию. Схема, которая показывает, как в процессе обучения с накоплением знаний используется и со временем обогащается запас фоновых знаний, изображена на рис. 4.

Рис. 4

Агент может начать свое существование без какого-либо запаса знаний, осуществляя индуктивные выводы в условиях отсутствия знаний. В дальнейшем агент должен использовать свои фоновые знания для все более эффективного обучения. Вопрос заключается в том, как фактически следует использовать знания в обучении.

Рассмотрим общеизвестные примеры обучения на основе фоновых знаний.

1. В первом примере пещерный человек поджаривает на огне ящерицу, насаженную на заостренную палочку. За ним наблюдает и обучается толпа соплеменников, которые до сих пор разогревали пищу над огнем, держа ее голыми руками.

2. Во втором примере путешественник, прибывший в Бразилию, встречает первого в своей жизни бразильца. Услышав от него речь на португальском языке, путешественник делает вывод, что бразильцы говорят на португальском, но узнав, что его собеседника зовут Фернандо, он не делает вывод, что все бразильцы носят это же имя. Аналогичный пример из научной области: когда студент-физик измеряет плотность и проводимость медного образца при определенной температуре, он обобщает эти данные на все предметы из меди. Но измерив массу этого образца, студент не рассматривает гипотезу, что все предметы из меди имеют такую же массу, хотя он может сделать такое обобщение относительно всех монет одинакового достоинства.

3. Следующий пример: студент-медик присутствует на консультации, которую дает пациенту опытный терапевт. После ряда вопросов и ответов специалист сообщает пациенту, чтобы он прошел курс лечения конкретным антибиотиком. Студент-медик делает вывод, что данный антибиотик является эффективным средством лечения при данном конкретном типе инфекции.

В данных примерах использование фоновых знаний обеспечивает гораздо более быстрое обучение по сравнению с тем, чего можно ожидать при использовании метода чисто индуктивного обучения.

Рассмотрим какие ограничения приведенного выше логического следствия применяются в каждом из этих случаев. В таких ограничениях, кроме гипотезы, описаний наблюдаемых примеров и классификации, применяются фоновые знания Backgraund.

В первом примере используется обобщение, получившее название обучения на основе объяснения (EBLExplanation-Based Learning). Здесь общее правило следует логически из фоновых знаний, которыми обладают пещерные люди:

Hypothesis & Descriptions |= Classifications

Backgraund |= Hypothesis

Во втором примере априорные знания Backgraund касаются релевантности множества характеристик по отношению к целевому предикату. Эти знания, наряду с результатами наблюдений, позволяют агенту вывести новое, общее правило, которое объясняет результаты наблюдений, следующим образом:

Hypothesis & Descriptions |= Classifications

Backgraund &Descriptions & Classifications |= Hypothesis

Обобщение такого рода называется обучением с учетом релевантности (RBLRelevance-Based Learning).

В третьем примере для объяснения примеров объединяются фоновые знания и новая гипотеза:

Backgraund & Hypothesis & Descriptions |= Classifications

Как и при чисто индуктивном обучении, алгоритм обучения должен выдвигать гипотезы, которые являются как можно более простыми и совместимыми с данным ограничением. Такие алгоритмы называются алгоритмами индуктивного обучения на основе знаний (KBILKnowledge-Based Inductive Learning).

Логическая формулировка задачи обучения

Для создания логической формулировки задачи обучения гипотеза представляется в виде множества логических высказываний. Описания примеров и определения классов также заданы в виде логических высказываний, а классификация нового примера может быть выполнена путем логического вывода классификационного высказывания из гипотезы и описания примера. Такой подход обеспечивает инкрементное формирование гипотез и дает возможность использовать априорные знания, так как уже известные высказывания могут помочь при классификации новых примеров.

Рассмотрим логическую формулировку задачи обучения на примере задачи обучения с рестораном, в которой требуется изучить правило принятия решения о том, при каких условиях следует ждать освобождения столика. В логической формулировке задачи атрибуты становятся унарными предикатами. Пусть Xi – обозначение i-го примера. Каждый пример может быть описан с помощью примерно таких высказываний:

Alternate(Xi)&¬Bar(Xi)&¬Fri/Sat(Xi)&Hungry(Xi)& …

Полное обучающее множество представляет собой коньюнкцию всех описательных и классификационных высказываний.

Целью индуктивного обучения в логической постановке задачи является поиск эквивалентного логического выражения для целевого предиката Q, который может использоваться для правильной классификации примеров. Подобное выражение – потенциальное определение целевого предиката – предлагается в каждой гипотезе. Используя Ci для обозначения потенциального определения, можно утверждать, что каждая гипотеза Hi представляет собой высказывание в форме  x Q(x)  Ci(x). В частности, дерево решений представляет собой утверждение, что целевой предикат принимает истинное значение по отношению к какому-то объекту тогда и только тогда, когда выполняются условия в одной из ветвей, ведущих к листовому узлу со значением true. Таким образом, на рис. 4 в графической форме выражено следующее логическое определение Hr:

r WillWait(r) Patrons(r,Some)

 or Patrons(r,Full)&WaitEstimate(r,0-10)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   ¬Alternate(r)&Reservation(r)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   ¬Alternate(r)&¬Reservation(r)&Bar(r)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   Alternate(r)&Fri/Sat(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&¬Hungry(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&Hungry(r)&

   ¬Alternate(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&Hungry(r)&

   Alternate(r)&Raining(r)

Каждая гипотеза предсказывает, что некоторое множество примеров, соответствующих ее потенциальному определению, будет представлять собой примеры целевого предиката. Такое множество называется расширением предиката. Две гипотезы с разными расширениями логически несовместимы и две гипотезы, имеющие одно и то же расширение, логически эквивалентны.

Алгоритм обучения позволяет утверждать, что одна из гипотез является правильной, т.е. что истинно следующее высказывание:

H1 or H2 or H3 or … or Hn

По мере поступления новых примеров появляется возможность исключать гипотезы, не совместимые с этими примерами. Примеры могут быть двух видов по отношению к гипотезе. Пример ложно отрицателен, если гипотеза утверждает, что он должен быть отрицательным, а он фактически положителен. Пример ложно положителен для данной гипотезы, если в гипотезе утверждается, что он должен быть положительным, но фактически он является отрицательным. Если некоторый пример является ложно положительным или ложно отрицательным применительно к некоторой гипотезе, то данный пример и данная гипотеза являются логически несовместимыми друг с другом, что и позволяет исключить данную гипотезу. Операция исключения гипотезы полностью аналогична операции применения правила резолюции в логическом выводе. Дизьюнкция гипотез соответствует выражению, а пример соответствует литералу, который взаимно уничтожается с одним из литералов выражения. Например, если пример I1 несовместим с выражениями H2 и H3, а пространство гипотез представляет собой высказывание H1 or H2 or H3 or H4, то система логического вывода сформирует новое высказывание H1 or H4, соответствующее уточненному пространству гипотез.

Таким образом, индуктивное обучение в логической постановке задачи есть процесс постепенного устранения гипотез, несовместимых с примерами. Но поскольку пространство гипотез велико (бесконечно для логики первого порядка), то обычно система обучения не создается с использованием доказательства на основе резолюции и полного перебора пространства гипотез.


Апр
иорные знания

Гипотезы

Индуктивное

обучение на основе знаний

Наблюдения

Предсказания


 

А также другие работы, которые могут Вас заинтересовать

84083. Скелет. Функции костной системы. Особенности строения костей и их соединений 74.95 KB
  Особенности строения костей и их соединений. Скелет это комплекс костей различных по форме и величине. У человека более 200 костей 85 парных и 36 непарных которые в зависимости от формы и функции делятся на: трубчатые кости конечностей; губчатые выполняют в основном защитную и опорную функции ребра грудина позвонки и др. Эластичность упругость костей зависит от наличия в них органических веществ а твердость обеспечивается минеральными солями.
84084. Рост и развитие скелета, зоны роста костей, периоды ускоренного роста человека 29.7 KB
  Под зонами роста понимают хрящевые участки костной структуры человека в позвоночнике и на окончаниях трубных костей. Пока на этих участках находится не огрубевшая ткань возможно значительное увеличение длины тела под влиянием гормонов роста. Позже когда зоны роста закрываются стимулировать удлинение тела становится невероятно сложной или даже невозможной задачей.
84085. Мышцы, функции мышц. Особенности строения мышц (скелетные, гладкие, сердечная мышцы) 33.33 KB
  Особенности строения мышц скелетные гладкие сердечная мышцы. Гладкие мышцы делятся на тонические и фазнотонические. В свою очередь фазнотонические мышцы можно условно разделить на обладающие автоматией способные к спонтанной генерации фазных сокращений и на мышцы не обладающие свойством автоматии. Аксон мотонейрона из спинного мозга проходит в составе периферических нервов до мышцы внутри которой разветвляется на множество концевых веточек.
84086. Основные подходы к типологии государств 21.4 KB
  В настоящее время выделяют два основных подхода к изучению типологии государства формационный и цивилизационный. выражал классовый подход к сущности государства. Четырем из них соответствуют четыре типа государства: 1 нет 2 рабовладельческое 3 феодальное 4 буржуазное капиталистическое 5 социалистическое Государства первых трех типов признавались эксплуататорскими.
84087. Понятие формы государства и факторы влияющие на ее образование 21.32 KB
  Форма государства это единство трех её основных элементов: формы правления формы государственного устройства политический режим некоторые ученые предлагаю присовокупить политическую динамику. Однако он не даёт синтезированного представления о форме государства в целом. Форма государства это такая структура которая включает не только организационные элементы но и связи между ними а также элементы функциональные методы деятельности.
84088. Форма правления понятие и виды 23.65 KB
  Монархия форма правления при которой в системе высших органов власти имеется монарх. Абсолютные монархии характеризуются полнотой власти монарха в этом случае в руках монарха сосредоточена вся полпота власти. Конституционные ограниченные монархии характеризуются тем что власть монарха ограничена Конституцией на основании которой в государстве действуют два института высшей власти: монарх и парламент которые делят между собой полномочия.
84089. Монархическая форма правления её признаки и виды 22.49 KB
  Форма правления представляет собой структуру высших органов государственной власти порядок их образование и распределение компетенции между ними. Форма государственного правления дает возможность уяснить: как создаются высшие органы государства и какого их строение; как строятся взаимоотношения между высшими и другими государственными органами; как строятся взаимоотношения между верховной государственной властью и населением страны; в какой мере организация высших органов rocва позволяет обеспечивать права и свободы гражданина. По...
84090. Республиканская форма правления признаки и виды 22.12 KB
  Установлена республиканская форма правления. Эта республиканская форма правления отличается от монархии которой присуще наследование статуса главы государства. Если рассматривать форму правления с чисто формальных позиций то можно сказать что она не оказывает определяющего влияния на характер государственного строя.
84091. Смешанные формы правления в современном мире 24.83 KB
  Так было во время и после буржуазных революций в Европе и Америке: молодая прогрессивная буржуазия возглавлявшая широкие слои населения добилась ограничения власти монарха ликвидации абсолютизма установления дуалистической или парламентарной монархии а иногда и республики например в США. В ходе этого исторического развития были и своеобразные зигзаги: республика при фашизме во главе с фюрером дуче каудильо мало чем по существу отличалась от монархии хотя юридически форма была иной а республики в социалистических странах странах...