8137

Обучение с использованием знаний. Логическая формулировка задачи обучения

Лекция

Информатика, кибернетика и программирование

Обучение с использованием знаний. Логическая формулировка задачи обучения Обучение с использованием знаний Рассмотрим логические связи между гипотезами, описаниями примеров и классификациями. Пусть Descriptions обозначает коньюнкцию всех описаний пр...

Русский

2013-02-04

78.5 KB

3 чел.

Обучение с использованием знаний.

Логическая формулировка задачи обучения

Обучение с использованием знаний

Рассмотрим логические связи между гипотезами, описаниями примеров и классификациями. Пусть Descriptions обозначает коньюнкцию всех описаний примеров в обучающем множестве, а Classifications – коньюнкцию всех классификаций примеров. В таком случае гипотеза, которая позволяет “объяснить результаты наблюдений”, должна удовлетворять следующему свойству:

Hypothesis & Descriptions |= Classifications

Связь такого рода называется ограничением логического следствия, в котором Hypothesis представляет собой “неизвестное”. Например, если дерево решений рассматривается как логическая формула, то дерево решений, совместимое со всеми примерами, удовлетворяет данному уравнению.

Современный подход состоит в том, что должны проектироваться агенты, которые уже что-то знают и пытаются освоить в процессе обучения некоторую дополнительную информацию. Схема, которая показывает, как в процессе обучения с накоплением знаний используется и со временем обогащается запас фоновых знаний, изображена на рис. 4.

Рис. 4

Агент может начать свое существование без какого-либо запаса знаний, осуществляя индуктивные выводы в условиях отсутствия знаний. В дальнейшем агент должен использовать свои фоновые знания для все более эффективного обучения. Вопрос заключается в том, как фактически следует использовать знания в обучении.

Рассмотрим общеизвестные примеры обучения на основе фоновых знаний.

1. В первом примере пещерный человек поджаривает на огне ящерицу, насаженную на заостренную палочку. За ним наблюдает и обучается толпа соплеменников, которые до сих пор разогревали пищу над огнем, держа ее голыми руками.

2. Во втором примере путешественник, прибывший в Бразилию, встречает первого в своей жизни бразильца. Услышав от него речь на португальском языке, путешественник делает вывод, что бразильцы говорят на португальском, но узнав, что его собеседника зовут Фернандо, он не делает вывод, что все бразильцы носят это же имя. Аналогичный пример из научной области: когда студент-физик измеряет плотность и проводимость медного образца при определенной температуре, он обобщает эти данные на все предметы из меди. Но измерив массу этого образца, студент не рассматривает гипотезу, что все предметы из меди имеют такую же массу, хотя он может сделать такое обобщение относительно всех монет одинакового достоинства.

3. Следующий пример: студент-медик присутствует на консультации, которую дает пациенту опытный терапевт. После ряда вопросов и ответов специалист сообщает пациенту, чтобы он прошел курс лечения конкретным антибиотиком. Студент-медик делает вывод, что данный антибиотик является эффективным средством лечения при данном конкретном типе инфекции.

В данных примерах использование фоновых знаний обеспечивает гораздо более быстрое обучение по сравнению с тем, чего можно ожидать при использовании метода чисто индуктивного обучения.

Рассмотрим какие ограничения приведенного выше логического следствия применяются в каждом из этих случаев. В таких ограничениях, кроме гипотезы, описаний наблюдаемых примеров и классификации, применяются фоновые знания Backgraund.

В первом примере используется обобщение, получившее название обучения на основе объяснения (EBLExplanation-Based Learning). Здесь общее правило следует логически из фоновых знаний, которыми обладают пещерные люди:

Hypothesis & Descriptions |= Classifications

Backgraund |= Hypothesis

Во втором примере априорные знания Backgraund касаются релевантности множества характеристик по отношению к целевому предикату. Эти знания, наряду с результатами наблюдений, позволяют агенту вывести новое, общее правило, которое объясняет результаты наблюдений, следующим образом:

Hypothesis & Descriptions |= Classifications

Backgraund &Descriptions & Classifications |= Hypothesis

Обобщение такого рода называется обучением с учетом релевантности (RBLRelevance-Based Learning).

В третьем примере для объяснения примеров объединяются фоновые знания и новая гипотеза:

Backgraund & Hypothesis & Descriptions |= Classifications

Как и при чисто индуктивном обучении, алгоритм обучения должен выдвигать гипотезы, которые являются как можно более простыми и совместимыми с данным ограничением. Такие алгоритмы называются алгоритмами индуктивного обучения на основе знаний (KBILKnowledge-Based Inductive Learning).

Логическая формулировка задачи обучения

Для создания логической формулировки задачи обучения гипотеза представляется в виде множества логических высказываний. Описания примеров и определения классов также заданы в виде логических высказываний, а классификация нового примера может быть выполнена путем логического вывода классификационного высказывания из гипотезы и описания примера. Такой подход обеспечивает инкрементное формирование гипотез и дает возможность использовать априорные знания, так как уже известные высказывания могут помочь при классификации новых примеров.

Рассмотрим логическую формулировку задачи обучения на примере задачи обучения с рестораном, в которой требуется изучить правило принятия решения о том, при каких условиях следует ждать освобождения столика. В логической формулировке задачи атрибуты становятся унарными предикатами. Пусть Xi – обозначение i-го примера. Каждый пример может быть описан с помощью примерно таких высказываний:

Alternate(Xi)&¬Bar(Xi)&¬Fri/Sat(Xi)&Hungry(Xi)& …

Полное обучающее множество представляет собой коньюнкцию всех описательных и классификационных высказываний.

Целью индуктивного обучения в логической постановке задачи является поиск эквивалентного логического выражения для целевого предиката Q, который может использоваться для правильной классификации примеров. Подобное выражение – потенциальное определение целевого предиката – предлагается в каждой гипотезе. Используя Ci для обозначения потенциального определения, можно утверждать, что каждая гипотеза Hi представляет собой высказывание в форме  x Q(x)  Ci(x). В частности, дерево решений представляет собой утверждение, что целевой предикат принимает истинное значение по отношению к какому-то объекту тогда и только тогда, когда выполняются условия в одной из ветвей, ведущих к листовому узлу со значением true. Таким образом, на рис. 4 в графической форме выражено следующее логическое определение Hr:

r WillWait(r) Patrons(r,Some)

 or Patrons(r,Full)&WaitEstimate(r,0-10)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   ¬Alternate(r)&Reservation(r)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   ¬Alternate(r)&¬Reservation(r)&Bar(r)

 or Patrons(r,Full)&WaitEstimate(r,30-60)&

   Alternate(r)&Fri/Sat(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&¬Hungry(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&Hungry(r)&

   ¬Alternate(r)

 or Patrons(r,Full)&WaitEstimate(r,10-30)&Hungry(r)&

   Alternate(r)&Raining(r)

Каждая гипотеза предсказывает, что некоторое множество примеров, соответствующих ее потенциальному определению, будет представлять собой примеры целевого предиката. Такое множество называется расширением предиката. Две гипотезы с разными расширениями логически несовместимы и две гипотезы, имеющие одно и то же расширение, логически эквивалентны.

Алгоритм обучения позволяет утверждать, что одна из гипотез является правильной, т.е. что истинно следующее высказывание:

H1 or H2 or H3 or … or Hn

По мере поступления новых примеров появляется возможность исключать гипотезы, не совместимые с этими примерами. Примеры могут быть двух видов по отношению к гипотезе. Пример ложно отрицателен, если гипотеза утверждает, что он должен быть отрицательным, а он фактически положителен. Пример ложно положителен для данной гипотезы, если в гипотезе утверждается, что он должен быть положительным, но фактически он является отрицательным. Если некоторый пример является ложно положительным или ложно отрицательным применительно к некоторой гипотезе, то данный пример и данная гипотеза являются логически несовместимыми друг с другом, что и позволяет исключить данную гипотезу. Операция исключения гипотезы полностью аналогична операции применения правила резолюции в логическом выводе. Дизьюнкция гипотез соответствует выражению, а пример соответствует литералу, который взаимно уничтожается с одним из литералов выражения. Например, если пример I1 несовместим с выражениями H2 и H3, а пространство гипотез представляет собой высказывание H1 or H2 or H3 or H4, то система логического вывода сформирует новое высказывание H1 or H4, соответствующее уточненному пространству гипотез.

Таким образом, индуктивное обучение в логической постановке задачи есть процесс постепенного устранения гипотез, несовместимых с примерами. Но поскольку пространство гипотез велико (бесконечно для логики первого порядка), то обычно система обучения не создается с использованием доказательства на основе резолюции и полного перебора пространства гипотез.


Апр
иорные знания

Гипотезы

Индуктивное

обучение на основе знаний

Наблюдения

Предсказания


 

А также другие работы, которые могут Вас заинтересовать

54041. Внеклассное воспитательное мероприятие «Книжная летопись» 79 KB
  Она скромна и велика Обличий книги много Для старика она – клюка Для юноши – дорога. Люблю твой вечный непокой Когда тебе всё мало Как попадешь от букваря Под власть печатной силы Идёшь её боготворя до самой до могилы Ученик: Книги говорят с тобой И ты мой юный друг Весь путь истории земной Как бы увидишь вдруг. Выходит ученик в костюме жителя Вавилона с изображением глиняной книги. Ученик: Древние книги На чём вы писались Как вообще вы порой создавались Вот Вавилон.
54042. Літосфера 157.5 KB
  Мета: розширити уявлення з теми «Літосфера»; формувати навички роботи з колекцією гірських порід; розвивати соціальну, полікультурну, інформаційну, комунікативну та саморозвивальну компетенції учнів; познайомити учнів з особливостями наук геологія та палеонтологія; формувати інтерес до професії ювеліра, геолога, палеонтолога.
54044. Митное оподаткування субєктів зовнішньоекономічної діяльності 2.02 MB
  Опорний конспект лекцій з дисциплини “Митное оподаткування субєктів зовнішньоекономічної діяльності» виконан відповідно до плану Академії митної служби України з видань наукової та навчально-методичної літератури з урахуванням змін та доповнень чинного законодавства станом на травень 2013 р.
54045. АРХИТЕКТУРА ORACLE 93 KB
  Термин база данных Orcle используется для обозначения логической и физической структуры данных совместно со всей служебной информацией. База данных БД это хранилище данных. Система управления базой данных СУБД это программа управляющая доступом к БД. Orcle это современная система управления реляционной базой данных поддерживающая работу в различных операционных средах включая Windows NT Unix Linux и др.
54046. Логарифмічна функція 234 KB
  Питання для обговорення задають учні: чи має функція екстремуми чи приймає функція найбільше значення в деякій точці ХО чи є зявляється функція парною непарною у якій крапці функція перетинає вісь ОХ чи перетинає функція вісь ОУ Питання 2: “Логарифмічна тотожність†Слово логарифм походить від грецького льyoц число і бсЯнмпц відношення і переводиться отже як відношення чисел. Основні властивості логарифмів – логарифм твору добутку дорівнює сумі...
54047. Логарифмічна функція 217.5 KB
  Мета: узагальнити та систематизувати знання й навички учнів з теми Логарифмічна функція; розвивати логічне мислення навички колективної та самостійної роботи уміння розраховувати свої сили і оцінювати свої можливості спонукати до самоконтролю взаємоконтролю; виховувати культуру математичної мови наполегливість самостійність контролювати увагу на всіх етапах уроку. Сьогодні на уроці ми повинні узагальнити та систематизувати знання з теми Логарифмічна функція закріпити й відкоригувати уміння й навички розв’язувати...