40563

Деревья решений. Принятие решений

Лабораторная работа

Информатика, кибернетика и программирование

Экспертные системы класс близкий к системам поддержки принятия решений которые представляют собой компьютерные автоматизированные системы целью которых является помощь людям принимающим решение в каких-либо определенных условиях для полного и объективного анализа предметной деятельности. Теория принятия решений область исследования включающая в себя понятия и методы математики статистики экономики менеджмента и психологии которая изучает закономерности выбора людьми путей решения разного рода задач а также исследует способы...

Русский

2015-04-22

500 KB

512 чел.

Деревья решений

Прежде чем переходить непосредственно к теории по деревьям решений и методу анализа иерархий, необходимо ввести базовые понятия и определения по экспертным системам.

Экспертные системы – класс, близкий к системам поддержки принятия решений, которые представляют собой компьютерные автоматизированные системы, целью которых является помощь людям, принимающим решение в каких-либо определенных условиях для полного и объективного анализа предметной деятельности.

Теория принятия решений – область исследования, включающая в себя понятия и методы математики, статистики, экономики, менеджмента и психологии, которая изучает закономерности выбора людьми путей решения разного рода задач, а также исследует способы поиска наиболее выгодных из возможных решений.

Принятие решения – это процесс рационального или иррационального выбора альтернатив, имеющий целью достижение осознаваемого результата. [1]

Наиболее популярные методы анализа данных и принятия решения – это деревья решений и метод анализа иерархий, которые будут рассмотрены далее.

1. Определения

Когда нужно принять несколько решений в условиях неопределенности, когда каждое решение зависит от исхода предыдущего решения или исходов испытаний, то применяют схему, называемую деревом решений.

Дерево решений – это графическое изображение процесса принятия решений, в котором отражены альтернативные решения, альтернативные состояния среды, соответствующие вероятности и выигрыши для любых комбинаций альтернатив и состояний среды.

Другое определение: деревья решений - это способ представления правил в иерархической, последовательной структуре, где каждому объекту соответствует единственный узел, дающий решение.

Деревья решений разбивают данные на группы на основе значений переменных, в результате чего возникает иерархия операторов "ЕСЛИ - ТО", которые классифицируют данные.

Под правилом понимается логическая конструкция вида «если - то».

Объект – некоторый пример, действие, шаблон, наблюдение.

Атрибут – признак, свойство.

Узел – внутренний узел дерева, узел проверки.

Лист – конечный узел дерева, узел решения.

2 Построение деревьев

Способ 1. Рисуют деревья слева направо. Места, где принимаются решения, обозначают квадратами, места появления исходов – кругами, возможные решения – пунктирными линиями, возможные исходы – сплошными линиями.

Для каждой альтернативы мы считаем ожидаемую стоимостную оценку (EMV) – максимальную из сумм оценок выигрышей, умноженных на вероятность реализации выигрышей, для всех возможных вариантов (см. пример 1).

Пример 1.

Компания рассматривает вопрос о строительстве завода. Возможны три варианта действий:

а). Построить большой завод стоимостью Ст1 = 500 тысяч у.е. При этом варианте возможны большой спрос (годовой доход в размере Д1 = 200 тысяч у.е. в течение следующих 5 лет) с вероятностью p1 = 0,7 и низкий спрос (ежегодные убытки Д2 = 90 тысяч у.е.) с вероятностью р2 = 0,3.

б). Построить маленький завод стоимостью Ст2 = 300 тысяч у.е. При этом варианте возможны большой спрос (годовой доход в размере Д3 = 100 тысяч у.е. в течение следующих 5 лет) с вероятностью p3 = 0,7 и низкий спрос (ежегодные убытки Д4 = 40 тысяч у.е.) с вероятностью р4 = 0,3.

в). Отложить строительство завода на один год для сбора дополнительной информации, которая может быть позитивной или негативной с вероятностью p5 = 0,4 и p6 = 0,6 соответственно. В случае позитивной информации можно построить заводы по указанным выше расценкам, а вероятности большого и низкого спроса меняются на p7 = 0,8 и р8 = 0,2 соответственно. Доходы на последующие четыре года остаются прежними. В случае негативной информации компания заводы строить не будет.

Нарисовав дерево решений, определим наиболее эффективную последовательность действий, основываясь на ожидаемых доходах.

Решение.

Строим дерево решений.

Строим узел 1, из которого исходят три заявленные в условии варианты. Обозначаем эти ветви пунктиром, поскольку это – возможные решения.

На концах ветвей ставим узлы-исходы, заключаем их в круг и обозначаем буквами А, В и т.д. Рисуем из этих узлов-исходов ветви с возможными исходами при выборе того или иного варианта из условия. Под каждой ветвью подписываем вероятности соответствующих исходов. На концах каждой ветви, не закрытой новым узлом, выставляем доходы и убытки, умноженные (исходя из условия) на время (годы из условия). На ветвях (возможные решения) ставим стоимость строительства со знаком «-», так как это расходы компании. Убытки на концах «открытых» ветвей также пишем со знаком «-».

Рис.1 – Дерево решений для примера 1. Первый этап построения

Далее считаем ожидаемые стоимостные оценки узлов.

Ожидаемая стоимостная оценка узла А равна:

ЕМV(А) = 0,8 х 1000 + 0,2 х (-450) -500 = 210.

EMV( B) = 0,8 х 500 + 0,2 х (-200) - 300 = 60.

EMV( D) = 0,9 x 800 + 0,1 x (-360) - 500 = 184.

EMV(E) = 0,9 x 400 + 0,1 х (-160) - 300 = 44.

Для узлов принятия решения 2 (второй уровень, условно) выбираем максимальную оценку:

EMV(2) = max {EMV( D), EMV( E)} = max {184, 44} = 184 = EMV(D).

Поэтому в узле 2 отбрасываем возможное решение «маленький завод».

EMV(C) = 0,7 x 184 + 0,3 x 0 = 128,8.

Для узла принятия решения 1 – узла принятия окончательного решения, аналогично выбираем максимальную оценку на других узлах.

EMV(1) = max {ЕМV(A), EMV(B), EMV(C)} = max {210; 60; 128,8} = 210 = EMV(А).

Поэтому в узле 1 выбираем решение «большой завод». Исследование проводить не нужно. Строим большой завод. Ожидаемая стоимостная оценка этого наилучшего решения равна 210 тысяч у.е.

Ответ: наиболее подходящее решение – решение строить большой завод.

Рис.2 – Дерево решений со стоимостными оценками

В рассмотренном примере мы произвели отсечение ветвей в узле 2. И далее в задаче мы отсекаем те ветви и узлы, стоимостные оценки которых не приемлемы для принятия наиболее выгодного решения.

Способ 2. Применяется в случаях, если необходимо провести исследование по каким-либо атрибутам. Чаще всего, здесь фигурируют понятия таблиц, как в базах данных. Проще говоря, деревья решений разбивают данные на группы на основе значений переменных, в результате чего возникает иерархия операторов "ЕСЛИ - ТО", которые классифицируют данные.

И такие деревья решений называются деревьями классификаций.

Цель построения деревьев классификации заключается в предсказании (или объяснении) значений категориальной зависимой переменной, и поэтому используемые методы тесно связаны с более традиционными методами, например, кластерного анализа1. Широкая сфера применимости деревьев классификации делает их весьма привлекательным инструментом анализа данных.

Что же такое деревья классификации? Рассмотрим простой пример.

Пример 2. Необходимо придумать устройство, которое отсортирует коллекцию монет по их достоинству (например, 1, 2, 3 и 5 копеек). Предположим, что какое-то из измерений монет, например - диаметр, известен и, поэтому, может быть использован для построения иерархического устройства сортировки монет. Заставим монеты катиться по узкому желобу, в котором прорезана щель размером с однокопеечную монету. Если монета провалилась в щель, то это 1 копейка; в противном случае она продолжает катиться дальше по желобу и натыкается на щель для двухкопеечной монеты; если она туда провалится, то это 2 копейки, если нет (значит это 3 или 5 копеек) - покатится дальше, и так далее. Таким образом, мы построили дерево классификации. Решающее правило, реализованное в этом дереве классификации, позволяет эффективно рассортировать горсть монет, а в общем случае применимо к широкому спектру задач классификации. [2]

Деревья классификации идеально приспособлены для графического представления, и поэтому сделанные на их основе выводы гораздо легче интерпретировать, чем если бы они были представлены только в числовой форме.

В печатных изданиях приводится ряд примеров применения деревьев классификации. Один из них посвящен диагностике больных, поступающих в стационар с сердечным приступом. В приемном отделении у них измеряют несколько десятков показателей (частоту пульса, кровяное давление и т.д.). Одновременно в базу данных заносится много другой информации о больном (возраст, перенесенные болезни и др.). Из последующей истории пациента можно, в частности, выделить такой показатель: прожил ли он 30 дней (или более) после приступа. Для разработки методов лечения больных с сердечной недостаточностью было бы весьма полезно научиться по данным первичного обследования выявлять пациентов с высокой степенью риска (тех, кто, вероятнее всего, не сможет прожить больше 30 дней, например). Одно из деревьев классификации, построенных авторами для этой задачи, представляло собой бинарное дерево классификации, и его можно описать следующей фразой: "Если нижнее давление у пациента в течение первых суток не опускается ниже 91, то, если его возраст превосходит 62.5 года, то, если у него наблюдается синусоидальная тахикардия, то в этом и только в этом случае следует ожидать, что пациент не сможет прожить 30 дней." Из этого предложения несложно представить себе соответствующее "дерево" решений. Как видим, в таком дереве вопросы задаются последовательно (иерархически), и окончательное решение зависит от ответов на все предыдущие вопросы. Иерархическое строение дерева классификации - одно из наиболее важных его свойств.

Пример 3.

Исследовать аудиторию пользователей ролевой образовательной онлайн игры на предмет выявления их потребности в вопросах для подготовки к ЭКЗАМЕН, а также провести исследование аудитории по возрасту, чтобы скорректировать игру под наиболее «активный» возраст участников.

Игра предназначена для всех учащихся и студентов (с 7го класса школы).

Решение.

Основные атрибуты, по которым проводится исследование: возраст (один из главных атрибутов), вид учебного заведения (важный атрибут, поскольку студенты ВУЗов уже не нуждаются в подготовке к ЭКЗАМЕН), предстоящий Экзамен.

На рисунке 3 представлено дерево классификаций для рассматриваемой задачи.

Это четырехуровневое дерево.

Уровень 1: проводим классификацию по возрасту. Из всех пользователей, зарегистрированных в игре, основная масса (73%) – пользователи до 18 лет. Лишь 27% пользователей старше 18 лет.

Уровень 2: исследуем каждую ветвь первого уровня. Разбиваем аудиторию пользователей старше 18 лет на 2 группы – до 22х лет после. Получаем лист А, который вместе со своей ветвью будет отсечен, поскольку процент людей старше 22х лет и играющих в игру очень маленький и разработчикам нет смысла ориентироваться на эту аудиторию.

Вторая ветвь переводит исследование на уровень 3, параллельный второму, который позволяет классифицировать аудиторию по учебному заведению (учащиеся ВУЗов, ССУЗов или школ). Согласно данным игры, только 10% пользователей в возрасте от 18 до 22 лет  - учащиеся ССУЗов, которые играют в игру. Остальные – учащиеся ВУЗов. Поэтому необходимо провести исследование на предмет принадлежности к курсу обучения в ВУЗе, поскольку уровни игры предполагают использование студентами младших курсов в частности. Как видно, 60%, что больше половины, учатся на 1-2 курсе (уровень 4). Значит, аудитория студентов 1-2 курсов обучения может быть довольно активной в игре. Отсюда следует, что мы не отсекаем ветви В и D. Ветвь С отсекаем, поскольку игра на вряд ли будет интересна студентам старших курсов, суд по статистике.

Рис. 3 – Дерево классификаций для примера 3

Исследуя аудиторию младше 18 лет, делим её на три ветви: учащиеся школы, ССУЗов и ВУЗов. Как видно из рисунка 3, аудитория учащихся ВУЗов составляет 7% от общего числа играющих в игру младше 18 лет. Но им не предстоит ЭКЗАМЕН. Лист Е не отсекаем, потому что это – аудитория студентов 1-2 курса, которая довольно активна, как мы выяснили на предыдущем шаге.

Остальные группы учащихся потенциально нуждаются в подготовке к ЭКЗАМЕН, поскольку выпускникам школы и ССУЗов для поступления в ВУЗ или ССУЗ необходимо пройти этот экзамен (уровень 3).

Как видно из схемы, мы получили четырехуровневое дерево решений, в котором исследование может проводиться на разных уровнях параллельно. Визуально уровни представлены на рисунке 4.

Рис. 4 – Уровни

Отсечение ветвей подробно представлено на рисунке 5.

Как правило, ветви отсекаются в том случае, когда найденное решение (лист, итог) не имеет значения и далее рассматривать задачу от этой ветви не имеет смысла.

Итак, по итогам составления дерева классификаций делаем вывод: рентабельно и наиболее выгодно игру продвигать среди школьников и студентов 1-2 курсов, но основной упор делать на школьников и на составление тестовых заданий в игре для подготовки к ЭКЗАМЕН.

Рис. 5 – Отсечение ветвей

3 Области применения деревьев

Деревья решений и деревья классификации широко используются в таких прикладных областях, как медицина (диагностика), программирование (анализ структуры данных), ботаника (классификация) и психология (теория принятия решений).

В основном, методы деревьев решений используют в экономической и банковской сферах. Например, для оценки кредитоспособности лиц или для выбора наиболее выгодной стратегии развития предприятия или сделки.

В сфере промышленности деревья решений применяются для определения качества продукции и для его контроля, выявления дефектов, в медицине – для диагностики заболеваний у пациентов, в биологии – для анализа строения аминокислот.

1 Термин кластерный анализ в действительности включает в себя набор различных алгоритмов классификации. Общий вопрос, задаваемый исследователями во многих областях, состоит в том, как организовать наблюдаемые данные в наглядные структуры. Например, биологи ставят цель разбить животных на различные виды, чтобы содержательно описать различия между ними. В соответствии с современной системой, принятой в биологии, человек принадлежит к приматам, млекопитающим, позвоночным и животным. В этой классификации, чем выше уровень агрегации, тем меньше сходства между членами в соответствующем классе. Т.е. человек имеет больше сходства с другими приматами (т.е. с обезьянами), чем с "отдаленными" членами семейства млекопитающих (например, собаками) и т.д.


 

А также другие работы, которые могут Вас заинтересовать

81405. Инвалиды как объект социальной работы и социологического анализа 40.01 KB
  Социальная защита инвалидов это система гарантированных государством экономических социальных и правовых мер обеспечивающих инвалидам условия для преодоления замещения компенсации ограничений жизнедеятельности и направленных на создание им равных с другими гражданами возможностей для участия в жизни общества. Индивидуальная программа реабилитации инвалидов это комплекс оптимальных для инвалида реабилитационных мероприятий включающий в себя отдельные виды формы объемы сроки и порядок реализации медицинских профессиональных и др....
81406. Основные категории жизнедеятельности, определяющие установление соответствующей группы инвалидности 37.26 KB
  Критериями установления І группы инвалидности является ограничение одной или нескольких категорий жизнедеятельности в значительной степени: ограничение самообслуживания III ст.; ограничение способности самостоятельно передвигаться III ст.; ограничение способности к обучению III ст.; ограничение способности к трудовой деятельности III ст.
81407. Основные институты реализации программы трудоустройства инвалидов. Приведите конкретные примеры 32.89 KB
  Государство обеспечивает дополнительные гарантии гражданам испытывающим трудности в поиске работы путем разработки и реализации программ содействия занятости создания дополнительных рабочих мест и специализированных организаций включая рабочие места и организации для труда инвалидов установления квоты для приема на работу инвалидов а также путем организации обучения по специальным программам и другими мерами. Квота для приема на работу инвалидов устанавливается в соответствии с Федеральным законом О социальной защите инвалидов в...
81408. Семья как социальный институт, структура и функции социального института семьи 36.14 KB
  Семья социальная группа основанная на родственных связях по браку по крови. В зависимости от форм брака: Моногамная семья состоящая из двух партнёров. Полигамная семья один из супругов имеет несколько брачных партнёров. В зависимости от пола супругов: Однополая семья двое мужчин или две женщины совместно воспитывающие приёмных детей искусственно зачатых или детей от предыдущих гетеросексуальных контактов.
81410. Девиантное поведение как социальный феномен. Специфика девиантного поведения подростков 41.74 KB
  Специфика девиантного поведения подростков. Основными формами девиантного поведения являются: пьянство наркомания преступность проституция самоубийство гомосексуализм. Объяснения причин девиантного поведения: Биологическое люди по своему биологическому складу предрасположены к определенному типу поведения. Девиантное поведение подростков не соответствует закономерностям взрослого отклоняющегося поведения.
81411. Факторы деструктивного поведения подростков 40.07 KB
  Биологические факторы это неблагоприятные физиологические или анатомические особенности организма ребенка нарушения умственного развития дефекты слуха и зрения повреждения нервной системы телесные дефекты дефекты речи и др.; психологические факторы это психопатологии или акцентуации характера. Данные отклонения выражаются в нервнопсихических заболеваниях психопатии неврастении пограничных состояниях повышающих возбудимость нервной системы и обуславливающих неадекватные реакции подростка; социальнопсихологические факторы....
81412. Влияние семьи на формы и уровень проявления подростковых девиаций. Понятие социализации и основные этапы данного процесса 40.08 KB
  Понятие социализации и основные этапы данного процесса. На каждом этапе социализации на человека оказывают влияние те или иные факторы соотношение которых на разных этапах различно. В целом можно выделить пять факторов оказывающих влияние на процесс социализации: биологическая наследственность; физическое окружение; культура социальное окружение; групповой опыт; индивидуальный опыт. Процесс социализации охватывает все слои общества.
81413. Типологический анализ социально-дезадаптированных семей 42.07 KB
  Семьи для которых характерны наиболее глубокие дефекты социализации вольно или невольно провоцируют детей на раннее употребление психоактивных веществ и совершение правонарушений. Псевдоблагополучная семья отличается ярко выраженным деспотическим характером безоговорочным доминированием одного из родителей полным подчинением ему остальных членов семьи наличием жестоких взаимоотношений держать всех в ежовых рукавицах применением физического наказания как основного средства воспитания. Дефекты в структуре родительской семьи в...