10976

Проверка качества уравнения регрессии

Лекция

Математика и математический анализ

Проверка качества уравнения регрессии Оценим насколько хорошо модель линейной регрессии описывает данную систему наблюдений. В качестве этой оценки воспользуемся коэффициентом детерминации. Составим следующие суммы квадратов отклонений: фактических значений от...

Русский

2013-04-03

80.42 KB

44 чел.

Проверка качества уравнения регрессии

Оценим, насколько хорошо модель линейной регрессии описывает данную систему наблюдений. В качестве этой оценки воспользуемся коэффициентом детерминации.

Составим следующие суммы квадратов отклонений:

фактических значений от их среднего арифметического;

выравненных значений от их среднего арифметического фактических значений;

фактических от выравненных значений.

Можно показать, что справедливо равенство:

.      (13.1)

Действительно,

А последнее слагаемое представим:

(.

Учитывая (11.8) получим, что первая сумма равна нулю, а вторую сумму представим:

.

Коэффициент детерминации – это отношение объясненной  части вариации ко всей вариации в целом:

   (13.2)

Т.о. чем "ближе" этот коэффициент к 1, тем лучше модель описывает эмпирические данные, разумеется, если при этом модель методически правильна.

Проверка значимости (качества) уравнения регрессии производится на основе дисперсионного анализа.

Дисперсионный анализ – самостоятельный инструмент (метод) математической статистики будет подробно рассмотрен в дальнейшем. Пока же кратко рассмотрим схему дисперсионного анализа, представленную в виде таблицы.

Компоненты дисперсии

Сумма квадратов

Число степеней свободы

Дисперсия

Регрессия

Остаточная

Общая

Уравнение регрессии значимо на уровне , если фактически наблюдаемое значение статистики удовлетворяет соотношению

Здесь  критическое значение критерия Фишера – Снедекора при  и  степенях свободы; число оцениваемых параметров уравнения регрессии; число наблюдений.

В случае линейной парной регрессии  и уравнение регрессии значимо на уровне , если

Оценка остатков

Остатками называются разности наблюдаемых величин и подогнанных или прогнозируемых с помощью модели.

При анализе остатков следует учитывать ряд существенных факторов:

  1.  Если модель подобрана правильно, то остатки будут вести себя достаточно хаотично, в известном смысле они будут напоминать белый шум.
  2.  В остатках не будет систематической составляющей, резких выбросов, в чередовании их знаков не будет никаких закономерностей, остатки будут независимы друг от друга.

Согласно общим предположениям регрессионного анализа, остатки должны вести себя как независимые одинаково распределенные случайные величины. Независимость остатков проверяется с помощью критерия Дарбина – Уотсона. Исследование остатков полезно начинать с изучения их графика. Он может показать наличие какой-либо зависимости, не учтенной в модели.

Поведение остатков  должно имитировать поведение ошибок . Иначе говоря, поскольку предполагается, что ошибки  — независимые в совокупности случайные величины, имеющие стандартное нормальное распределение , то ожидаем, что поведение последовательности остатков должно имитировать поведение последовательности независимых в совокупности случайных величин c распределением .

Исходя из этих предположений, проанализируем представленный реальный график (рис.1).

Рис. 1. Сравнение стандартизованных остатков с N (0,1)

Гистограмма остатков "почти" симметрична относительно нуля, т.е. количество отрицательных значений равно количеству положительных. Как и в нормальном распределении, количество малых остатков (разностей между наблюденными результатами и данными модели) велико, а большие остатки малы.

Рассмотрим еще одно графическое представление остатков (см. рис.2). Из графика остатков на нормальной вероятностной бумаге видно, что они достаточно хорошо ложатся на прямую, которая соответствует стандартному нормальному распределению.

Исходя из построенных графических результатов, можно сделать вывод о том, что предположение о нормальности распределения ошибок – достаточно корректно.

Рис. 2. График остатков на нормальной вероятностной бумаге

Критерий Дарбина – Уотсона (Durbin - Watson)

Оценивая качество уравнения регрессии, мы предполагаем, что реальная взаимосвязь переменных линейна. Отклонения от регрессионной прямой являются случайными, независимыми друг от друга величинами с нулевым математическим ожиданием и постоянной дисперсией. Если эти предположения не выполняются, то оценки коэффициентов регрессии не обладают свойствами несмещенности, эффективности и состоятельности. В этом случае анализ значимости полученных оценок будет неточным.

Статистика Дарбина—Уотсона используется для проверки гипотезы о том, что остатки построенной регрессионной модели некоррелированны (корреляции равны нулю), против альтернативы: остатки связаны авторегрессионной зависимостью (первого порядка) вида:

На практике для анализа коррелированности отклонений вместо коэффициента корреляции используют тесно с ним связанную статистику Дарбина—Уотсона, рассчитываемую по формуле

Действительно,

Здесь сделано допущение, что при больших значениях  выполняется соотношение

Тогда

Нетрудно заметить, что если , то  и . Если  то  и . Во всех других случаях .

Критические точки статистики Дарбина—Уотсона табулированы для различных . При проверке гипотезы об отсутствии автокорреляции остатков используется числовой отрезок, на котором отложены  нижняя граница статистики и верхняя граница:

Рис. 3. Статистика Дарбина—Уотсона

Проверка гипотезы проводится по схеме:

  1.  Если , то гипотеза  отклоняется, принимается  значительная положительная автокорреляция остатков;
  2.  Если , , то гипотеза  отклоняется, принимается  значительная отрицательная автокорреляция остатков;
  3.  Если , то гипотеза  об отсутствии автокорреляции остатков принимается;
  4.  Если , или , то гипотеза об отсутствии автокорреляции не может быть ни принята, ни отклонена.

Не обращаясь к таблице критических точек Дарбина—Уотсона можно воспользоваться "грубым" правилом и считать, что автокорреляция остатков отсутствует, если . Для более надежных выводов необходимо воспользоваться статистическими таблицами.


 

А также другие работы, которые могут Вас заинтересовать

81910. Мотивационная теория подкрепления 40.74 KB
  Теория подкрепления исходит из того что у любого действия или поведения есть последствия: негативные и позитивные. При этом люди повторяют поведение которое приносило удовольствие было позитивно подкреплено и избегают поведения которое доставило им неприятности. Подкрепление определяется как любые действия которые вызывают повторение или напротив подавление определенных образцов поведения. Позитивное подкрепление представляет собой вознаграждение желательного для руководства организации поведения с целью формирования или закрепление у...
81911. Контроль как функция менеджмента 41.93 KB
  Существует три аспекта управленческого контроля: установление стандартов точное определение целей которые должны быть достигнуты в определенный отрезок времени. Необходимость контроля обусловлена следующими обстоятельствами: потребностью организации процесса производства в соответствии с имеющимися резервами и ресурсами; требованиями потребителей к качеству стандарту и сертификации выпускаемой продукции; изменяющимися внутренними и внешними условиями производства необходимостью выявления тенденций меняющегося спроса и предложения...
81913. Этапы контроля в менеджменте 39.29 KB
  Независимо от типов и количества контрольных систем необходимых организации существует четыре основных этапа любого процесса контроля. Первый этап в контрольном процессе – установление стандартов. Второй этап в процессе контроля – измерение фактических результатов деятельности контролируемого объекта. На этом этапе необходимо определить качественные и количественные методы измерения.
81914. Новейшие тенденции в менеджменте в области контроля 37.86 KB
  Современные тенденции развития контроля. Контрольные функции традиционно осуществляемые централизованно в коммерческой фирме ее руководством а в государстве центральными органами постепенно перераспределяются между: верхними звеньями управления; сторонними организациями специализирующимися на функциях контроля; потребителями продукции; низовыми звеньями управления Часть контрольных функций передается внешним организациям. Изменение содержания контроля и новые методы его осуществления.
81915. Информация как основа коммуникаций и ее значение в менеджменте 38.97 KB
  Процесс управления рассматривается как процесс восприятия преобразования и передачи информации. Основой управления является принятие решений которые основаны на использовании информации. Степень обоснованности решений зависит от полноты достоверности и своевременности информации. происходит передача информации для принятия и реализации решения.
81916. Сущность и виды коммуникаций 40.32 KB
  Установить взаимосвязь между людьми в организации. Сформулировать общие взгляды на внутреннюю среду организации. Организовать совместную работу коллективов с целью выполнения задач организации. Виды коммуникаций: Вертикальная ϶ᴛᴏ обмен информацией между руководителем и подчиненными; Горизонтальная представляет собой процесс передачи информации между сотрудниками одного уровня; Вербальная процесс общения с целью передачи информации при помощи слов; Невербальная общение с помощью мимики жестов взглядов; Формальная Неформальная...
81917. Коммуникативный процесс в менеджменте 55.81 KB
  Декодирование это перевод символов отправителя в уме получателя. Если символы избранные отправителем имеют точно такое же значение для получателя последний будет знать что именно имел в виду отправитель когда формулировалась его идея. Получатель становится отправителем и проходит через все этапы процесса обмена информацией для передачи своего отзыва начальному отправителю который теперь играет роль получателя. Эффект коммуникационного процесса ϶ᴛᴏ изменение в поведении получателя кᴏᴛᴏᴩые происходят в результате принятия сообщения.
81918. Коммуникативные барьеры и способы их преодоления в менеджменте 41.28 KB
  Содержательные барьеры проблемы в понимании смысла и значения отправленного или полученного сообщения Они делятся в свою очередь на: фонетические использование элементов из других языков и диалектов дефекты речи и дикции невнятность речи нарушения темпа речи наличие значительного количества звуков и словпаразитов; семантические вложение различного содержания использования жаргонов и слешей; стилистические несовпадение стиля речи коммуникатора отправителя с содержанием сообщения; логические различные логические системы...