10975

Анализ точности определения оценок коэффициентов регрессии

Лекция

Математика и математический анализ

Анализ точности определения оценок коэффициентов регрессии В силу случайного отбора элементов данных в выборку случайными являются также оценки и коэффициентов и теоретического уравнения регрессии. Их математические ожидания при выполнении предпосылок об отклон

Русский

2013-04-03

69.28 KB

35 чел.

Анализ точности определения оценок коэффициентов регрессии

В силу случайного отбора элементов данных в выборку, случайными являются также оценки  и коэффициентов и теоретического уравнения регрессии. Их математические ожидания при выполнении предпосылок об отклонении  равны соответственно . При этом оценки тем надежнее, чем меньше их разброс вокруг  и , т.е. чем меньше дисперсии  и  оценок. Очевидно, надежность полученных оценок тесно связана с дисперсией случайных отклонений . Фактически ] является дисперсией  переменной  относительно линии регрессии (дисперсией , очищенной от влияния X). Полагая все измерения равноточными, считаем, что все эти дисперсии равны между собой .

Покажем связь дисперсий коэффициентов  и  с дисперсией случайных отклонений . С этой целью представим зависимости коэффициентов  и  (формулы (11.7) и (11.8)) в виде линейных функций относительно значений зависимой переменной :

Так как   , и введя обозначение 

окончательно получим:

Аналогично:

Обозначим    , тогда окончательно получим:

Полагая, что дисперсия  постоянная и не зависит от значений , можно рассматривать  и  как некоторые постоянные. Следовательно,

Из (12.3) и (12.4) можно сделать ряд выводов.

  1.  Дисперсии  и  прямо пропорциональны дисперсии случайного отклонения .
  2.  Чем больше дисперсия независимой (объясняющей) переменной (разброс значений ), тем меньше дисперсия оценок коэффициентов.

Ввиду того, что случайные отклонения  по выборке определены быть не могут, при анализе надежности оценок коэффициентов регрессии они заменяются отклонениями  значений  переменной  от оцененной линии регрессии. Дисперсия случайных отклонений  заменяется ее несмещенной оценкой.

Тогда

В этих выражениях  – необъясненная дисперсия (мера разброса зависимой переменной относительно линии регрессии). Корень квадратный из необъясненной дисперсии, т.е. , называется стандартной ошибкой оценки (стандартной ошибкой регрессии). Стандартные отклонения случайных величин  и  называются стандартными ошибками коэффициентов регрессии.

Проверка гипотез относительно коэффициентов линейной регрессии

Эмпирическое уравнение регрессии определяется на основе конечного числа статистических данных. Поэтому коэффициенты эмпирического уравнения регрессии являются СВ, изменяющимися от выборки к выборке. При проведении статистического анализа перед исследователем зачастую возникает необходимость сравнения эмпирических коэффициентов регрессии  и  с некоторыми теоретически ожидаемыми значениями и этих коэффициентов.

Данный анализ производится в рамках статистической проверки параметрических гипотез.

Показано, что в предположении нормальности распределения  при данном значении , оценки  и являются несмещенными оценками и соответственно. Их выборочные распределения связаны с
распределением (Стьюдента), которое имеет  степени свободы.

На первом этапе анализа наиболее важной является задача установления линейной зависимости между переменными  и . С этой целью сформулируем гипотезы:

линейная зависимость отсутствует, коэффициент угла наклона прямой незначимо отличается от нуля;

линейная зависимость значительная и коэффициент угла наклона не равен нулю.

При проверке гипотезы воспользуемся  статистикой:

Аналогичным образом проверяется гипотеза о статистической значимости нулю коэффициента регрессии  (свободный член линейного уравнения равен нулю):

Интервальные оценки коэффициентов линейной регрессии

Как указывалось выше, коэффициенты регрессии  и являются нормально распределенными СВ, с соответствующими дисперсиями, т.е. . Тогда следующие статистики

имеют распределение Стьюдента с числом степеней свободы . Тогда, для построения доверительного интервала с заданной доверительной вероятностью  найдем по статистическим таблицам критические значения:

С учетом (12.10) получим:

Если разрешить неравенства в формулах (12.12) относительно неизвестных коэффициентов регрессии  и  то получим соответствующие доверительные интервалы

Которые с доверительной вероятностью  накрывают определяемые параметры (теоретические коэффициенты регрессии).

Особый интерес представляет выборочное распределение  при конкретном значении . Так как  ведет себя как СВ, распределенная по нормальному закону, для нее тоже можно построить доверительный интервал. Соответствующая статистика имеет вид:

В выражении (12.14) величина это выборочное стандартное отклонение наблюденного значения от предсказанного , равное

.  (12.15)

Т.о. формулы (12.13 – 12.15) дают возможность построить доверительные интервалы для неизвестных параметров ,  и , по оценкам  и .

Пример 1.  ЛИНЕЙНЫЙ РЕГРЕССИОННЫЙ АНАЛИЗ

Имеется, выборка пар чисел рост студента (сантиметры), вес (масса) (килограммы).

Задание:

  1.  Определим прямую регрессию, задающую линейный прогноз средней массы студента по его росту.
  2.  Найдем также 95% доверительный интервал для средней массы студентов, имеющих рост 178 см.

Решение

По формуле (11.8) вычислим

.

По формуле (11.7) находим  .

Т.о. прямая регрессии, оценивающая среднюю массу студента по его росту, имеет вид:

Отсюда, для роста получим . Теперь для построения доверительного интервала для средней массы по оценке  вычислим

.

Теперь по формуле (12.14) Вычислим 95% доверительный интервал:


 

А также другие работы, которые могут Вас заинтересовать

34455. Северное Возрождение в Германии. Живопись, рисунок, гравюра. Альбрехт Дюрер (1471—1528), М. Грюневальд, Л. Кранах, Г. Гольбейн Младший 18.63 KB
  Альбрехт Дюрер 1471 1528 М. С этим временем совпадает творчество самого крупного художника немецкого Возрождения Альбрехта Дюрера 1471 1528. В творчестве Дюрера как бы слились искания многих немецких мастеров: наблюдения над природой человеком проблемы соотношения предметов в пространстве существования человеческой фигуры в пейзаже в пространственной среде. По разносторонности по масштабу дарования по широте восприятия действительности Дюрер типичный художник Высокого.
34456. Искусство Западной Европы ХVII века. Барокко в Италии. Архитектура (Борромини, Бернини). Скульптура. Д.Л. Бернини. Творчество Караваджо – реформатора европейской живописи, основоположника реализма ХVII в 20.58 KB
  Барокко в Италии. Центром развития нового искусства барокко на рубеже XVI XVII столетий был Рим. представляется типичной для эпохи барокко. Мастера барокко порывают со многими художественными традициями Возрождения с его гармоничными уравновешенными объемами.
34457. Искусство Западной Европы ХVII века. Историческая ситуация во Фландрии. Особенности фламандского барокко. Творчество П.П. Рубенса. Современники Рубенса 19.92 KB
  Рубенса. Современники Рубенса. был Питер Пауль Рубенс 1577 1640. Рубенс был внесен в списки свободных мастеров гильдии св.
34458. Искусство Западной Европы ХVII века. Специфика голландской живописи. Творчество Ф. Хальса, В.Дельфтского, Рембрандта 19.83 KB
  Отсюда широкий диапазон живописи этого столетия узкая специализация по отдельным видам тематики: портрет и пейзаж натюрморт и анималистический жанр. прекрасно демонстрирует эволюция творчества одного из крупнейших портретистов Голландии Франса Халса около 1580 1666. В 10 30х годах Халс много работает в жанре группового портрета. Индивидуальные портреты Халса исследователи иногда называют жанровым в силу особой специфичности изображения.
34459. Искусство Западной Европы ХVII века. Своеобразие испанской культуры ХVII в. Творчество Д.С. Веласкеса 18.46 KB
  Веласкеса Со второй половины XV в. Самый замечательный художник золотого испанского века Диего Родригес де Сильва Веласкес 1599 1660. Веласкес севильянец учился у Пачеко. Интересно что у Веласкеса типичнейшего испанца почти отсутствуют произведения на религиозные сюжеты а те которые он избирает трактуются им близко к бодегонес как жанровые сцены Христос в гостях у Марии и Марфы.
34460. Искусство Западной Европы ХVII века. Своеобразие исторического пути Франции ХVII в. Н. Пуссен – основоположник классицизма в живописи 19.64 KB
  Творчество замечательного рисовальщика и гравера Жака Калло 1593 1635 завершавшего свое образование в Италии явно испытало заметное влияние итальянского искусства. На творчестве Луи Ленена 1593 1648 отчетливо прослеживается влияние голландского искусства художник изображает крестьян без пасторальности без сельской экзотики не впадая в слащавость и умиление. Основой теории классицизма был рационализм опирающийся на философскую систему Декарта предметом искусства классицизма провозглашалось только прекрасное и возвышенное этическим и...
34461. Развитие бытового жанра в Англии ХVIII в. У. Хогарт. Влияние идей просветителей на портрет и пейзаж середины и второй половины ХVIII в. Английская школа портрета Дж. Рейнольдс. Т. Гейнсборо 18.89 KB
  Гейнсборо. Томас Гейнсборо 1727 1788 второй великий портретист XVIII столетия. В английской живописи эпохи Просвещения Рейнолдс и Гейнсборо выражают как бы две стороны просветительской эстетики: рационалистическую и эмоциональную. Для формирования Гейнсборо проведшего свою юность и молодость в провинции и сохранившего глубокую любовь к природе своего края старые мастера за исключением разве ван Дейка не имели такого значения как для Рейнолдса.
34462. Развитие искусства Италии в ХVIII в. Италия. Творчество Д.Б.Тьеполо. Развитие пейзажа (А. Каналетто, Т. Гварди) 17.04 KB
  был Джованни Баттиста Тьеполо 1696 1770 последний представитель барокко в европейском искусстве. Тьеполо автор гигантских росписей как церковных так и светских в которых архитектура природа люди звери сливаются в одно декоративное целое в единый декоративный поток. У Тьеполо был огромный декоративный дар и высокая колористическая культура как правило вообще присущая венецианским художникам. В одном из полотен для палаццо Дольфино в Венеции Триумф Сципиона особенно наглядно видно как умел и любил Тьеполо писать триумфальные...
34463. Творчество Ж.Л. Давида. Ж.Д. Энгр и формирование принципов неоклассицизма 18.99 KB
  В преддверии Великой французской революции в живописи Франции появляется Жак Луи Давид 1748 1825. Познакомившись с памятниками античности испытав влияние трудов Винкельмана и живописи немецкого классицистического художника Рафаэля Менгса Давид находит свой путь. Так выкристаллизовывался новый стиль и Давид в своей картине Клятва Горациев 1784 1785 выступил его глашатаем.