Презентация Предпосылки метода наименьших квадратов. Обобщенный МНК онлайн
На нашем сайте вы можете скачать и просмотреть онлайн доклад-презентацию на тему Предпосылки метода наименьших квадратов. Обобщенный МНК абсолютно бесплатно. Урок-презентация на эту тему содержит всего 68 слайдов. Все материалы созданы в программе PowerPoint и имеют формат ppt или же pptx. Материалы и темы для презентаций взяты из открытых источников и загружены их авторами, за качество и достоверность информации в них администрация сайта не отвечает, все права принадлежат их создателям. Если вы нашли то, что искали, отблагодарите авторов - поделитесь ссылкой в социальных сетях, а наш сайт добавьте в закладки.
Оцените презентацию от 1 до 5 баллов!
- Тип файла:ppt / pptx (powerpoint)
- Всего слайдов:68 слайдов
- Для класса:1,2,3,4,5,6,7,8,9,10,11
- Размер файла:462.50 kB
- Просмотров:76
- Скачиваний:2
- Автор:неизвестен
Слайды и текст к этой презентации:
№1 слайд
Содержание слайда: Лекция № 3. Предпосылки метода наименьших квадратов. Обобщенный МНК
Вопросы
1. Предпосылки МНК и способы проверки их выполнения.
2. Свойства оценок, полученных с помощью МНК.
3. Обобщенный МНК.
№2 слайд
Содержание слайда:
№3 слайд
Содержание слайда:
№4 слайд
Содержание слайда:
№5 слайд
Содержание слайда:
№6 слайд
Содержание слайда:
№7 слайд
Содержание слайда:
№8 слайд
Содержание слайда: Речь идет о том, что оценки параметров регрессии должны быть несмещенными, состоятельными и эффективными. Эти свойства оценок, полученных по МНК, имеют чрезвычайно важное практическое значение в использовании результатов регрессии и корреляции.
№9 слайд
Содержание слайда: Напомним, что несмещенность оценки означает, что ее математическое ожидание равно оцениваемому параметру, а математическое ожидание остатков равно нулю. Следовательно, при большом числе выборочных оцениваний остатки не будут накапливаться и найденный параметр регрессии bi
№10 слайд
Содержание слайда: можно рассматривать как среднее значение из возможного большого количества несмещенных оценок. Несмещенные оценки можно сравнивать по разным исследованиям.
№11 слайд
Содержание слайда: Эффективность оценок означает, что они характеризуются наименьшей дисперсией. В практических исследованиях это означает возможность перехода от точечного оценивания к интервальному.
№12 слайд
Содержание слайда: Степень реалистичности доверительных интервалов параметров регрессии обеспечивается, если оценки будут не только несмещенными и эффективными, но и состоятельными. Состоятельность оценок характеризует увеличение их точности с увеличением объема выборки.
№13 слайд
Содержание слайда: Большой практический интерес представляют те результаты регрессии, для которых доверительный интервал ожидаемого значения параметра регрессии bi имеет предел значений вероятности, равный единице. То есть вероятность получения оценки на заданном расстоянии от истинного значения параметра близка к единице.
№14 слайд
Содержание слайда: Указанные критерии оценок (несмещенность, состоятельность, эффективность) обязательно учитываются при разных способах оценивания.
МНК строит оценки регрессии на основе минимизации суммы квадратов остатков. Поэтому очень важно исследовать их поведение.
№15 слайд
Содержание слайда: Условия, необходимые для получения несмещенных, состоятельных и эффективных оценок, представляют собой предпосылки МНК, соблюдение которых желательно для получения достоверных результатов регрессии.
№16 слайд
Содержание слайда: Исследования остатков εi предполагают проверку наличия следующих пяти предпосылок МНК:
1) случайный характер остатков;
2) нулевая средняя величина остатков, не зависящая от хi;
3) гомоскедастичность – дисперсия каждого отклонения εi одинакова для всех значений х;
№17 слайд
Содержание слайда: 4) отсутствие автокорреляции остатков. Значения остатков εi распределены независимо друг от друга;
5) остатки подчиняются нормальному распределению.
Если хотя бы одна предпосылка не выполняется, следует корректиро-
вать модель.
№18 слайд
Содержание слайда: Для проверки первой предпосылки строится график зависимости остатков εi от теоретических значений результативного признака .
Если все значения остатков εi размещаются в горизонтальной полосе, то остатки представляют собой случайные величины и МНК оправдан, теоретические значения хорошо аппроксимируют фактические значения у (рис. 1).
№19 слайд
Содержание слайда: *
Рис.1. Зависимость случайных остатков εi от теоретических значений ŷх
№20 слайд
Содержание слайда: Если же зависимость остатков εi от проявляется в том, что:
а) остатки εi не случайны;
б) остатки не имеют постоянной дисперсии;
в) остатки носят систематический характер, то нужно либо применять другую функцию, либо вводить дополнительную информацию и заново строить уравнение регрессии до тех пор, пока остатки εi не будут случайными величинами.
№21 слайд
Содержание слайда: *
Рис. 2. Зависимость случайных остатков εi от теоретических значений ŷх
№22 слайд
Содержание слайда: Вторая предпосылка МНК относительно нулевой средней величины остатков означает, что
Это выполнимо для линейных моделей и моделей, нелинейных относительно включаемых переменных.
№23 слайд
Содержание слайда: А для моделей, нелинейных относительно оцениваемых параметров и приводимых к линейному виду с помощью логарифмирования, средняя ошибка равна нулю для логарифмов исходных данных.
№24 слайд
Содержание слайда: Так, для модели вида
Кроме того, несмещенность оценок коэффициентов регрессии, полученных МНК, зависит также от независимости случайных остатков от величин х, что также исследуется в рамках соблюдения второй предпосылки МНК. С этой целью строится график зависимости случайных остатков ε от факторов хi, включенных в регрессию.
№25 слайд
Содержание слайда: Если остатки на графике расположены в виде горизонтальной полосы, то они независимы от значений хj. Если же график показывает наличие указанной зависимости, то модель неадекватна (рис. 2).
№26 слайд
Содержание слайда: *
Рис. 3. Зависимость случайных остатков εi от величины фактора хj .
№27 слайд
Содержание слайда: Причины неадекватности могут быть разные: 1) нарушение третьей предпосылки МНК (дисперсия остатков не постоянна для каждого значения фактора хj);
2) неправильная спецификация модели, и в нее необходимо ввести дополнительные члены от хj, например, хj2, или преобразовать значения у. Скопление точек в определенных участках значений фактора хj говорит о наличии систематической погрешности модели.
№28 слайд
Содержание слайда: Предпосылка о нормальном распределении остатков позволяет проводить проверку параметров регрессии и корреляции с помощью критериев t, F. Вместе с тем оценки регрессии, найденные с применением МНК, обладают хорошими свойствами даже при отсутствии нормального распределения остатков, т.е. при нарушении пятой предпосылки МНК.
№29 слайд
Содержание слайда: Для получения состоятельных оценок параметров регрессии по МНК совершенно необходимо соблюдение третьей и четвертой предпосылок.
В соответствии с третьей предпосылкой МНК требуется, чтобы дисперсия остатков была гомоскедастичной. Это значит, что для каждого значения фактора хj остатки εi имеют одинаковую дисперсию. В противном случае имеем гетероскедастичность.
№30 слайд
Содержание слайда: Наличие гетероскедастичности можно наглядно видеть из поля корреляции (рис. 4).
№31 слайд
Содержание слайда:
№32 слайд
Содержание слайда: *
Рис. 4. Примеры гетероскедастичности:
№33 слайд
Содержание слайда: а) дисперсия остатков растет по мере увеличения х;
б) дисперсия остатков достигает максимальной величины при средних значениях переменной х и уменьшается при минимальных и максимальных значениях х;
в) максимальная дисперсия остатков при малых значениях х и дисперсия остатков однородна по мере увеличения значений х.
№34 слайд
Содержание слайда: В случае гомоскедастичности для каждого значения хi распределения остатков одинаковы, а в случае гетероскедастичности при переходе от одного значения хi к другому меняется диапазон варьирования остатков.
№35 слайд
Содержание слайда: *
Рис. 5. Гомоскедастичность остатков
№36 слайд
Содержание слайда: *
Рис. 6. Гетероскедастичность остатков
№37 слайд
Содержание слайда: Наличие гомоскедастичности или гетероскедастичности можно видеть и по рассмотренному выше графику зависимости остатков εi от теоретических значений результативного признака ŷх. Так, для рисунка 4а) зависимость остатков от ŷх представлена на рис. 7.
№38 слайд
Содержание слайда: *
Рис. 7. Гетероскедастичность: большая дисперсия εi для больших значений ŷх.
№39 слайд
Содержание слайда: Соответственно для зависимостей, изображенных на полях корреляции рис. 4 б) и в), гетероскедастичность остатков представлена на рис. 8 и 9.
№40 слайд
Содержание слайда: *
Рис. 8. Гетероскедастичность, соответствующая полю корреляции рис. 4б)
№41 слайд
Содержание слайда: *
Рис. 9. Гетероскедастичность, соответствующая полю корреляции рис. 4в)
№42 слайд
Содержание слайда: Наличие гетероскедастичности может в отдельных случаях привести к смещенности оценок коэффициентов регрессии, хотя несмещенность этих оценок зависит в основном от соблюдения второй предпосылки МНК. Гетероскедастичность будет сказываться на уменьшении эффективности оценок bi.
№43 слайд
Содержание слайда: Практически при нарушении гомоскедастичности мы имеем неравенства:
и можно записать
При этом величина Ki может меняться при переходе от одного значения фактора xi к другому.
№44 слайд
Содержание слайда: Это означает, что сумма квадратов отклонений для зависимости
при наличии гетероскедастичности должна иметь вид:
№45 слайд
Содержание слайда: При минимизации этой суммы квадратов отдельные ее слагаемые взвешиваются: наблюдениям с наибольшей дисперсией придается пропорционально меньший вес. Иными словами, для учета систематического влияния неоднородных элементов Ki вклад каждой пары xi c yi в сумму квадратов остатков должен быть дисконтирован.
№46 слайд
Содержание слайда: Задача состоит в том, чтобы определить величину Ki и внести поправку в исходные переменные.
С этой целью рекомендуется использовать обобщенный метод наименьших квадратов, который эквивалентен обыкновенному МНК, примененному к преобразованным данным.
№47 слайд
Содержание слайда: 3. Обобщенный МНК применяется при нарушении гомоскедастичности и наличии автокорреляции ошибок.
ОМНК применяется к преобразованным данным и позволяет получать оценки, обладающие не только свойством несмещенности, но и имеющие наименьшие выборочные дисперсии. Остановимся на использовании ОМНК для корректировки гетероскедастичности.
№48 слайд
Содержание слайда: Как и раньше, будем предполагать, что среднее значение остатков равно нулю, а дисперсия не остается постоянной для разных значений фактора, а изменяется пропорционально величине Ki , т.е.
где - дисперсия ошибки при конкретном i-м значении фактора;
№49 слайд
Содержание слайда: σ2 - постоянная дисперсия ошибки при соблюдении предпосылки о гомоскедастичности остатков;
Ki – коэффициент пропорциональности, меняющийся с изменением величины фактора, что и обусловливает неоднородность дисперсии.
№50 слайд
Содержание слайда: В общем виде для уравнения
модель примет вид:
№51 слайд
Содержание слайда: В ней остаточные величины гетероскедастичны. Предполагая в них отсутствие автокорреляции, можно перейти к уравнению с гомоскедастичными остатками, поделив все переменные, зафиксированные в ходе i-го наблюдения, на
Тогда дисперсия остатков будет величиной постоянной, т.е.
= σ2.
№52 слайд
Содержание слайда: Таким образом, от регрессии у по х мы перейдем к регрессии на новых переменных:
Уравнение регрессии примет вид:
№53 слайд
Содержание слайда: Исходные данные для данного уравнения будут иметь вид:
№54 слайд
Содержание слайда: По отношению к обычной регрессии уравнение с новыми, преобразованными, переменными представляет собой взвешенную регрессию, в которой переменные х
и у взяты с весами
№55 слайд
Содержание слайда: Оценка параметров нового уравнения с преобразованными переменными приводит к взвешенному методу наименьших квадратов, для которого необходимо минимизировать сумму квадратов отклонений вида
№56 слайд
Содержание слайда: Соответственно получим следующую систему нормальных уравнений:
№57 слайд
Содержание слайда: Если преобразованные переменные х и у взять в отклонениях от средних уровней, то коэффициент регрессии b можно определить как
№58 слайд
Содержание слайда: При обычном применении МНК для переменных в отклонениях от средних уровней коэффициент регрессии определяется по формуле
№59 слайд
Содержание слайда: Таким образом, при использовании обобщенного МНК с целью корректировки гетероскедастичности коэффициент регрессии b представляет собой взвешенную величину по отношению к обычному МНК с весами 1/K.
№60 слайд
Содержание слайда: Рассмотрим данный подход для уравнения множественной регрессии.
Пусть рассматривается модель вида
y = a + b1x1 + b2x2 + ε,
для которой дисперсия остатков оказалась пропорциональной K2i , где Ki – коэффициент пропорциональности, принимающий различные значения для соответствующих i значений факторов х1 и х2.
№61 слайд
Содержание слайда: Так как
рассматриваемая модель примет вид
где ошибки гетероскедастичны.
№62 слайд
Содержание слайда: Для перехода к новому уравнению с гомоскедастичными остатками разделим все члены исходного уравнения на коэффициент пропорциональности K.
Тогда
№63 слайд
Содержание слайда: Это уравнение не содержит свободного члена. Вместе с тем, найдя переменные в новом преобразованном виде и применяя к ним обычный МНК, получим иную спецификацию модели:
№64 слайд
Содержание слайда: Параметры такой модели зависят от концепции, принятой для коэффициентов пропорциональности Ki. В эконометрических исследованиях довольно часто выдвигается гипотеза, что остатки εi пропорциональны значениям фактора.
№65 слайд
Содержание слайда: Так, если в уравнении
предположить, что Е = εх1, т.е. K = x1 и
то ОМНК предполагает оценку параметров следующего трансформированного уравнения:
№66 слайд
Содержание слайда: Если предположить, что ошибки пропорциональны xp, то модель примет вид:
№67 слайд
Содержание слайда: Применение в этом случае обобщенного МНК приводит к тому, что наблюдения с меньшими значениями преобразованных переменных x/K имеют при определении параметров регрессии относительно больший вес, чем с первоначальными переменными.
№68 слайд
Содержание слайда: Вместе с тем следует иметь в виду, что новые преобразованные переменные получают новое экономическое содержание и их регрессия имеет иной смысл, чем регрессия по исходным данным.
Скачать все slide презентации Предпосылки метода наименьших квадратов. Обобщенный МНК одним архивом:
