Классический метод наименьших квадратов

Автор: Пользователь скрыл имя, 28 Января 2011 в 06:22, контрольная работа

Описание работы

Целью работы является рассмотрение методики классического метода наименьших квадратов.
Для достижения поставленной цели необходимо решить следующие задачи:
o рассмотреть применение метода наименьших квадратов для нахождения неизвестных параметров уравнения регрессии на примере модели линейной парной регрессии;
o изучить свойства оценок МНК;
o рассмотреть применение МНК на конкретном примере.

Содержание

Введение…………………………………………………………………….3
1. Процедура оценки параметров по методу наименьших квадратов…..5
2. Свойства оценок МНК…………………………………………………..9
Заключение………………………………………………………………..21
Список использованной литературы…………………………………….22

Работа содержит 1 файл

эконометрика.doc

— 312.50 Кб (Скачать)

где, напомним, cov(ei, ej) определяются как ковариация рядов ошибки e и et–(i–j).

     C учетом выражения (2.15) несложно  увидеть, что s02, s12,...,  sn – дисперсии оценок   ai i=0,1,..., n будут минимальными в том случае, если ковариационная матрица вектора ошибки e Сov(e) имеет следующий вид:

  М[e×]=se2×Е,                                    (2.17)

где se2 – дисперсия истинной ошибки модели, Е – единичная матрица.

     В этом случае выражение ковариационной матрицы оценок a значительно упрощается:

  Сov(a)=(Х¢Х)–1Х¢×Сov(e)×Х(Х¢Х )–1=

  =(Х¢Х)–1Х¢×se2×Е×Х(Х¢Х)–1=se2×(Х¢Х)–1.                      (2.18)

     Таким образом, если М[e×e¢]=se2×Е, то оценки коэффициентов линейного эконометрического уравнения являются эффективными. На практике дисперсии и ковариации оценок ai, i=0, 1,..., n; могут быть оценены как элементы матрицы  sе2×(Х¢Х)–1, в которой значение дисперсии ошибки может быть оценено на основе фактических (“выборочных”) значений ошибки et, согласно следующей формулы (см. выражение (1.32)):

  

     Таким образом, из полученных результатов вытекает, что использование метода наименьших квадратов позволяет получить несмещенные и эффективные оценки параметров линейной эконометрической модели при детерминированных значениях независимых переменных в случае конечной выборки, если выполняются следующие положения:

     1. Математическое ожидание значений  ошибки модели для всех моментов времени t равно нулю, т. е. для t=1,2,...,Т

  М[et]=0, М[e]=0.                               (2.20)

     2. Значение дисперсии ошибки является  постоянной величиной для всех моментов t=1,2,...,Т

  se2 =const.                                      (2.21)

     3. Значения ошибки, взятые в различные  моменты времени, независимы между собой, т. е. ковариация ошибок et, et+s,  где     s=1,2,... равна 0.

                             cov (et , et+s) = 0.                                  (2.22)

     4. Значения независимых факторов  модели и ошибки, рассматриваемые  в одни и те же моменты  времени, являются независимыми, т. е.  их ковариации равны нулю.

                            cov (хit , et+s) = 0,                                  (2.23)

для i=1, 2, ... , n.

     5. Матрица (Х¢Х) является невырожденной. На практике   это означает, что факторы хit, i=1, 2, ... , n независимы между собой, в том смысле, что их выборочные парные коэффициенты корреляции не превосходят некоторого порога  r

  ½rij½£r,                                            (2.24)

где rij – выборочный коэффициент корреляции между факторами хi   и хji¹ j

[1, с.267].

     При выполнении условий (2.20)–(2.23) оценки МНК  можно считать несмещенными и эффективными.

     При вырожденной матрице (Х¢Х) формально МНК вообще не  позволяет определить значения этих оценок, поскольку определитель этой матрицы становится равным нулю и сформировать обратную матрицу (Х¢Х)–1 без каких-либо дополнительных “ухищрений” не представляется возможным.

     Покажем также, что оценки параметров эконометрической модели, полученные с использованием МНК при детерминированных независимых переменных и справедливости условий (2.12) и (2.17), являются асимптотически несмещенными и состоятельными.

     Напомним, что эти свойства в эконометрике рассматриваются как “желательные”, в том смысле, что при прочих равных условиях оценки параметров эконометрической модели, полученные при большем объеме выборки исходных данных из однородной их совокупности, характеризуются меньшим смещением по сравнению с оценками, полученными на основе выборок меньшего объема.

     Предположим, что при Т®¥ соблюдается условие однородности исходных данных и для матрицы (Х¢Х) существует следующий предел:

  

где Q – положительно определенная матрица.

     Заметим также, что с учетом (2.25) выражение (2.9) можно представить в следующем виде:

     a=a+

e).                   (2.26)

     “Предел по вероятности” вектора оценок а с учетом (2.25) может быть записан следующим образом:

  plima=a+Q–1×plim e).                   (2.27)

     Поскольку Х¢ – матрица с детерминированными компонентами, то при выполнении условий (2.12) и (2.17) получим следующие выражения, определяющие математическое ожидание и дисперсию вектора w= e соответственно:

  M[w]=M[ e]= M[e]=0,                    (2.28)

  Cov(w)= M[w, w¢]= M[e,e¢] =     (2.29)

     Из  выражения (2.29) непосредственно следует, что при Т®¥ дисперсии оценок параметров стремятся к нулю, поскольку

   0.                      (2.30)

     Иными словами, оценки параметров эконометрической модели оказались асимптотически несмещенными, а, следовательно, и состоятельными*, т. е.

  plim

e)=0

и с  учетом (2.22) имеем:

  plima=a+Q-1×0=a.                          (2.31)

     Можно также показать, что при Т®¥ и конечных по абсолютной величине элементах матрицы Х закон распределения вектора e является асимптотически нормальным с нулевым математическим ожиданием и ковариационной матрицей s2Q. Это свойство записывается следующим образом:

   e N(0, se2Q).                           (2.32)

     С учетом выражения (2.32) закон распределения  вектора  (aa)= e=Q-1× e, также является асимптотически нормальным (см. выражение (1.56)):

  Q-1× e N(Q-1×0, Q-1×(se2Q)× Q-1] N(0, se2×Q-1],    (2.33)

где Q–1×(se2Q)×Q–1 – ковариационная матрица вектора   Q-1× e.

     Из  выражения (2.33) следует, что вектор оценок параметров а имеет асимптотически нормальное распределение с математическим ожиданием a и ковариационной матрицей т. е.

  a® N[a, ].                           (2.34)

     Напомним, что на практике при конечных значениях  Т ковариационная матрица этого вектора формируется с использованием следующих замен: .

     Заметим также, что выражение (2.34) является теоретическим обоснованием возможности использования критерия Стьюдента при определении значимости влияния независимых факторов на зависимую переменную модели у.

     В эконометрических исследованиях в  качестве значений независимых переменных часто приходится использовать исходные данные, которые нельзя интерпретировать как детерминированные величины, поскольку сами они являются результатами, например, выборочных обследований. Примерами таких переменных являются среднедушевой доход, среднедушевое потребление и т. п. Их значения определяются по некоторой выборке индивидуумов из генеральной совокупности  жителей.

     Аналогично, такая ситуация может иметь место, когда в качестве исходных данных модели используется информация, характеризующая случайно выбранные элементы генеральной совокупности. Например, из совокупности мелких предприятий розничной торговли формируется выборка и характеристики отобранных предприятий (доход, заработная плата, объем реализации и т. п.) рассматриваются как значения независимых переменных модели.

     В этих случаях значения независимых  переменных можно интерпретировать как случайные величины, подчиняющиеся определенному закону распределения (имеется в виду многомерное распределение совокупности  этих величин).

     Тогда вектор оценок параметров эконометрической модели, определенный на основе МНК (см. выражение (2.9)), можно интерпретировать как условную оценку, полученную при стохастической матрице наблюдаемых значений независимых факторов Х. С учетом такой трактовки выражение (2.9) может быть представлено в следующем виде [6,с.241]:

Информация о работе Классический метод наименьших квадратов