Отбор факторов при построении множественной регрессии

 

Факторы, включаемые во множественную регрессию, должны быть выбраны на основе экономического содержания решаемой задачи. Должны быть определены экзогенные переменные, т.е. такие переменные, значения которых задаются вне модели (легко запомнить, если связать эти переменные с английским словом «exit», что означает выход, извне и т.д.). В уравнении множественной регрессии эти переменные стоят в правой части, но они не должны совпадать с переменными, стоящими в левой части, если модель выглядит в виде системы уравнений.

Аналогичным образом должны быть определены эндогенные (ассоциируется соответственно со словом «in») переменные, т.е. такие переменные, значения которых вычисляются (определяются) внутри модели. Другими словами, это те переменные, которые стоят в левой части уравнения множественной регрессии.

В учебнике [26] указано, что факторы, включаемые во множественную регрессию, должны удовлетворять следующим требованиям.

1. Они должны быть количественно измеримы. Если необходимо включить в модель качественный фактор, не имеющий количественного измерения, то ему надо придать количественную определённость (например, в модели стоимости объектов недвижимости учитывается место нахождения недвижимости — районы могут быть проранжированы).

2. Факторы не должны быть интеркоррелированы и тем более находиться в точной функциональной зависимости.

Включение в модель факторов с высокой интеркорреляцией, когда R_y,x1<R_x1,x2 для зависимости y = a+b₁×x₁ +b₂×x₂+ε может привести к нежелательным последствиям – система нормальных уравнений может оказаться плохо обусловленной и повлечь за собой неустойчивость и ненадёжность оценок коэффициентов регрессии.

Если между факторами существует высокая корреляция, то нельзя определить их изолированное влияние на результативный фактор, и параметры уравнения регрессии оказываются неинтерпретируемыми. Так, в уравнении y = a+b₁×x₁ +b₂×x₂+ε предполагается, что факторы x₁ и x₂ независимы друг от друга, т.е. r_x1,x2 =0. Тогда можно говорить, что параметр b₁ измеряет силу влияния фактора x₁ на результат у при неизменном значении фактора x₂. Если же r_x1,x2 = 1, то с изменением фактора x₁ фактор x₂ не может оставаться неизменным. Отсюда b₁ и b₂ нельзя интерпретировать как показатели раздельного влияния x₁ и x₂ на у.

Пример 1. Рассмотрим регрессию себестоимости единицы продукции (у, руб.) от зарплаты работника (х₁, руб.) и производительности его труда (х₂, единиц изделий в час):

Y = 22600 – 8×x₁ – 10×x₂ +e.

Коэффициент регрессии (-10) при переменной х₂ показывает, что с ростом производительности на единицу изделия себестоимость снижается в среднем на 10 руб. при постоянном уровне оплаты труда. Вместе с тем параметр (-8) при х₁ нельзя интерпретировать как снижение себестоимости единицы продукции за счёт роста зарплаты. Отрицательное значение коэффициента регрессии при переменной х₁ обусловлено высокой корреляцией между х₁ и х₂ (r_x1,x2 = 0,98). Поэтому роста зарплаты при неизменности производительности труда быть не может.

Пример 2. Пусть имеются данные массивов Y, x1, x2, x3, расположенные в блоке B2:E5

A	B	C	D	E
№ изм.	Y	x1	x2	x3
Средние значения	3,78

 

Матрица парных корреляций, которую можно получить в MS Excel, например, с помощью команд: Сервис, Анализ данных, Корреляция (B2:E5) имеет вид:

 

	y	x1	x2	x3
y
x1	0,802181
x2	0,823329	0,644688
x3	0,48733	0,246183	0,872872

Эта процедура выдаёт нижнюю треугольную матрицу в надежде, что пользователь помнит о том, любая матрица парных корреляций симметрична. Теперь, пользуясь присущим вам чувством симметрии, восстановите всю матрицу.

 

Включаемые во множественную регрессию факторы должны объяснить вариацию независимой переменной. Если строится модель с набором p факторов, то для неё рассчитывается показатель детерминации R², который фиксирует долю объяснённой вариации результативного признака за счёт рассматриваемых в регрессии p факторов. Влияние других факторов, не учтённых в модели оценивается как 1-R² с соответствующей остаточной дисперсией S².

При дополнительном включении в регрессию p+1 фактора коэффициент детерминации должен возрастать, остаточная дисперсия уменьшаться:

R²_p+1 ³ R²_p, S²_p+1£ S²_p.

Если же этого не происходит и данные показатели практически мало отличаются друг от друга, то включаемый в анализ фактор x_p+1 не улучшает модель и практически является лишним фактором.

Насыщение модели лишними факторами не только не снижает величину остаточной дисперсии и не увеличивает показатель детерминации, но и приводит к статистической незначимости параметров регрессии по t-критерию Стьюдента (см. п. 8.2).

Таким образом, хотя теоретически регрессионная модель позволяет учесть любое число факторов, практически в этом нет необходимости. Отбор факторов производится на основе качественного теоретико-экономического анализа. Однако теоретический анализ часто не позволяет однозначно ответить на вопрос о количественной взаимосвязи рассматриваемых признаков и целесообразности включения фактора в модель. Поэтому отбор факторов обычно осуществляется в две стадии:

· на первой подбираются факторы исходя из сущности проблемы;

· на второй стадии – на основе матрицы показателей корреляции определяют t-статистики для параметров регрессии.

Коэффициенты интеркорреляции (т.е. корреляции между объясняющими переменными) позволяют исключать из модели дублирующие факторы. Считается, что две переменные явно коллинеарны, т.е. находятся между собой в линейной зависимости, если г_xi,xj ³ 0,7.

Поскольку одним из условий построения уравнения множественной регрессии является независимость действия факторов, т.е. R_xi,xj = 0, коллинеарность факторов нарушает это условие. Если факторы явно коллинеарны, то они дублируют друг друга и один из них рекомендуется исключить из регрессии. Предпочтение при этом отдаётся не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту связи с другими факторами. В этом требовании проявляется специфика множественной регрессии как метода исследования комплексного воздействия факторов в условиях их независимости друг от друга.

Пусть, например, при изучении зависимости y = f(x,z,v) матрица парных коэффициентов корреляции оказалась следующей:

 

	y	X	z	v
y
x	0,8
z	0,7	0,8
v	0,6	0,8	0,2

Очевидно, факторы x и z дублируют друг друга. Целесообразно включить в регрессию фактор z, а не x, так как корреляция z с результатом y слабее, чем корреляция фактора x с рузультирующим фактором у (г_y,z < г_y,x), зато слабее межфакторная корреляция г_z,v < г_x,v. Поэтому в данном случае в уравнение множественной регрессии включаются факторы z и v.

 

⇐ Предыдущая12345Следующая ⇒

Поделиться:

Воспользуйтесь поиском по сайту: