Вопрос №3: Множественная регрессия, мультиколлинеарность, методы её выявления и борьбы с ней. Критерий Фишера для множественной регрессии. Множественная регрессия

Вопрос №3: Множественная регрессия, мультиколлинеарность, методы её выявления и борьбы с ней. Критерий Фишера для множественной регрессии. Множественная регрессия Суть регрессионного анализа: построение математической модели и определение ее статистической надежности. Вид множественной линейной модели регрессионного анализа: Y = b0 + b1xi1 + ... + bjxij + ... + bkxik + ei где ei - случайные ошибки наблюдения, независимые между собой, имеют нулевую среднюю и дисперсию s. Или в матричной форме: ^ Матричная запись множественной линейной модели регрессионного анализа: Y = Xb + e где Y - случайный вектор - столбец размерности (n x 1) наблюдаемых значений результативного признака (y1, y2,..., yn); X - матрица размерности [n x (k+1)] наблюдаемых значений аргументов; b - вектор - столбец размерности [(k+1) x 1] неизвестных, подлежащих оценке параметров (коэффициентов регрессии) модели; e - случайный вектор - столбец размерности (n x 1) ошибок наблюдений (остатков). На практике рекомендуется, чтобы n превышало k не менее, чем в три раза. Назначение множественной регрессии: анализ связи между несколькими независимыми переменными и зависимой переменной. Мультиколлинеарность Мультиколлинеарность – положение, при котором две или более независимых переменных, входящих в уравнение регрессии, являются сильно коррелированными. При этом коэффициенты регрессии становятся неустойчивыми к малым изменениям в данных. X1 = λX2 XTX Для борьбы с мультиколлинеарностью применяются существуют методы: Регуляризация. Накладываются дополнительные ограничения на норму вектора коэффициентов α. Примером могут служить гребневая регрессия или L1-регуляризация) Преобразование признаков. Исходные n признаков с помощью некоторых преобразований переводятся в меньшее число m новых признаков. В частности, линейные преобразования приводят к методу главных компонент. ^ Отбор признаков. Производится явный перебор всевозможных подмножеств признаков. Для линейной регрессии удаётся строить эффективные методы, совмещающие перебор подмножеств с оптимизацией коэффициентов. F - критерий Фишера используют для сравнения дисперсий двух вариационных рядов. В регрессионном анализе критерий Фишера позволяет оценивать значимость линейных регрессионных моделей. В частности, он используется в шаговой регрессии для проверки целесообразности включения или исключения независимых переменных (признаков) в регрессионную модель. Он вычисляется по формуле: , где - большая дисперсия, - меньшая дисперсия. Если вычисленное значение критерия F больше критического для определенного уровня значимости и соответствующих чисел степеней свободы для числителя и знаменателя, то дисперсии считаются различными. Число степеней свободы числителя определяется по формуле: , где - число вариант для большей дисперсии. Число степеней свободы знаменателя определяется по формуле: , где - число вариант для меньшей дисперсии.

Похожие:

	Эконометрика Пособие содержит курс лекций по основным разделам эконометрики: парная и множественная регрессия, системы эконометрических уравнений...		Критерий Стьюдента, стандартная ошибка, интервальный прогноз с применением... Критерий Стьюдента (или t-критерий Стьюдента) общее название для класса методов статистической проверки гипотез (статистических критериев),...
	Гомеопатические препараты"heel" Обморожения, опрелости, экзема, множественная узелковая эритема с экссудативными поражениями, гиперкератозы, гипергидрозы		Учебное пособие для экономических специальностей Спецификация модели. Отбор факторов при построении уравнения множественной регрессии
	Задание на самостоятельную работу (для магистров) Подобрать экономические данные для модели множественной регрессии. Один результативный показатель и 3-4 факторных. Число наблюдений...		Линейная регрессия и метод наименьших квадратов Соответственно для признаков определяются средние, а сами случайные величины могут быть представлены в виде суммы средней и остатка,...
	Примерный список вопросов, который планируется вынести на экзамен Проверка качества множественной линейной регрессии: значимость параметров, адекватность модели доверительные интервалы для оценок...		Эта модель показывает, какие значения в среднем принимает результативный... Связь между у и независимыми факторами можно охарактеризовать уравнением (моделью) множественной регрессии
	А что вместо сигареты? Всемирный день без табака. А отсталое — закурило назло запретам. Это доказывает вся история борьбы с табаком. Так, может, стоит поискать...		Административно-правовые средства борьбы и выявления незаконного... Юридическая сущность административно-правовых средств выявления незаконного оборот наркотических средств