Формула скорректированного коэффициента детерминации

Формула коэффициента детерминации, что измеряет?

oooekoans html 5aaace8e

Основная суть коэффициента детерминации состоит в зависимых переменных величинах дисперсии. Он применяется для оценивания качества линейной регрессии. Проще говоря – этот переменный показатель показывает зависимость (ее универсальную меру, часть) одной величины от других составляющих. Важно – коэффициент имеет свойство увеличиваться, но не уменьшаться. Что это такое (что представляет, его значимость)), как он изменяется и что может включать, какова его объективная оценка, основная функция и характеристика, а также как вычисляется и как его можно применять/использовать более подробно рекомендуем ознакомиться в предложенной публикации.

Детерминация, что это — определение

Термин детерминация происходит от латинского «определение» или «ограничение». Наиболее часто применим в биологии, эмбриологии (генетическая детерминация, научные доказательства того, что каждый организм/клетка/эмбрион и пр. развивается под контролем генома (первопричина человеческого устройства). Основан на анализе клеток, в нем показана половая эконометрика). В обычном восприятии термин означает причинную связь и/или предопределение (казуальные факторы), относится к образованию организационного образования.

В одном из распространенных учений существует понятие детерминизма, как составляющая основания мира (может обусловливать принцип его основания — детерминанта). Адепты полностью отрицают (исключают) существование вещей, их порядка «вне» взаимосвязи.

В противовес выступает индетерминизм – его главная составляющая отрицание зависимых факторов, т.е. причинности.

На примере данных учений и верований отображена вероятностная социокультурная зависимость (волатильность) в развитии личности и мотивации. А расчет позволяет оценить риски и сделать предположения как поведет себя отдельно взятая личность (человек) в той или иной ситуации, можно ли его допустить к военной службе (с его помощью можно оценить в чем заключаются особенности воинской корреляции), государственному управлении, в деловом общении и пр.

Коэффициент детерминации может принимать значения от полного «0» до единицы, и чем он ближе к значению «1», тем более связанный его результат/признак с другими величинами.

Термин показывает в криминалистике/правоохранительной системе: факт преступления является причинной связью (синоним преступности) между личностными качествами и поведением индивидуума (фиксирует и поясняет человеческие ошибки, совокупность факторов). Следовательно указанный показатель рассчитывается для оценки качества поведения (преступного), дает более полное представление о том, какие факторы этому послужили, и что в принципе послужило его причиной (первопричиной). Может объяснять и показывать в психологии данный частный случай, обуславливать параметр отклонения, т.е. факторы выученной беспомощности.

Коэффициент детерминации, что показывает?

Он полностью отображает вариации влияния результативного на факторный признак и очень тесно связан с корреляцией (ее числом). При этом формула расчета коэффициента принимает следующие значения:

• при наличии связи признаков (результативного и факторного) – его значение равняется «0»;
• при ее отсутствии – «1».

Индекс детерминации

На основании коэффициента определяется одноименный индекс для подсчета производных бета и альфа в процентном соотношении, и если процент ниже установленного минимума (может измеряться в пределах 75%) к его соотношению, то установленные значения будут некорректными (альфа и β), т.е. дисперсия дохода во времени бета.

Индекс детерминации это результативный фактор квадрат множественных уравнений (индексов корреляции нелинейных связей). На его основании можно характеризовать регрессионный фактор (на какое количество % и каким образом определяются модели регрессии), определяются показания результативной переменной в отношении к своему уровню (среднему).

Формула

Для расчета этого показателя (истинный коэффициент детерминации, модель зависимости от случайных факторов (х)) применяют формулу, составленную на доказательстве теоремы по разложению сумм квадратов (аппроксимация):

koeffdeterminatsii

Аппроксимацию можно рассчитать по формуле №2:

• R2 — коэффициент (квадрат);
• \bar — значение переменной (математическое);
• fi — предполагаемое уравнением значение переменной;
• yi — значение по исследованию переменной.

Коэффициент детерминации скорректированный

Суть коэффициента детерминации состоит в следующем – его индекс показывает общую долю дисперсий (результативная переменная), объясняющей варианты факторных переменных (увеличение, уменьшение), включенных в модель регрессии.

Далее выводится скорректированный показатель – он учитывает и выводит соотношение количества параметров (оцениваемых) и количество наблюдений. Его применяют для решения (выведение параметров) установленных задач по двум направлениям:

В первом случае (для данной выборки) модель является качественной в случае больших показателей с наименьшим отличием друг от друга (относительно увеличения числа объясняющих переменных). Во втором — в равных условиях рекомендуется выбирать модель с наибольшим скорректированным показателем (средний подбор величины).

Эмпирический коэффициент детерминации

Данный показатель является объяснением доли дисперсии в своем значении, обусловленным вариантами условий и факторов, в свою очередь заложенных в основу данной группировки (проблема знаковой деятельности).

По любым вопросам обращайтесь к нашим юристам через данную форму!

Источник

Коэффициент детерминации

Материал из MachineLearning.

Содержание

Определение и формула

Истинный коэффициент детерминации модели зависимости случайной величины от признаков определяется следующим образом:

где — условная (по признакам ) дисперсия зависимой переменной (дисперсия случайной ошибки модели).

В данном определении используются истинные параметры, характеризующие распределение случайных величин. Если использовать выборочную оценку значений соответствующих дисперсий, то получим формулу для выборочного коэффициента детерминации (который обычно и подразумевается под коэффициентом детерминации):

— сумма квадратов регрессионных остатков, — общая дисперсия, — соответственно, фактические и расчетные значения объясняемой переменной, — выборочное вреднее.

Необходимо подчеркнуть, что эта формула справедлива только для модели с константой, в общем случае необходимо использовать предыдущую формулу.

Интерпретация

Недостатки и альтернативные показатели

Основная проблема применения (выборочного) заключается в том, что его значение увеличивается (не уменьшается) от добавления в модель новых переменных, даже если эти переменные никакого отношения к объясняемой переменной не имеют. Поэтому сравнение моделей с разным количеством признаков с помощью коэффициента детерминации, вообще говоря, некорректно. Для этих целей можно использовать альтернативные показатели.

Скорректированный (adjusted)

Для того, чтобы была возможность сравнивать модели с разным числом признаков так, чтобы число регрессоров (признаков) не влияло на статистику обычно используется скорректированный коэффициент детерминации, в котором используются несмещённые оценки дисперсий:

который даёт штраф за дополнительно включённые признаки, где — количество наблюдений, а — количество параметров.

Данный показатель всегда меньше единицы, но теоретически может быть и меньше нуля (только при очень маленьком значении обычного коэффициента детерминации и большом количестве признаков), поэтому интерпретировать его как долю объясняемой дисперсии уже нельзя. Тем не менее, применение показателя в сравнении вполне обоснованно.

Обобщённый (extended)

Для случая регрессии без свободного члена:

При некоторой модификации также подходит для сравнения между собой регрессионных моделей, построенных с помощью: МНК, обобщённого метода наименьших квадратов (ОМНК), условного метода наименьших квадратов (УМНК), обобщённо-условного метода наименьших квадратов (ОУМНК).

Источник

Формула скорректированного коэффициента детерминации

3.4. Проверка адекватности моделей множественной линейной регрессии

3.4.1. Статистические критерии проверки адекватности моделей множественной регрессии

Анализ адекватности модели является важным этапом эконометрического моделирования. Для проверки адекватности моделей множественной регрессии, также как и парной линейной регрессии используют коэффициент детерминации и его модификации, отражающие особенности множественной модели, а также процедуры проверки статистических гипотез и построения доверительных интервалов для оценок параметров и прогнозов зависимой переменной.

3.4.2. Коэффициент детерминации

Важным показателем, характеризующим качество эмпирической регрессионной функции (ее соответствия наблюдаемым данным), является коэффициент детерминации. Полную сумму квадратов отклонений зависимой переменной от ее выборочного среднего в модели множественной регрессии можно представить в виде

В векторной форме выражение ( 3.28 ) можно записать так

f1
f2

С учетом ( 3.30 ) выражение ( 3.29 ) примет вид

f4

Первая форма записи коэффициента R 2

f5

Вторая форма записи R2

f6

Третья форма записи R2

f7

Все три формы записи по существу имеют тот же вид, что и в парной линейной регрессии, только представлены в векторном виде.

f8
f12

и в этом случае, очевидно, f13для всех значений i=1,2,…,n. Это означает, что поведение зависимой переменной полностью определяется независимыми случайными ошибками модели, и функция регрессии не объясняет поведение зависимой переменной.

Как и в случае парной линейной регрессии, коэффициент детерминации многомерной (множественной) регрессии следует понимать (интерпретировать) как долю (часть) дисперсии (выборочной) переменной y, объясненную уравнением регрессии. Коэффициент детерминации служит мерой адекватности модели: чем он больше, тем лучше ( при прочих равных условиях ) оценено уравнение регрессии.

Зависимость величины R 2 от количества регрессоров

Общеизвестна следующая зависимость R 2 и количества регрессоров k: если включить в модель дополнительный регрессор, то коэффициент детерминации может при этом только увеличиться. Обозначим f14— приращение величины коэффициента детерминации при добавлении дополнительного регрессора, здесь в скобках указано количество регрессоров в модели.

Тогда можно утверждать, что всегда будет f15.

Действительно, в модели с k+1 регрессором минимизируется функция k+1 переменной

f16
f18

3.4.3. Скорректированный коэффициент детерминации

Скорректированный коэффициент детерминации Тейла

Рассмотрим вторую форму представления коэффициента детерминации ( 3.34 ):

Выражение ( 3.36 ) можно записать в эквивалентном виде

f1

где f3, f4— смещенные оценки дисперсий случайной составляющей модели f5и зависимой переменной f6. Если теперь в выражении ( 3.37 ) смещенные оценки дисперсий заменить несмещенными, то получим скорректированный коэффициент детерминации Тейла

f2

Скорректированный коэффициент детерминации всегда меньше обычного, то есть имеет место соотношение

f7
f8
f9

откуда и следует неравенство ( 3.39 ).

Ранее было отмечено, что добавление дополнительного регрессора, как правило, увеличивает значение обычного коэффициента детерминации. Этого не происходит, если использовать скорректированный коэффициент детерминации. Его изменение, вызванное добавлением регрессора, может быть как положительным, так и отрицательным и поэтому, ориентируясь на значение скорректированного коэффициента, можно более объективно оценить, целесообразно ли введение дополнительного регрессора при уменьшении степеней свободы (приводит ли это к более адекватной модели). Лучшей признается модель, для которой скорректированный коэффициент f10больше.

Для модели примера 3.1. вычислим коэффициент детерминации и скорректированный коэффициент детерминации Тейла. Используя формулы ( 3.34 ) и ( 3.38 ), соответственно получим:

f11
f12

Данный результат позволяет сделать заключение о достаточно высоком качестве построенной регрессионной модели.

Вычислим коэффициент детерминации и скорректированный коэффициент детерминации Тейла для регрессии примера 3.2. Их значения равны

f13
f14

соответственно, что также позволяет сделать вывод о достаточно высоком качестве построенной модели.

Сравните результаты примеров 3.3, 3.4 с коэффициентами детерминации парных регрессий в примерах 2.4, 2.5. Сделайте выводы.

3.4.4. Построение доверительных интервалов для параметров регрессии и их линейных комбинаций

Построение доверительных интервалов как для отдельных коэффициентов регрессии так и для прогноза зависимой переменной является важнейшим этапом анализа регрессионной модели. Основные идеи, на которых базируются процедуры построения доверительных интервалов были рассмотрены в разделе ( 2.4.2 ) для случая парной линейной регрессии. Однако в многомерном случае появляются дополнительные задачи, в частности, построения интервалов и проверки гипотез для линейных комбинаций коэффициентов регрессии.

Эмпирическия оценка ковариационной матрицы вектора оценок параметров

Ранее для истинной ковариационной матрицы было получено выражение (формула ( 3.27 ))

f1
f4

В этом выражении неизвестно теоретическое значение дисперсии случайной составляющей модели f5. Оцененная по методу наименьших квадратов ковариационная матрица вектора b получается, если в выражении для теоретической ковариационной матрицы истинное значение дисперсии f5заменить его несмещенной оценкой. Получим выражение для такой оценки. Вспоминая выражения ( 3.15 ), ( 3.16 ) для оценок параметров и зависимой переменной, запишем

f6
f8
f11

Таким образом, для оцененной ковариационной матрицы получаем выражение

f12

На практике не приходится вычислять оценку ковариационной матрицы вручную, так как для этого существуют эффективные пакеты программ.

Доверительные интервалы для отдельных коэффициентов

Процедура построения доверительных интервалов для отдельных коэффициентов множественной регрессии принципиально не отличается от соответствующей процедуры в случае парной линейной регрессии, которую мы изучили в разделе 2.4.2. Как отмечалось выше, в классической линейной нормальной модели регрессии случайная переменная

f13a
f15
f19

Выражению ( 3.46 ) можно дать следующую интерпретацию: двусторонний симметричный доверительный интервал с

f21
f22

с вероятностью f20накрывает истинное значение регрессионного коэффициента f24. Уровень значимости выбирают, как и в парной линейной регрессии, либо равным 0,01 (однопроцентный уровень значимости), либо 0,05 (пятипроцентный уровень значимости).

Сравните доверительные интервалы, полученные в примерах 3.5, 3.6 с интервалами примеров 2.6, 2.7. Целесообразно ли включение дополнительных регрессоров в модели для объяснения поведения зависимой переменной?

Доверительные интервалы для линейных комбинаций коэффициентов регрессии

Часто при тестировании построенной модели множественной регрессии возникает задача проверки гипотез и построения доверительных интервалов для линейных комбинаций коэффициентов регрессии. Например, необходимо проверить, является ли сумма двух или нескольких коэффициентов постоянной величиной и построить доверительные границы для этой суммы.

f23

где f51— вектор коэффициентов линейной комбинации с постоянными компонентами, f52— оцененная линейная комбинация, f53— истинное (теоретическое) значение линейной комбинации, f54— оценка по методу наименьших квадратов стандартной ошибки линейной комбинации. Получим выражение для этой оценки. Теоретическая дисперсия линейной комбинации

f50

Заменяя в формуле ( 3.50 ) теоретическую дисперсию случайного члена ее несмещенной оценкой ( 3.42 ), получим эмпирическую оценку дисперсии линейной комбинации

f55
f56
f57

Заметим, что в линейной комбинации f58некоторые из коэффициентов f59могут быть равны нулю (разумеется, соответствующие коэффициенты в теоретическом значении комбинации также должны быть равны нулю). Границы симметричного доверительного интервала с уровнем значимости f60для значения линейной комбинации f61задаются следующим образом:

f62
f63

Замечание к интерпретации доверительных интервалов.

Процедура проверки гипотез относительно отдельных коэффициентов

f1
f2

Проверка гипотез о линейных комбинациях коэффициентов

Гипотезы о линейных комбинациях коэффициентов множественной регрессии формулируются следующим образом:

f8
f9

Правило проверки этих гипотез: гипотеза f12при уровне значимости f13отклоняется, если соответствующий двусторонний симметричный доверительный интервал не накрывает (не включает) значение c * с уровнем доверия f14.

1. двустороннюю пару гипотез относительно одного, двух или нескольких коэффициентов регрессии;

2. двустороннюю пару гипотез относительно значений одной, двух или нескольких линейных комбинаций коэффициентов регрессии (в отличие от t- теста, который проверяет гипотезу только об одной линейной комбинации);

3. совокупность гипотез относительно коэффициентов и их линейных комбинаций (t- тест подобного рода гипотезы проверять не позволяет).

В общем случае гипотезы для применения F- теста формулируются следующим образом:

f1
f2

Таким образом, с помощью F- теста в общем случае проверяются гипотезы относительно одновременного выполнения (или не выполнения) совокупности m линейных соотношений вида

F- статистика вычисляется по формуле

f5

Правило проверки гипотез на основе F-теста:

Гипотеза f9отклоняется, если выполнено неравенство

f7

2. Выбрать уровень значимости f15.

5. Проверить выполнение неравенства ( 3.54 ).

Частный случай: F-тест для совокупности регрессионных коэффициентов

На практике может возникнуть необходимость проверки гипотез о значимости коэффициентов множественной регрессии в совокупности, то есть нулевой гипотезы

f10

против альтернативной. Заметим, что в формулировке гипотезы не участвует свободный член f18регрессионного уравнения. Очевидно, гипотеза H0 вида ( 3.55 ) является частным случаем общей гипотезы ( 3.51 ), проверяемой с помощью F-теста. Действительно, достаточно матрицу C размерности (k-1) x k в общей формулировке ( 3.51 ) задать в виде

f17
f19

Ее можно получить из общей формулы для вычисления F-статистики ( 3.53 ).

Замечание. О проверке статистической значимости коэффициента детерминации.

f21
f22

F-тест для проверки этих гипотез можно получить, используя соотношение ( 3.56 ).

Опишите порядок проведения F-теста для проверки гипотезы ( 3.57 ) против альтернативы ( 3.58 ) и проверьте значимость коэффициентов детерминации в моделях примеров 3.1, 3.2.

f23
f24

Правило принятия решения состоит в следующем.

Нулевая гипотеза отклоняется, если выполняется неравенство

Источник

Комфорт
Adblock
detector
f25