Функция дисперсии - Variance function

В статистика, то функция дисперсии - гладкая функция, изображающая отклонение случайной величины как функции ее иметь в виду. Функция дисперсии играет большую роль во многих параметрах статистического моделирования. Это главный ингредиент в обобщенная линейная модель фреймворк и инструмент, используемый в непараметрическая регрессия,^[1] полупараметрическая регрессия^[1] и функциональный анализ данных.^[2] В параметрическом моделировании функции дисперсии принимают параметрическую форму и явно описывают взаимосвязь между дисперсией и средним значением случайной величины. В непараметрической настройке предполагается, что функция дисперсии гладкая функция.

Интуиция

В настройке регрессионной модели цель состоит в том, чтобы установить, существует ли связь между переменной ответа и набором переменных-предикторов. Кроме того, если связь действительно существует, цель состоит в том, чтобы как можно лучше описать эту связь. Основное предположение в линейная регрессия - постоянная дисперсия или (гомоскедастичность), что означает, что разные переменные отклика имеют одинаковую дисперсию своих ошибок на каждом уровне предикторов. Это предположение хорошо работает, когда переменная ответа и переменная предиктора вместе являются нормальными, см. Нормальное распределение. Как мы увидим позже, функция дисперсии в настройке «Нормальный» является постоянной, однако мы должны найти способ количественной оценки гетероскедастичности (непостоянной дисперсии) при отсутствии совместной нормальности.

Когда вероятно, что ответ следует за распределением, которое является членом экспоненциального семейства, обобщенная линейная модель может быть более подходящим для использования, и, более того, когда мы не хотим навязывать параметрическую модель нашим данным, непараметрическая регрессия подход может быть полезным. Важность возможности моделировать дисперсию как функцию среднего значения заключается в улучшенном выводе (в параметрической настройке) и оценке функции регрессии в целом для любой настройки.

Функции дисперсии играют очень важную роль в оценке и выводе параметров. Как правило, оценка максимального правдоподобия требует определения функции правдоподобия. Затем это требование подразумевает, что сначала необходимо указать распределение наблюдаемых переменных отклика. Однако, чтобы определить квази-правдоподобие, нужно только указать взаимосвязь между средним значением и дисперсией наблюдений, чтобы затем можно было использовать функцию квазивероятности для оценки.^[3] Квази-правдоподобие оценка особенно полезна, когда есть чрезмерная дисперсия. Чрезмерная дисперсия возникает, когда данные более изменчивы, чем следовало бы ожидать в противном случае в соответствии с предполагаемым распределением данных.

Таким образом, чтобы обеспечить эффективный вывод параметров регрессии и функции регрессии, необходимо учитывать гетероскедастичность. Функции дисперсии количественно определяют взаимосвязь между дисперсией и средним значением наблюдаемых данных и, следовательно, играют важную роль в оценке и выводе регрессии.

Типы

Функция дисперсии и ее приложения используются во многих областях статистического анализа. Очень важно использовать эту функцию в рамках обобщенные линейные модели и непараметрическая регрессия.

Обобщенная линейная модель

Когда член экспоненциальная семья была определена, функция дисперсии может быть легко выведена.^[4]:29 Общая форма функции дисперсии представлена ​​в контексте экспоненциального семейства, а также конкретные формы для нормального, Бернулли, Пуассона и гаммы. Кроме того, мы описываем приложения и использование функций дисперсии в оценке максимального правдоподобия и оценки квази правдоподобия.

Вывод

В обобщенная линейная модель (GLM), является обобщением обычного регрессионного анализа, который распространяется на любой член экспоненциальная семья. Это особенно полезно, когда переменная ответа является категориальной, двоичной или подвержена ограничению (например, только положительные ответы имеют смысл). Краткое описание компонентов GLM приведено на этой странице, но для получения более подробной информации см. Страницу обобщенные линейные модели.

А GLM состоит из трех основных ингредиентов:

1. Случайная составляющая: распределение у из экспоненциальной семьи, ${\displaystyle E[y\mid X]=\mu }$

2. Линейный предсказатель: ${\displaystyle \eta =XB=\sum _{j=1}^{p}X_{ij}^{T}B_{j}}$

3. Функция ссылки: ${\displaystyle \eta =g(\mu ),\mu =g^{-1}(\eta )}$

Во-первых, важно вывести пару ключевых свойств экспоненциального семейства.

Любая случайная величина ${\displaystyle {\textit {y}}}$ в экспоненциальном семействе имеет функцию плотности вероятности вида

${\displaystyle f(y,\theta ,\phi )=\exp \left({\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right)}$

с логической вероятностью,

${\displaystyle \ell (\theta ,y,\phi )=\log(f(y,\theta ,\phi ))={\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )}$

Здесь, ${\displaystyle \theta }$ - канонический параметр и интересующий параметр, а ${\displaystyle \phi }$ является мешающим параметром, который играет роль в дисперсии. Личности Бартлетта получить общее выражение для функция дисперсииПервый и второй результаты Бартлетта гарантируют, что при подходящих условиях (см. Интегральное правило Лейбница ), для функции плотности, зависящей от ${\displaystyle \theta ,f_{\theta }()}$,

${\displaystyle \operatorname {E} _{\theta }\left[{\frac {\partial }{\partial \theta }}\log(f_{\theta }(y))\right]=0}$

${\displaystyle \operatorname {Var} _{\theta }\left[{\frac {\partial }{\partial \theta }}\log(f_{\theta }(y))\right]+\operatorname {E} _{\theta }\left[{\frac {\partial ^{2}}{\partial \theta ^{2}}}\log(f_{\theta }(y))\right]=0}$

Эти тождества приводят к простым вычислениям ожидаемого значения и дисперсии любой случайной величины. ${\displaystyle {\textit {y}}}$ в экспоненциальной семье ${\displaystyle E_{\theta }[y],Var_{\theta }[y]}$.

Ожидаемая стоимость Y:Взяв первую производную по ${\displaystyle \theta }$ логарифма плотности в форме экспоненциального семейства, описанной выше, имеем

${\displaystyle {\frac {\partial }{\partial \theta }}\log(f(y,\theta ,\phi ))={\frac {\partial }{\partial \theta }}\left[{\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right]={\frac {y-b'(\theta )}{\phi }}}$

Затем, взяв ожидаемое значение и установив его равным нулю, мы получим:

${\displaystyle \operatorname {E} _{\theta }\left[{\frac {y-b'(\theta )}{\phi }}\right]={\frac {\operatorname {E} _{\theta }[y]-b'(\theta )}{\phi }}=0}$

${\displaystyle \operatorname {E} _{\theta }[y]=b'(\theta )}$

Дисперсия Y:Для вычисления дисперсии мы используем второе тождество Бартлетта,

${\displaystyle \operatorname {Var} _{\theta }\left[{\frac {\partial }{\partial \theta }}\left({\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right)\right]+\operatorname {E} _{\theta }\left[{\frac {\partial ^{2}}{\partial \theta ^{2}}}\left({\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right)\right]=0}$

${\displaystyle \operatorname {Var} _{\theta }\left[{\frac {y-b'(\theta )}{\phi }}\right]+\operatorname {E} _{\theta }\left[{\frac {-b''(\theta )}{\phi }}\right]=0}$

${\displaystyle \operatorname {Var} _{\theta }\left[y\right]=b''(\theta )\phi }$

Теперь у нас есть отношения между ${\displaystyle \mu }$ и ${\displaystyle \theta }$, а именно

${\displaystyle \mu =b'(\theta )}$ и ${\displaystyle \theta =b'^{-1}(\mu )}$, что позволяет установить связь между ${\displaystyle \mu }$ и дисперсия,

${\displaystyle V(\theta )=b''(\theta )={\text{the part of the variance that depends on }}\theta }$

${\displaystyle \operatorname {V} (\mu )=b''(b'^{-1}(\mu )).\,}$

Обратите внимание, потому что ${\displaystyle \operatorname {Var} _{\theta }\left[y\right]>0,b''(\theta )>0}$, тогда ${\displaystyle b':\theta \rightarrow \mu }$ обратима.Мы выводим дисперсионную функцию для нескольких распространенных распределений.

Пример - нормальный

В Нормальное распределение является частным случаем, когда функция дисперсии является постоянной. Позволять ${\displaystyle y\sim N(\mu ,\sigma ^{2})}$ то положим функцию плотности у в виде экспоненциального семейства, описанного выше:

${\displaystyle f(y)=\exp \left({\frac {y\mu -{\frac {\mu ^{2}}{2}}}{\sigma ^{2}}}-{\frac {y^{2}}{2\sigma ^{2}}}-{\frac {1}{2}}\ln {2\pi \sigma ^{2}}\right)}$

куда

${\displaystyle \theta =\mu ,}$

${\displaystyle b(\theta )={\frac {\mu ^{2}}{2}},}$

${\displaystyle \phi =\sigma ^{2},}$

${\displaystyle c(y,\phi )=-{\frac {y^{2}}{2\sigma ^{2}}}-{\frac {1}{2}}\ln {2\pi \sigma ^{2}}}$

Чтобы вычислить функцию дисперсии ${\displaystyle V(\mu )}$, мы сначала выражаем ${\displaystyle \theta }$ как функция ${\displaystyle \mu }$. Затем преобразуем ${\displaystyle V(\theta )}$ в функцию ${\displaystyle \mu }$

${\displaystyle \theta =\mu }$

${\displaystyle b'(\theta )=\theta =\operatorname {E} [y]=\mu }$

${\displaystyle V(\theta )=b''(\theta )=1}$

Следовательно, функция дисперсии постоянна.

Пример - Бернулли

Позволять ${\displaystyle y\sim {\text{Bernoulli}}(p)}$, то выразим плотность Распределение Бернулли в экспоненциальной форме семьи,

${\displaystyle f(y)=\exp \left(y\ln {\frac {p}{1-p}}+\ln(1-p)\right)}$

${\displaystyle \theta =\ln {\frac {p}{1-p}}=}$ логит (p), что дает нам ${\displaystyle p={\frac {e^{\theta }}{1+e^{\theta }}}=}$ истекать${\displaystyle (\theta )}$

${\displaystyle b(\theta )=\ln(1+e^{\theta })}$ и

${\displaystyle b'(\theta )={\frac {e^{\theta }}{1+e^{\theta }}}=}$ истекать${\displaystyle (\theta )=p=\mu }$

${\displaystyle b''(\theta )={\frac {e^{\theta }}{1+e^{\theta }}}-\left({\frac {e^{\theta }}{1+e^{\theta }}}\right)^{2}}$

Это дает нам

${\displaystyle V(\mu )=\mu (1-\mu )}$

Пример - Пуассон

Позволять ${\displaystyle y\sim {\text{Poisson}}(\lambda )}$, то выразим плотность распределение Пуассона в экспоненциальной форме семьи,

${\displaystyle f(y)=\exp(y\ln \lambda -\ln \lambda )}$

${\displaystyle \theta =\ln \lambda =}$ что дает нам ${\displaystyle \lambda =e^{\theta }}$

${\displaystyle b(\theta )=e^{\theta }}$ и

${\displaystyle b'(\theta )=e^{\theta }=\lambda =\mu }$

${\displaystyle b''(\theta )=e^{\theta }=\mu }$

Это дает нам

${\displaystyle V(\mu )=\mu }$

Здесь мы видим центральное свойство пуассоновских данных, что дисперсия равна среднему.

Пример - Гамма

В Гамма-распределение и функция плотности может быть выражена при различных параметризациях. Воспользуемся формой гаммы с параметрами ${\displaystyle (\mu ,\nu )}$

${\displaystyle f_{\mu ,\nu }(y)={\frac {1}{\Gamma (\nu )y}}\left({\frac {\nu y}{\mu }}\right)^{\nu }e^{\frac {\nu y}{\mu }}}$

Тогда в форме экспоненциальной семьи имеем

${\displaystyle f_{\mu ,\nu }(y)=\exp \left({\frac {-{\frac {1}{\mu }}y+\ln({\frac {1}{\mu }})}{\frac {1}{\nu }}}+\ln \left({\frac {\nu ^{\nu }y^{\nu -1}}{\Gamma (\nu )}}\right)\right)}$

${\displaystyle \theta ={\frac {-1}{\mu }}\rightarrow \mu ={\frac {-1}{\theta }}}$

${\displaystyle \phi ={\frac {1}{\nu }}}$

${\displaystyle b(\theta )=-ln(-\theta )}$

${\displaystyle b'(\theta )={\frac {-1}{\theta }}={\frac {-1}{\frac {-1}{\mu }}}=\mu }$

${\displaystyle b''(\theta )={\frac {1}{\theta ^{2}}}=\mu ^{2}}$

И у нас есть ${\displaystyle V(\mu )=\mu ^{2}}$

Применение - взвешенный метод наименьших квадратов

Очень важным применением функции дисперсии является ее использование для оценки параметров и вывода, когда переменная отклика имеет требуемую форму экспоненциального семейства, а также в некоторых случаях, когда это не так (что мы обсудим в квази-правдоподобие ). Взвешенный наименьших квадратов (WLS) - это частный случай обобщенных наименьших квадратов. Каждый член в критерии WLS включает вес, который определяет, какое влияние оказывает каждое наблюдение на окончательные оценки параметров. Как и в обычном методе наименьших квадратов, цель состоит в том, чтобы оценить неизвестные параметры в функции регрессии путем нахождения значений для оценок параметров, которые минимизируют сумму квадратов отклонений между наблюдаемыми ответами и функциональной частью модели.

Хотя WLS предполагает независимость наблюдений, он не предполагает равной дисперсии и, следовательно, является решением для оценки параметров при наличии гетероскедастичности. В Теорема Гаусса – Маркова и Aitken продемонстрировать, что лучшая линейная несмещенная оценка (СИНИЙ), несмещенный оценщик с минимальной дисперсией, имеет каждый вес, равный обратной величине дисперсии измерения.

В рамках GLM наша цель - оценить параметры ${\displaystyle \beta }$, куда ${\displaystyle Z=g(E[y\mid X])=X\beta }$. Поэтому мы хотели бы минимизировать ${\displaystyle (Z-XB)^{T}W(Z-XB)}$ и если мы определим весовую матрицу W в качестве

${\displaystyle \underbrace {W} _{n\times n}={\begin{bmatrix}{\frac {1}{\phi V(\mu _{1})g'(\mu _{1})^{2}}}&0&\cdots &0&0\\0&{\frac {1}{\phi V(\mu _{2})g'(\mu _{2})^{2}}}&0&\cdots &0\\\vdots &\vdots &\vdots &\vdots &0\\\vdots &\vdots &\vdots &\vdots &0\\0&\cdots &\cdots &0&{\frac {1}{\phi V(\mu _{n})g'(\mu _{n})^{2}}}\end{bmatrix}},}$

куда ${\displaystyle \phi ,V(\mu ),g(\mu )}$ определены в предыдущем разделе, это позволяет методом наименьших квадратов с повторным взвешиванием (IRLS) оценка параметров. См. Раздел о методом наименьших квадратов с повторным взвешиванием для получения дополнительной информации.

Также важно отметить, что когда весовая матрица имеет форму, описанную здесь, минимизируя выражение ${\displaystyle (Z-XB)^{T}W(Z-XB)}$ также минимизирует расстояние Пирсона. Видеть Корреляция расстояний для большего.

Матрица W выпадает сразу из оценочных уравнений для оценки ${\displaystyle \beta }$. Оценка максимального правдоподобия для каждого параметра ${\displaystyle \beta _{r},1\leq r\leq p}$, требует

${\displaystyle \sum _{i=1}^{n}{\frac {\partial l_{i}}{\partial \beta _{r}}}=0}$, куда ${\displaystyle \operatorname {l} (\theta ,y,\phi )=\log(\operatorname {f} (y,\theta ,\phi ))={\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )}$ логарифмическая вероятность.

Глядя на одно наблюдение, мы имеем

${\displaystyle {\frac {\partial l}{\partial \beta _{r}}}={\frac {\partial l}{\partial \theta }}{\frac {\partial \theta }{\partial \mu }}{\frac {\partial \mu }{\partial \eta }}{\frac {\partial \eta }{\partial \beta _{r}}}}$

${\displaystyle {\frac {\partial \eta }{\partial \beta _{r}}}=x_{r}}$

${\displaystyle {\frac {\partial l}{\partial \theta }}={\frac {y-b'(\theta )}{\phi }}={\frac {y-\mu }{\phi }}}$

${\displaystyle {\frac {\partial \theta }{\partial \mu }}={\frac {\partial b'^{-1}(\mu )}{\mu }}={\frac {1}{b''(b'(\mu ))}}={\frac {1}{V(\mu )}}}$

Это дает нам

${\displaystyle {\frac {\partial l}{\partial \beta _{r}}}={\frac {y-\mu }{\phi V(\mu )}}{\frac {\partial \mu }{\partial \eta }}x_{r}}$и отмечая, что

${\displaystyle {\frac {\partial \eta }{\partial \mu }}=g'(\mu )}$ у нас есть это

${\displaystyle {\frac {\partial l}{\partial \beta _{r}}}={\frac {y-\mu }{\phi V(\mu )}}W{\frac {\partial \eta }{\partial \mu }}x_{r}}$

Матрица Гессе определяется аналогичным образом и может быть показана как

${\displaystyle H=X^{T}(y-\mu )\left[{\frac {\partial }{\beta _{s}}}W{\frac {\partial }{\beta _{r}}}\right]-X^{T}WX}$

Обратите внимание на то, что Fisher Information (FI),

${\displaystyle {\text{FI}}=-E[H]=X^{T}WX}$, позволяет асимптотически аппроксимировать ${\displaystyle {\hat {\beta }}}$

${\displaystyle {\hat {\beta }}\sim N_{p}(\beta ,(X^{T}WX)^{-1})}$, и, следовательно, можно сделать вывод.

Применение - квазивероятность

Поскольку большинство функций GLM зависит только от первых двух моментов распределения, а не от всего распределения, квази-правдоподобие можно получить, просто указав функцию связи и функцию дисперсии. То есть нам нужно указать

- Функция ссылки: ${\displaystyle E[y]=\mu =g^{-1}(\eta )}$

- Функция отклонения: ${\displaystyle V(\mu ){\text{, where the }}\operatorname {Var} _{\theta }(y)=\sigma ^{2}V(\mu )}$

С указанной функцией дисперсии и функцией связи мы можем разработать в качестве альтернативы логарифмическойфункция правдоподобия, то функция оценки, а Информация Fisher, а квази-правдоподобие, а квази-оценка, а квазиинформация. Это позволяет сделать полный вывод о ${\displaystyle \beta }$.

Квази-правдоподобие (QL)

Хотя называется квази-правдоподобие, это фактически квази-бревно-вероятность. QL для одного наблюдения составляет

${\displaystyle Q_{i}(\mu _{i},y_{i})=\int _{y_{i}}^{\mu _{i}}{\frac {y_{i}-t}{\sigma ^{2}V(t)}}\,dt}$

И поэтому КЖ для всех п наблюдения

${\displaystyle Q(\mu ,y)=\sum _{i=1}^{n}Q_{i}(\mu _{i},y_{i})=\sum _{i=1}^{n}\int _{y_{i}}^{\mu _{i}}{\frac {y-t}{\sigma ^{2}V(t)}}\,dt}$

От QL у нас есть квази-оценка

Квази-оценка (QS)

Напомним функция оценки, U, для данных с логарифмической вероятностью ${\displaystyle \operatorname {l} (\mu \mid y)}$ является

${\displaystyle U={\frac {\partial l}{d\mu }}.}$

Точно так же мы получаем квази-оценку,

${\displaystyle U={\frac {y-\mu }{\sigma ^{2}V(\mu )}}}$

Отметив, что для одного наблюдения оценка

${\displaystyle {\frac {\partial Q}{\partial \mu }}={\frac {y-\mu }{\sigma ^{2}V(\mu )}}}$

Первые два уравнения Бартлетта удовлетворяются для квази-оценки, а именно

${\displaystyle E[U]=0}$

и

${\displaystyle \operatorname {Cov} (U)+E\left[{\frac {\partial U}{\partial \mu }}\right]=0.}$

Кроме того, квази-оценка линейна по у.

В конечном итоге цель - найти информацию об интересующих параметрах. ${\displaystyle \beta }$. И QS, и QL фактически являются функциями ${\displaystyle \beta }$. Отзывать, ${\displaystyle \mu =g^{-1}(\eta )}$, и ${\displaystyle \eta =X\beta }$, следовательно,

${\displaystyle \mu =g^{-1}(X\beta ).}$

Квазиинформация (QI)

В квазиинформация, похож на Информация Fisher,

${\displaystyle i_{b}=-\operatorname {E} \left[{\frac {\partial U}{\partial \beta }}\right]}$

QL, QS, QI как функции ${\displaystyle \beta }$

QL, QS и QI - все представляют собой строительные блоки для вывода об интересующих параметрах, поэтому важно выразить QL, QS и QI как функции ${\displaystyle \beta }$.

Снова напоминая, что ${\displaystyle \mu =g^{-1}(X\beta )}$, выведем выражения для QL, QS и QI, параметризованные при ${\displaystyle \beta }$.

Квази-правдоподобие в ${\displaystyle \beta }$,

${\displaystyle Q(\beta ,y)=\int _{y}^{\mu (\beta )}{\frac {y-t}{\sigma ^{2}V(t)}}\,dt}$

QS как функция ${\displaystyle \beta }$ следовательно является

${\displaystyle U_{j}(\beta _{j})={\frac {\partial }{\partial \beta _{j}}}Q(\beta ,y)=\sum _{i=1}^{n}{\frac {\partial \mu _{i}}{\partial \beta _{j}}}{\frac {y_{i}-\mu _{i}(\beta _{j})}{\sigma ^{2}V(\mu _{i})}}}$

${\displaystyle U(\beta )={\begin{bmatrix}U_{1}(\beta )\\U_{2}(\beta )\\\vdots \\\vdots \\U_{p}(\beta )\end{bmatrix}}=D^{T}V^{-1}{\frac {(y-\mu )}{\sigma ^{2}}}}$

Где,

${\displaystyle \underbrace {D} _{n\times p}={\begin{bmatrix}{\frac {\partial \mu _{1}}{\partial \beta _{1}}}&\cdots &\cdots &{\frac {\partial \mu _{1}}{\partial \beta _{p}}}\\{\frac {\partial \mu _{2}}{\partial \beta _{1}}}&\cdots &\cdots &{\frac {\partial \mu _{2}}{\partial \beta _{p}}}\\\vdots \\\vdots \\{\frac {\partial \mu _{m}}{\partial \beta _{1}}}&\cdots &\cdots &{\frac {\partial \mu _{m}}{\partial \beta _{p}}}\end{bmatrix}}\underbrace {V} _{n\times n}=\operatorname {diag} (V(\mu _{1}),V(\mu _{2}),\ldots ,\ldots ,V(\mu _{n}))}$

Квазиинформационная матрица в ${\displaystyle \beta }$ является,

${\displaystyle i_{b}=-{\frac {\partial U}{\partial \beta }}=\operatorname {Cov} (U(\beta ))={\frac {D^{T}V^{-1}D}{\sigma ^{2}}}}$

Получение функции оценки и информации о ${\displaystyle \beta }$ позволяет оценивать параметры и делать выводы аналогично тому, как описано в Применение - взвешенный метод наименьших квадратов.

Непараметрический регрессионный анализ

График разброса лет в высшей лиге против зарплаты (x 1000 долларов). Линия - это тренд в среднем. График демонстрирует, что дисперсия непостоянна.

Сглаженная условная дисперсия против сглаженного условного среднего. Квадратичная форма указывает на гамма-распределение. Функция дисперсии гаммы равна V (${\displaystyle \mu }$) = ${\displaystyle \mu ^{2}}$

Непараметрическая оценка функции дисперсии и ее важность широко обсуждалась в литературе.^[5][6][7]В непараметрическая регрессия анализа, цель состоит в том, чтобы выразить ожидаемое значение вашей переменной ответа (у) в зависимости от ваших предикторов (Икс). То есть мы хотим оценить иметь в виду функция ${\displaystyle g(x)=\operatorname {E} [y\mid X=x]}$ без принятия параметрической формы. Есть много форм непараметрических сглаживание методы, помогающие оценить функцию ${\displaystyle g(x)}$. Интересный подход - также посмотреть на непараметрические функция дисперсии, ${\displaystyle g_{v}(x)=\operatorname {Var} (Y\mid X=x)}$. Непараметрическая функция дисперсии позволяет взглянуть на функцию среднего значения, поскольку она связана с функцией дисперсии, и замечать закономерности в данных.

${\displaystyle g_{v}(x)=\operatorname {Var} (Y\mid X=x)=\operatorname {E} [y^{2}\mid X=x]-\left[\operatorname {E} [y\mid X=x]\right]^{2}}$

Пример подробно описан на рисунках справа. Целью проекта было определить (среди прочего), действительно ли предсказатель количество лет в высшей лиге (бейсбол,) повлиял на реакцию, зарплата, плеер сделал. Начальная диаграмма разброса данных указывает на гетероскедастичность данных, поскольку дисперсия не является постоянной на каждом уровне прогнозирующего фактора. Поскольку мы можем визуально обнаружить непостоянную дисперсию, теперь полезно построить график ${\displaystyle g_{v}(x)=\operatorname {Var} (Y\mid X=x)=\operatorname {E} [y^{2}\mid X=x]-\left[\operatorname {E} [y\mid X=x]\right]^{2}}$и посмотрите, указывает ли форма на какое-либо известное распределение. Можно оценить ${\displaystyle \operatorname {E} [y^{2}\mid X=x]}$ и ${\displaystyle \left[\operatorname {E} [y\mid X=x]\right]^{2}}$ используя общий сглаживание метод. График непараметрической сглаженной функции дисперсии может дать исследователю представление о взаимосвязи между дисперсией и средним значением. Картинка справа показывает квадратичную зависимость между средним значением и дисперсией. Как мы видели выше, функция гамма-дисперсии квадратична в среднем.

Примечания

1. Мюллер и Чжао (1995). «О модели полупараметрической функции дисперсии и тесте на гетероскедастичность». Анналы статистики. 23 (3): 946–967. Дои:10.1214 / aos / 1176324630. JSTOR  2242430.
2. Мюллер, Штадтмюллер и Яо (2006). «Функциональные вариативные процессы». Журнал Американской статистической ассоциации. 101 (475): 1007. Дои:10.1198/016214506000000186. JSTOR  27590778.
3. Веддерберн, Р.У.М. (1974). «Функции квази-правдоподобия, обобщенные линейные модели и метод Гаусса – Ньютона». Биометрика. 61 (3): 439. Дои:10.1093 / biomet / 61.3.439. JSTOR  2334725.
4. Маккаллах, Питер; Нелдер, Джон (1989). Обобщенные линейные модели (второе изд.). Лондон: Чепмен и Холл. ISBN  0-412-31760-5.
5. Мюллер и Штадт-Мюллер (1987). «Оценка гетероскедастичности в регрессионном анализе». Анналы статистики. 15 (2): 610–625. Дои:10.1214 / aos / 1176350364. JSTOR  2241329.
6. Cai and Wang, T .; Ван, Ли (2008). «Адаптивная оценка функции дисперсии в гетероскедастической непараметрической регрессии». Анналы статистики. 36 (5): 2025–2054. arXiv:0810.4780. Bibcode:2008arXiv0810.4780C. Дои:10.1214 / 07-AOS509. JSTOR  2546470.
7. Райс и Сильверман (1991). «Непараметрическая оценка структуры среднего значения и ковариации, когда данные являются кривыми». Журнал Королевского статистического общества. 53 (1): 233–243. JSTOR  2345738.

Рекомендации

• Маккаллах, Питер; Нелдер, Джон (1989). Обобщенные линейные модели (второе изд.). Лондон: Чепмен и Холл. ISBN  0-412-31760-5.
• Хенрик Мэдсен и Пол Тайрегод (2011). Введение в общие и обобщенные линейные модели. Чепмен и Холл / CRC. ISBN  978-1-4200-9155-7.

внешняя ссылка

• СМИ, связанные с Функция дисперсии в Wikimedia Commons