Нормальное распределение Вишарта - Normal-Wishart distribution

Нормальный-Уишарт

Обозначение	${\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )}$
Параметры	${\displaystyle {\boldsymbol {\mu }}_{0}\in \mathbb {R} ^{D}\,}$ место расположения (вектор настоящий ) ${\displaystyle \lambda >0\,}$ (настоящий) ${\displaystyle \mathbf {W} \in \mathbb {R} ^{D\times D}}$ масштабная матрица (поз. деф. ) ${\displaystyle \nu >D-1\,}$ (настоящий)
Поддерживать	${\displaystyle {\boldsymbol {\mu }}\in \mathbb {R} ^{D};{\boldsymbol {\Lambda }}\in \mathbb {R} ^{D\times D}}$ ковариационная матрица (поз. деф. )
PDF	${\displaystyle f({\boldsymbol {\mu }},{\boldsymbol {\Lambda }}|{\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )={\mathcal {N}}({\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})\ {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )}$

В теория вероятности и статистика, то нормальное распределение Вишарта (или же Распределение Гаусса-Вишарта) - многомерное четырехпараметрическое семейство непрерывных распределения вероятностей. Это сопряженный предшествующий из многомерное нормальное распределение с неизвестным иметь в виду и матрица точности (обратное ковариационная матрица ).^[1]

Определение

Предполагать

${\displaystyle {\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Lambda }}\sim {\mathcal {N}}({\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})}$

имеет многомерное нормальное распределение с иметь в виду ${\displaystyle {\boldsymbol {\mu }}_{0}}$ и ковариационная матрица ${\displaystyle (\lambda {\boldsymbol {\Lambda }})^{-1}}$, куда

${\displaystyle {\boldsymbol {\Lambda }}|\mathbf {W} ,\nu \sim {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )}$

имеет Распределение Уишарта. потом ${\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})}$имеет нормальное распределение Уишарта, обозначенное как

${\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu ).}$

Характеристика

Функция плотности вероятности

${\displaystyle f({\boldsymbol {\mu }},{\boldsymbol {\Lambda }}|{\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )={\mathcal {N}}({\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})\ {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )}$

Характеристики

Масштабирование

Маржинальные распределения

По построению предельное распределение над ${\displaystyle {\boldsymbol {\Lambda }}}$ это Распределение Уишарта, а условное распределение над ${\displaystyle {\boldsymbol {\mu }}}$ данный ${\displaystyle {\boldsymbol {\Lambda }}}$ это многомерное нормальное распределение. В предельное распределение над ${\displaystyle {\boldsymbol {\mu }}}$ это многомерный т-распределение.

Апостериорное распределение параметров

После изготовления ${\displaystyle n}$ наблюдения ${\displaystyle {\boldsymbol {x}}_{1},\dots ,{\boldsymbol {x}}_{n}}$, апостериорное распределение параметров равно

${\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{n},\lambda _{n},\mathbf {W} _{n},\nu _{n}),}$

куда

${\displaystyle \lambda _{n}=\lambda +n,}$

${\displaystyle {\boldsymbol {\mu }}_{n}={\frac {\lambda {\boldsymbol {\mu }}_{0}+n{\boldsymbol {\bar {x}}}}{\lambda +n}},}$

${\displaystyle \nu _{n}=\nu +n,}$

${\displaystyle \mathbf {W} _{n}^{-1}=\mathbf {W} ^{-1}+\sum _{i=1}^{n}({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})^{T}+{\frac {n\lambda }{n+\lambda }}({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})^{T}.}$^[2]

Генерация нормальных случайных величин Уишарта

Генерация случайных величин проста:

1. Образец ${\displaystyle {\boldsymbol {\Lambda }}}$ из Распределение Уишарта с параметрами ${\displaystyle \mathbf {W} }$ и ${\displaystyle \nu }$
2. Образец ${\displaystyle {\boldsymbol {\mu }}}$ из многомерное нормальное распределение со средним ${\displaystyle {\boldsymbol {\mu }}_{0}}$ и дисперсия ${\displaystyle (\lambda {\boldsymbol {\Lambda }})^{-1}}$

Связанные дистрибутивы

• В нормально-обратное распределение Уишарта по сути, то же самое распределение, параметризованное скорее дисперсией, чем точностью.
• В нормальное гамма-распределение - одномерный эквивалент.
• В многомерное нормальное распределение и Распределение Уишарта - это распределения компонентов, из которых состоит это распределение.

Примечания

1. Епископ, Кристофер М. (2006). Распознавание образов и машинное обучение. Springer Science + Business Media. Стр.690.
2. Перекрестная проверка, https://stats.stackexchange.com/q/324925

Рекомендации

• Епископ, Кристофер М. (2006). Распознавание образов и машинное обучение. Springer Science + Business Media.