Сложенное нормальное распределение - Folded normal distribution

Функция плотности вероятности μ=1, σ=1
Кумулятивная функция распределения μ=1, σ=1
Параметры	μ ∈ р   (место расположения ) σ^2 > 0   (шкала )
Поддерживать	Икс ∈ [0,∞)
PDF	${displaystyle {frac {1}{sigma {sqrt {2pi }}}},e^{-{frac {(x-mu )^{2}}{2sigma ^{2}}}}+{frac {1}{sigma {sqrt {2pi }}}},e^{-{frac {(x+mu )^{2}}{2sigma ^{2}}}}}$
CDF	${displaystyle {frac {1}{2}}left[{mbox{erf}}left({frac {x+mu }{sigma {sqrt {2}}}}ight)+{mbox{erf}}left({frac {x-mu }{sigma {sqrt {2}}}}ight)ight]}$
Иметь в виду	${displaystyle mu _{Y}=sigma {sqrt { frac {2}{pi }}},e^{(-mu ^{2}/2sigma ^{2})}+mu left(1-2,Phi (-{ frac {mu }{sigma }})ight)}$
Дисперсия	${displaystyle sigma _{Y}^{2}=mu ^{2}+sigma ^{2}-mu _{Y}^{2}}$

В сложенное нормальное распределение это распределение вероятностей связанный с нормальное распределение. Учитывая нормально распределенную случайную величину Икс с иметь в виду μ и отклонение σ², то случайная переменная Y = |Икс| имеет сложенное нормальное распределение. Такой случай может возникнуть, если записывается только величина некоторой переменной, но не ее знак. Распределение называется «свернутым», потому что масса вероятности слева от Икс = 0 сворачивается взятием абсолютная величина. В физике теплопроводность, свернутое нормальное распределение является фундаментальным решением уравнение теплопроводности на полупространстве; это соответствует наличию идеального изолятора на гиперплоскость через происхождение.

Определения

Плотность

В функция плотности вероятности (PDF) определяется выражением

${displaystyle f_{Y}(x;mu ,sigma ^{2})={frac {1}{sqrt {2pi sigma ^{2}}}},e^{-{frac {(x-mu )^{2}}{2sigma ^{2}}}}+{frac {1}{sqrt {2pi sigma ^{2}}}},e^{-{frac {(x+mu )^{2}}{2sigma ^{2}}}}}$

за Икс ≥ 0 и 0 везде. Альтернативная формулировка дается

${displaystyle fleft(xight)={sqrt {frac {2}{pi sigma ^{2}}}}e^{-{frac {left(x^{2}+mu ^{2}ight)}{2sigma ^{2}}}}cosh {left({frac {mu x}{sigma ^{2}}}ight)}}$,

где cosh - косинус Гиперболическая функция. Отсюда следует, что кумулятивная функция распределения (CDF) определяется по формуле:

${displaystyle F_{Y}(x;mu ,sigma ^{2})={frac {1}{2}}left[{mbox{erf}}left({frac {x+mu }{sqrt {2sigma ^{2}}}}ight)+{mbox{erf}}left({frac {x-mu }{sqrt {2sigma ^{2}}}}ight)ight]}$

за Икс ≥ 0, где erf () - функция ошибки. Это выражение сводится к CDF полунормальное распределение когда μ = 0.

Среднее значение сложенного распределения тогда

${displaystyle mu _{Y}=sigma {sqrt {frac {2}{pi }}},,exp left({frac {-mu ^{2}}{2sigma ^{2}}}ight)+mu ,{mbox{erf}}left({frac {mu }{sqrt {2sigma ^{2}}}}ight)}$

или же

${displaystyle mu _{Y}={sqrt {frac {2}{pi }}}sigma e^{-{frac {mu ^{2}}{2sigma ^{2}}}}+mu left[1-2Phi left(-{frac {mu }{sigma }}ight)ight]}$

куда ${displaystyle Phi }$ это нормальная кумулятивная функция распределения:

${displaystyle Phi (x);=;{frac {1}{2}}left[1+operatorname {erf} left({frac {x}{sqrt {2}}}ight)ight].}$

Тогда дисперсия легко выражается через среднее значение:

${displaystyle sigma _{Y}^{2}=mu ^{2}+sigma ^{2}-mu _{Y}^{2}.}$

Оба среднего (μ) и дисперсия (σ²) из Икс в исходном нормальном распределении можно интерпретировать как параметры расположения и масштаба Y в разложенном виде.

Характеристики

Режим

Режим распределения - это значение ${displaystyle x}$ для которых плотность максимальна. Чтобы найти это значение, берем первую производную плотности по ${displaystyle x}$ и установите его равным нулю. К сожалению, закрытой формы нет. Однако мы можем записать производную лучше и получить нелинейное уравнение

${displaystyle {frac {df(x)}{dx}}=0Rightarrow -{frac {left(x-mu ight)}{sigma ^{2}}}e^{-{frac {1}{2}}{frac {left(x-mu ight)^{2}}{sigma ^{2}}}}-{frac {left(x+mu ight)}{sigma ^{2}}}e^{-{frac {1}{2}}{frac {left(x+mu ight)^{2}}{sigma ^{2}}}}=0}$

${displaystyle xleft[e^{-{frac {1}{2}}{frac {left(x-mu ight)^{2}}{sigma ^{2}}}}+e^{-{frac {1}{2}}{frac {left(x+mu ight)^{2}}{sigma ^{2}}}}ight]-mu left[e^{-{frac {1}{2}}{frac {left(x-mu ight)^{2}}{sigma ^{2}}}}-e^{-{frac {1}{2}}{frac {left(x+mu ight)^{2}}{sigma ^{2}}}}ight]=0}$

${displaystyle xleft(1+e^{-{frac {2mu x}{sigma ^{2}}}}ight)-mu left(1-e^{-{frac {2mu x}{sigma ^{2}}}}ight)=0}$

${displaystyle left(mu +xight)e^{-{frac {2mu x}{sigma ^{2}}}}=mu -x}$

${displaystyle x=-{frac {sigma ^{2}}{2mu }}log {frac {mu -x}{mu +x}}}$.

Цагрис и др. (2014) показали из численного исследования, что когда ${displaystyle mu <sigma }$, максимум достигается, когда ${displaystyle x=0}$, и когда ${displaystyle mu }$ становится больше, чем ${displaystyle 3sigma }$, максимум приближается ${displaystyle mu }$. Конечно, этого следовало ожидать, поскольку в этом случае свернутая нормаль сходится к нормальному распределению. Чтобы избежать проблем с отрицательными отклонениями, предлагается возведение параметра в степень. В качестве альтернативы вы можете добавить ограничение, например, если оптимизатор выберет отрицательную дисперсию, значение логарифмической вероятности будет NA или что-то очень маленькое.

Характеристическая функция и другие связанные функции

• Характеристическая функция определяется выражением

${displaystyle varphi _{x}left(tight)=e^{{frac {-sigma ^{2}t^{2}}{2}}+imu t}Phi left({frac {mu }{sigma }}+isigma tight)+e^{-{frac {sigma ^{2}t^{2}}{2}}-imu t}Phi left(-{frac {mu }{sigma }}+isigma tight)}$.

• Производящая функция момента определяется выражением

${displaystyle M_{x}left(tight)=varphi _{x}left(-itight)=e^{{frac {sigma ^{2}t^{2}}{2}}+mu t}Phi left({frac {mu }{sigma }}+sigma tight)+e^{{frac {sigma ^{2}t^{2}}{2}}-mu t}Phi left(-{frac {mu }{sigma }}+sigma tight)}$.

• Кумулянтная производящая функция определяется выражением

${displaystyle K_{x}left(tight)=log {M_{x}left(tight)}=left({frac {sigma ^{2}t^{2}}{2}}+mu tight)+log {leftlbrace 1-Phi left(-{frac {mu }{sigma }}-sigma tight)+e^{{frac {sigma ^{2}t^{2}}{2}}-mu t}left[1-Phi left({frac {mu }{sigma }}-sigma tight)ight]ightbrace }}$.

• Преобразование Лапласа дается формулой

${displaystyle Eleft(e^{-tx}ight)=e^{{frac {sigma ^{2}t^{2}}{2}}-mu t}left[1-Phi left(-{frac {mu }{sigma }}+sigma tight)ight]+e^{{frac {sigma ^{2}t^{2}}{2}}+mu t}left[1-Phi left({frac {mu }{sigma }}+sigma tight)ight]}$.

• Преобразование Фурье дается формулой

${displaystyle {hat {f}}left(tight)=phi _{x}left(-2pi tight)=e^{{frac {-4pi ^{2}sigma ^{2}t^{2}}{2}}-i2pi mu t}left[1-Phi left(-{frac {mu }{sigma }}-i2pi sigma tight)ight]+e^{-{frac {4pi ^{2}sigma ^{2}t^{2}}{2}}+i2pi mu t}left[1-Phi left({frac {mu }{sigma }}-i2pi sigma tight)ight]}$.

Связанные дистрибутивы

• Когда μ = 0, распределение Y это полунормальное распределение.
• Случайная величина (Y/σ)² имеет нецентральное распределение хи-квадрат с 1 степенью свободы и нецентральностью, равной (μ/σ)².
• Сложенное нормальное распределение также можно рассматривать как предел сложенное нестандартное t-распределение поскольку степени свободы уходят в бесконечность.
• Существует двумерная версия, разработанная Псаракисом и Панаретосом (2001), а также многомерная версия, разработанная Чакраборти и Мутуши (2013).
• В Раздача риса является многомерным обобщением свернутого нормального распределения.

Статистические выводы

Оценка параметров

Есть несколько способов оценить параметры свернутой нормали. Все они по сути являются процедурой оценки максимального правдоподобия, но в некоторых случаях выполняется численная максимизация, тогда как в других случаях выполняется поиск корня уравнения. Логарифмическая вероятность сложенной нормали, когда образец ${displaystyle x_{i}}$ размера ${displaystyle n}$ доступен можно записать следующим образом

${displaystyle l=-{frac {n}{2}}log {2pi sigma ^{2}}+sum _{i=1}^{n}log {left[e^{-{frac {left(x_{i}-mu ight)^{2}}{2sigma ^{2}}}}+e^{-{frac {left(x_{i}+mu ight)^{2}}{2sigma ^{2}}}}ight]}}$

${displaystyle l=-{frac {n}{2}}log {2pi sigma ^{2}}+sum _{i=1}^{n}log {left[e^{-{frac {left(x_{i}-mu ight)^{2}}{2sigma ^{2}}}}left(1+e^{-{frac {left(x_{i}+mu ight)^{2}}{2sigma ^{2}}}}e^{frac {left(x_{i}-mu ight)^{2}}{2sigma ^{2}}}ight)ight]}}$

${displaystyle l=-{frac {n}{2}}log {2pi sigma ^{2}}-sum _{i=1}^{n}{frac {left(x_{i}-mu ight)^{2}}{2sigma ^{2}}}+sum _{i=1}^{n}log {left(1+e^{-{frac {2mu x_{i}}{sigma ^{2}}}}ight)}}$

В R (язык программирования), используя пакет Rfast можно получить MLE очень быстро (команда foldnorm.mle). В качестве альтернативы команда оптим или же НЛМ подойдет этому распределению. Максимизировать легко, поскольку два параметра (${displaystyle mu }$ и ${displaystyle sigma ^{2}}$) вовлечены. Обратите внимание, что как положительные, так и отрицательные значения для ${displaystyle mu }$ приемлемы, так как ${displaystyle mu }$ принадлежит действительной строке чисел, следовательно, знак не важен, так как распределение симметрично относительно него. Следующий код написан на R

сложенный <- функция(у) {  ## y - вектор с положительными данными  п <- длина(у)  ## размер образца  sy2 <- сумма(у ^ 2)    Сэм <- функция(параграф, п, sy2) {      мне <- пункт [1]   ;   se <- exp( пункт [2] )      ж <-  - п/2 * бревно(2/число Пи/se) + п * мне ^ 2 / 2 / se +            sy2 / 2 / se - сумма( бревно( шиш( мне * у/se ) ) )      ж    }  мод <- оптим( c( иметь в виду(у), SD(у) ), п = п, sy2 = sy2, Сэм, контроль = список(максит = 2000) )  мод <- оптим( мод$номинал, Сэм, п = п, sy2 = sy2, контроль = список(максит = 20000) )  результат <- c( -мод$ценить, мод$номинал [1], exp(мод$номинал [2]) )  имена(результат) <- c("логарифм вероятности", "му", "сигма в квадрате")  результат}

Частные производные логарифма правдоподобия записываются как

${displaystyle {frac {partial l}{partial mu }}={frac {sum _{i=1}^{n}left(x_{i}-mu ight)}{sigma ^{2}}}-{frac {2}{sigma ^{2}}}sum _{i=1}^{n}{frac {x_{i}e^{frac {-2mu x_{i}}{sigma ^{2}}}}{1+e^{frac {-2mu x_{i}}{sigma ^{2}}}}}}$

${displaystyle {frac {partial l}{partial mu }}={frac {sum _{i=1}^{n}left(x_{i}-mu ight)}{sigma ^{2}}}-{frac {2}{sigma ^{2}}}sum _{i=1}^{n}{frac {x_{i}}{1+e^{frac {2mu x_{i}}{sigma ^{2}}}}} { ext{and}}}$

${displaystyle {frac {partial l}{partial sigma ^{2}}}=-{frac {n}{2sigma ^{2}}}+{frac {sum _{i=1}^{n}left(x_{i}-mu ight)^{2}}{2sigma ^{4}}}+{frac {2mu }{sigma ^{4}}}sum _{i=1}^{n}{frac {x_{i}e^{-{frac {2mu x_{i}}{sigma ^{2}}}}}{1+e^{-{frac {2mu x_{i}}{sigma ^{2}}}}}}}$

${displaystyle {frac {partial l}{partial sigma ^{2}}}=-{frac {n}{2sigma ^{2}}}+{frac {sum _{i=1}^{n}left(x_{i}-mu ight)^{2}}{2sigma ^{4}}}+{frac {2mu }{sigma ^{4}}}sum _{i=1}^{n}{frac {x_{i}}{1+e^{frac {2mu x_{i}}{sigma ^{2}}}}}}$.

Приравнивая первую частную производную логарифмической вероятности нулю, мы получаем хорошее соотношение

${displaystyle sum _{i=1}^{n}{frac {x_{i}}{1+e^{frac {2mu x_{i}}{sigma ^{2}}}}}={frac {sum _{i=1}^{n}left(x_{i}-mu ight)}{2}}}$.

Обратите внимание, что у приведенного выше уравнения есть три решения: одно нулевое и еще два с противоположным знаком. Подставляя приведенное выше уравнение, в частную производную логарифмической вероятности w.r.t ${displaystyle sigma ^{2}}$ и приравняв его нулю, получим следующее выражение для дисперсии

${displaystyle sigma ^{2}={frac {sum _{i=1}^{n}left(x_{i}-mu ight)^{2}}{n}}+{frac {2mu sum _{i=1}^{n}left(x_{i}-mu ight)}{n}}={frac {sum _{i=1}^{n}left(x_{i}^{2}-mu ^{2}ight)}{n}}={frac {sum _{i=1}^{n}x_{i}^{2}}{n}}-mu ^{2}}$,

это та же формула, что и в нормальное распределение. Главное отличие здесь в том, что ${displaystyle mu }$ и ${displaystyle sigma ^{2}}$ статистически не независимы. Вышеупомянутые отношения могут использоваться для получения оценок максимального правдоподобия эффективным рекурсивным способом. Начнем с начального значения для ${displaystyle sigma ^{2}}$ и находим положительный корень (${displaystyle mu }$) последнего уравнения. Затем мы получаем обновленное значение ${displaystyle sigma ^{2}}$. Процедура повторяется до тех пор, пока изменение значения логарифмической вероятности не станет незначительным. Еще один более простой и эффективный способ - выполнить алгоритм поиска. Запишем последнее уравнение более элегантно

${displaystyle 2sum _{i=1}^{n}{frac {x_{i}}{1+e^{frac {2mu x_{i}}{sigma ^{2}}}}}-sum _{i=1}^{n}{frac {x_{i}left(1+e^{frac {2mu x_{i}}{sigma ^{2}}}ight)}{1+e^{frac {2mu x_{i}}{sigma ^{2}}}}}+nmu =0}$

${displaystyle sum _{i=1}^{n}{frac {x_{i}left(1-e^{frac {2mu x_{i}}{sigma ^{2}}}ight)}{1+e^{frac {2mu x_{i}}{sigma ^{2}}}}}+nmu =0}$.

Становится ясно, что оптимизация логарифмической вероятности по двум параметрам превратилась в корневой поиск функции. Это, конечно, идентично предыдущему корневому поиску. Цагрис и др. (2014) обнаружили, что у этого уравнения есть три корня для ${displaystyle mu }$, т.е. есть три возможных значения ${displaystyle mu }$ которые удовлетворяют этому уравнению. В ${displaystyle -mu }$ и ${displaystyle +mu }$, которые являются оценками максимального правдоподобия, и 0, что соответствует минимальному логарифмическому правдоподобию.

Смотрите также

• Сложенное совокупное распределение
• Усеченное нормальное распределение

Рекомендации

• Цагрис, М .; Beneki, C .; Хассани, Х. (2014). «О сложенном нормальном распределении». Математика. 2 (1): 12–28. arXiv:1402.3559.
• Леоне, Ноттингем, РБ, Нельсон Л.С. (1961). «Свернутое нормальное распределение». Технометрика. 3 (4): 543–550. Дои:10.2307/1266560. HDL:2027 / mdp.39015095248541. JSTOR  1266560.
• Джонсон Н.Л. (1962). «Сложенное нормальное распределение: точность оценки по максимальному правдоподобию». Технометрика. 4 (2): 249–256. Дои:10.2307/1266622. JSTOR  1266622.
• Нельсон LS (1980). «Свернутое нормальное распределение». J Qual Technol. 12 (4): 236–238.
• Эландт RC (1961). «Сложенное нормальное распределение: два метода оценки параметров по моментам». Технометрика. 3 (4): 551–562. Дои:10.2307/1266561. JSTOR  1266561.
• Лин PC (2005). «Применение обобщенного складчато-нормального распределения к мерам возможностей процесса». Int J Adv Manuf Technol. 26 (7–8): 825–830. Дои:10.1007 / s00170-003-2043-х.
• Psarakis, S .; Панаретос, Дж. (1990). «Свернутое t-распределение». Коммуникации в статистике - теория и методы. 19 (7): 2717–2734.
• Psarakis, S .; Панаретос, Дж. (2001). «О некоторых двумерных расширениях свернутого нормального и свернутого t-распределений». Журнал прикладной статистической науки. 10 (2): 119–136.
• Чакраборти, А.К .; Мутуши, К. (2013). «О многомерном сложенном нормальном распределении». Санкхья Б. 75 (1): 1–15.

внешняя ссылка

• Случайное (ранее - Виртуальные лаборатории): сложенное нормальное распределение