Ядро (статистика) - Kernel (statistics)

Для использования в других целях см. Ядро (значения).

Период, термин ядро используется в статистический анализ ссылаться на оконная функция. Термин «ядро» имеет несколько различных значений в разных отраслях статистики.

Байесовская статистика

В статистике, особенно в Байесовская статистика, ядро функция плотности вероятности (pdf) или функция массы вероятности (pmf) - это форма pdf или pmf, в которой опускаются любые факторы, не являющиеся функциями какой-либо из переменных в домене.^{[нужна цитата ]} Обратите внимание, что такие факторы вполне могут быть функциями параметры из PDF или PMF. Эти факторы составляют часть коэффициент нормализации из распределение вероятностей, и во многих ситуациях они не нужны. Например, в выборка псевдослучайных чисел, большинство алгоритмов выборки игнорируют коэффициент нормализации. Кроме того, в Байесовский анализ из сопряженный предшествующий распределений, нормировочные коэффициенты обычно игнорируются во время вычислений, и учитывается только ядро. В конце проверяется форма ядра, и если она соответствует известному распределению, коэффициент нормализации может быть восстановлен. В противном случае в этом может быть нет необходимости (например, если нужно только выбрать распределение).

Для многих дистрибутивов ядро ​​можно записать в замкнутой форме, но не нормировочную константу.

Примером может служить нормальное распределение. это функция плотности вероятности является

${\displaystyle p(x|\mu ,\sigma ^{2})={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}}$

и связанное ядро

${\displaystyle p(x|\mu ,\sigma ^{2})\propto e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}}$

Обратите внимание, что множитель перед экспонентой был опущен, хотя он содержит параметр ${\displaystyle \sigma ^{2}}$ , потому что это не функция переменной домена ${\displaystyle x}$ .

Анализ паттернов

Ядро воспроизводящее ядро ​​гильбертова пространства используется в наборе техник, известных как методы ядра для выполнения таких задач, как статистическая классификация, регрессивный анализ, и кластерный анализ на данных в неявном пространстве. Это использование особенно распространено в машинное обучение.

Непараметрическая статистика

В непараметрическая статистика, ядро ​​- это весовая функция, используемая в непараметрический методы оценки. Ядра используются в оценка плотности ядра оценить случайные переменные ' функции плотности, или в регрессия ядра оценить условное ожидание случайной величины. Ядра также используются в Временные ряды, в использовании периодограмма оценить спектральная плотность где они известны как оконные функции. Дополнительное использование - оценка изменяющейся во времени интенсивности для точечный процесс где оконные функции (ядра) свертываются с данными временных рядов.

Обычно ширина ядра также должна быть указана при запуске непараметрической оценки.

Определение

Дальнейшая информация: Интегральное ядро

Ядро - это неотрицательный ценный интегрируемый функция К. Для большинства приложений желательно определить функцию для удовлетворения двух дополнительных требований:

• Нормализация:

${\displaystyle \int _{-\infty }^{+\infty }K(u)\,du=1\,;}$

• Симметрия:

${\displaystyle K(-u)=K(u){\mbox{ for all values of }}u\,.}$

Первое требование гарантирует, что метод оценки плотности ядра дает функция плотности вероятности. Второе требование гарантирует, что среднее значение соответствующего распределения равно среднему значению используемой выборки.

Если K ядро, то и функция K* определяется K*(ты) = λK(λты), где λ> 0. Это можно использовать для выбора масштаба, подходящего для данных.

Общие функции ядра

Все ядра ниже в единой системе координат.

Обычно используются несколько типов функций ядра: равномерная, треугольная, Епанечникова,^[1] квартика (двувес), трикуб,^[2] трехвес, гауссовский, квадратичный^[3] и косинус.

В таблице ниже, если ${\displaystyle K}$ дается с ограниченным поддержка, тогда ${\displaystyle K(u)=0}$ для ценностей ты лежа вне опоры.

Функции ядра, K(ты)			${\displaystyle \textstyle \int u^{2}K(u)du}$	${\displaystyle \textstyle \int K(u)^{2}du}$	Эффективность[4] относительно ядра Епанечникова
Равномерное («прямоугольное окно»)	${\displaystyle K(u)={\frac {1}{2}}}$ Поддержка: ${\displaystyle |u|\leq 1}$	"Функция товарного вагона "	${\displaystyle {\frac {1}{3}}}$	${\displaystyle {\frac {1}{2}}}$	92.9%
Треугольная	${\displaystyle K(u)=(1-|u|)}$ Поддержка: ${\displaystyle |u|\leq 1}$		${\displaystyle {\frac {1}{6}}}$	${\displaystyle {\frac {2}{3}}}$	98.6%
Епанечников (параболический)	${\displaystyle K(u)={\frac {3}{4}}(1-u^{2})}$ Поддержка: ${\displaystyle |u|\leq 1}$		${\displaystyle {\frac {1}{5}}}$	${\displaystyle {\frac {3}{5}}}$	100%
Quartic (двухвес)	${\displaystyle K(u)={\frac {15}{16}}(1-u^{2})^{2}}$ Поддержка: ${\displaystyle |u|\leq 1}$		${\displaystyle {\frac {1}{7}}}$	${\displaystyle {\frac {5}{7}}}$	99.4%
Трехвес	${\displaystyle K(u)={\frac {35}{32}}(1-u^{2})^{3}}$ Поддержка: ${\displaystyle |u|\leq 1}$		${\displaystyle {\frac {1}{9}}}$	${\displaystyle {\frac {350}{429}}}$	98.7%
Tricube	${\displaystyle K(u)={\frac {70}{81}}(1-{\left|u\right|}^{3})^{3}}$ Поддержка: ${\displaystyle |u|\leq 1}$		${\displaystyle {\frac {35}{243}}}$	${\displaystyle {\frac {175}{247}}}$	99.8%
Гауссовский	${\displaystyle K(u)={\frac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}}u^{2}}}$		${\displaystyle 1\,}$	${\displaystyle {\frac {1}{2{\sqrt {\pi }}}}}$	95.1%
Косинус	${\displaystyle K(u)={\frac {\pi }{4}}\cos \left({\frac {\pi }{2}}u\right)}$ Поддержка: ${\displaystyle |u|\leq 1}$		${\displaystyle 1-{\frac {8}{\pi ^{2}}}}$	${\displaystyle {\frac {\pi ^{2}}{16}}}$	99.9%
Логистика	${\displaystyle K(u)={\frac {1}{e^{u}+2+e^{-u}}}}$		${\displaystyle {\frac {\pi ^{2}}{3}}}$	${\displaystyle {\frac {1}{6}}}$	88.7%
Сигмовидная функция	${\displaystyle K(u)={\frac {2}{\pi }}{\frac {1}{e^{u}+e^{-u}}}}$		${\displaystyle {\frac {\pi ^{2}}{4}}}$	${\displaystyle {\frac {2}{\pi ^{2}}}}$	84.3%
Ядро Сильвермана[5]	${\displaystyle K(u)={\frac {1}{2}}e^{-{\frac {|u|}{\sqrt {2}}}}\cdot \sin \left({\frac {|u|}{\sqrt {2}}}+{\frac {\pi }{4}}\right)}$		${\displaystyle 0}$	${\displaystyle {\frac {3{\sqrt {2}}}{16}}}$	непригодный

Смотрите также

• Оценка плотности ядра
• Ядро более гладкое
• Стохастическое ядро
• Оценка плотности
• Оценка многомерной плотности ядра

использованная литература

1. Названный для Епанечников, В. А. (1969). "Непараметрическая оценка многомерной плотности вероятности". Теория вероятн. Приложение. 14 (1): 153–158. Дои:10.1137/1114019.
2. Альтман, Н.С. (1992). «Введение в непараметрическую регрессию ядра и ближайшего соседа». Американский статистик. 46 (3): 175–185. Дои:10.1080/00031305.1992.10475879. HDL:1813/31637.
3. Кливленд, У.С.; Девлин, С. Дж. (1988). «Локально взвешенная регрессия: подход к регрессионному анализу путем локальной подгонки». Журнал Американской статистической ассоциации. 83 (403): 596–610. Дои:10.1080/01621459.1988.10478639.
4. Эффективность определяется как ${\displaystyle {\sqrt {\int u^{2}K(u)\,du}}\int K(u)^{2}\,du}$.
5. Сильверман, Б. В. (1986). Оценка плотности для статистики и анализа данных. Чепмен и Холл, Лондон.

• Ли, Ци; Расин, Джеффри С. (2007). Непараметрическая эконометрика: теория и практика. Издательство Принстонского университета. ISBN  978-0-691-12161-1.

• Кабачок, Уолтер. «ПРИКЛАДНЫЕ МЕТОДЫ Сглаживания. Часть 1: Оценка плотности ядра» (PDF). Получено 6 сентября 2018.

• Comaniciu, D; Меер, П. (2002). «Среднее смещение: надежный подход к анализу пространства признаков». IEEE Transactions по анализу шаблонов и машинному анализу. 24 (5): 603–619. CiteSeerX  10.1.1.76.8968. Дои:10.1109/34.1000236.