Parzen Windows density estimation technique

Формулa алгоритма классификации в методе окна Парзена. Классификатор Парзена оценивает плотность вероятности для каждого класса, используя непараметрический подход на основе сохраненных обучающих примеров. При вычислении выходных данных для нового наблюдения вклад каждого обучающего примера интегрируется. Оценка плотности ядра (KDE) — это непараметрический метод оценки функции плотности вероятности заданной случайной величины. Он также упоминается по своему традиционному названию, метод окна Парцена-Розенблатта. Учитывая выборку независимых, одинаково распределенных наблюдений (x1,x2,x3.....,xn)

где К(а)является функцией ядра и 

h — параметр сглаживания, также называемый пропускной способностью.

Рассмотрим следующий пример

Oкно Парзена — это метод непараметрической оценки плотности. Оценка плотности в распознавании образов может быть достигнута с использованием подхода Parzen Windows. Метод оценки плотности окна Парзена является своего рода обобщением метода гистограмм. Он используется для получения функции плотности f(x) . f(x) используется для реализации байесовского классификатора. Когда у нас есть новый образец признака x и когда есть необходимость вычислить значение условной плотности класса, используется f(x). f(x) принимает значение выборки входных данных и возвращает оценку плотности данной выборки данных. Рассматривается n-мерный гиперкуб, который, как предполагается, имеет k выборок данных. Длина ребра гиперкуба считается равной h(n). Следовательно, объем гиперкуба равен: V(n) = h(n)^d

Мы определяем оконную функцию гиперкуба, φ(u), которая является индикаторной функцией единичного гиперкуба с центром в начале координат:

φ(u) = 1, если |u(i)| <= 0,5

φ(u) = 0 в противном случае

Здесь u — вектор, u = (u1, u2, …, ud)T.

φ(u) должно удовлетворять следующему:

и

Поскольку φ(u) центрированa в начале координат, онa симметричнa.

ф(u) = ф(-u)

Далее

φ((u-u0)/h) — гиперкуб размера h с центром в точке u0

Для любого х,φ((х-хi)/h) будет 1, только если xi попадает в гиперкуб стороны h с центром в x. Пусть D = {x1, x2, …, xn} — образцы данных. Следовательно, количество точек данных, попадающих в гиперкуб со стороной h с центром в x, равно

      n

k = Sigma{φ((х-хi)/h}

     i=1