Якщо ядро ​​Epanechnikov теоретично є оптимальним при оцінці щільності ядра, чому його не застосовують частіше?

Я читав (наприклад, тут ), що ядро ​​Epanechnikov є оптимальним, принаймні в теоретичному сенсі, при оцінці щільності ядра. Якщо це правда, то чому Гаусс відображається так часто, як ядро ​​за замовчуванням або в багатьох випадках єдине ядро ​​в бібліотеках оцінки щільності?

Причина того, що ядро ​​Epanechnikov не використовується повсюдно для його теоретичної оптимальності, може бути саме в цьому що ядро ​​Epanechnikov насправді теоретично не є оптимальним . Цибаков прямо критикує аргумент того, що ядро ​​Епанечникова є "теоретично оптимальним" у сторінках 16-19 Введення в непараметричну оцінку (розділ 1.2.4).

Намагаючись узагальнити, згідно з деякими припущеннями про ядро $K$ та фіксовану щільність $p$ слід зазначити, що середня інтегральна квадратна помилка має вигляд

$$\frac{1}{nh} \int K^2 (u) du + \frac{h^4}{4}S_K^2 \int (p''(x))^2 dx \,. \tag{1}$$

Основна критика Цибакова, здається, мінімізується над негативними ядрами, оскільки часто можна отримати більш ефективні оцінки, які є навіть негативними, не обмежуючись негативними ядрами.

Перший крок аргументу для ядра Epanechnikov починається з мінімізації $(1)$ над $h$ та всіх негативних ядер (а не всіх ядер ширшого класу), щоб отримати "оптимальну" пропускну здатність для $K$

$$h^{MISE}(K) = \left( \frac{\int K^2}{nS_K^2 \int (p'')^2} \right)^{1/5}$$

і "оптимальне" ядро ​​(Епанечников)

$$K^*(u) = \frac{3}{4}(1-u^2)_+$$

середня інтегральна квадратна помилка якої:

$$h^{MISE}(K^*) = \left( \frac{15}{n \int (p'')^2} \right)^{1/5} \,.$$

Це, однак, не є можливим вибором, оскільки вони залежать від знань (через $p''$ ) невідомої щільності $p$ - тому вони є "оракул" величинами.

З твердження Цибакова випливає, що асимптотичним MISE для оракула Епанечникова є:

$$\lim_{n \to \infty} n^{4/5} \mathbb{E}_p \int (p_n^E (x) - p(x))^2 dx = \frac{3^{4/5}}{5^{1/5}4} \left( \int (p''(x))^2 dx \right)^{1/5} \,. \tag{2}$$

Цибаков каже, що (2) часто стверджується, що є найкращим досяжним MISE, але потім показує, що можна використовувати ядра порядку 2 (для яких $S_K =0$ ) для побудови оцінювачів ядра для кожного $\varepsilon >0$ , так що

$$\limsup_{n \to \infty} n^{4/5} \mathbb{E}_p \int (\hat{p}_n (x) - p(x))^2 dx \le \varepsilon \,.$$

Навіть якщо р п не обов'язково невід'ємне, все ще має один і той же результат для позитивної частини оцінки, р + п : = тах ( 0 , р п ) (який гарантовано бути невід'ємним , навіть якщо К немає):$\hat{p}_n$$p_n^+ := \max(0, \hat{p}_n)$$K$

$$\limsup_{n \to \infty} n^{4/5} \mathbb{E}_p \int (p_n^+ (x) - p(x))^2 dx \le \varepsilon \,.$$

Тому для $\varepsilon$ досить малих існують справжні оцінки, які мають менший асимптотичний MISE , ніж оракул Епанечников , навіть використовуючи ті самі припущення щодо невідомої щільності $p$ .

Зокрема, у результаті виходить, що мінімальна кількість асимптотичного MISE для фіксованого $p$ над усіма оцінками ядра (або додатними частинами оцінювачів ядра) дорівнює $0$ . Тож оракул Epanechnikov навіть не є оптимальним навіть у порівнянні з справжніми оцінками.

Причина, чому люди висунули аргумент для оракула Епанечникова в першу чергу, полягає в тому, що часто можна стверджувати, що саме ядро ​​повинно бути негативним, оскільки сама щільність не негативна. Але, як зазначає Цибаков, не потрібно вважати, що ядро ​​є негативним, щоб отримати оцінки негативної щільності, а дозволяючи іншим ядрам, можна оцінити негативні щільності, які (1) не є оракулами. і (2) виконувати довільно краще, ніж оракул Епанечников для фіксованого $p$ . Цибаков використовує цю невідповідність, стверджуючи, що не має сенсу сперечатися за оптимальність з точки зору фіксованого $p$ , а лише для властивостей оптимальності, які є рівномірними щодо класу густини. Він також вказує, що аргумент все ще працює, коли використовується MSE замість MISE.

EDIT: Див. Також Дослідження 1.1. на с.25, де ядро ​​Epanechnikov показано неприпустимим на основі іншого критерію. Цибакову справді не подобається ядро ​​Епанечникова.

The Gaussian kernel is used for example in density estimation through derivatives:

$$\frac{d^if}{dx^i}(x)\approx \frac{1}{bandwidth}\sum_{j=1}^N \frac{d^ik}{dx^i}(X_j,x)$$

This is because the Epanechnikov kernel has 3 derivatives before it's identically zero, unlike the Gaussian which has infinitely many (nonzero) derivatives. See section 2.10 in your link for more examples.