Узагальнений тест коефіцієнта ймовірності журналу для моделей, які не вкладені

Я розумію, що якщо у мене дві моделі A і B і A вкладено в B, то, зважаючи на деякі дані, я можу підігнати параметри A і B за допомогою MLE і застосувати узагальнений тест коефіцієнта ймовірності журналу. Зокрема, розподіл тесту повинно бути з ступенями свободи , де є різниця числа параметрів , які і мають. $\chi^2$ $n$ $n$ $A$ $B$

Однак, що станеться, якщо і мають однакову кількість параметрів, але моделі не вкладені? Тобто це просто різні моделі. Чи є спосіб застосувати тест на коефіцієнт ймовірності чи можна зробити щось інше? $A$ $B$

maximum-likelihood model-selection likelihood-ratio

— Лембік
джерело

Відповіді:

Стаття Vuong, QH (1989). Тести співвідношення ймовірності для вибору моделі та невкладених гіпотез. Економетрика, 307-333. має повну теоретичну процедуру лікування та тестування. Він розрізняє три ситуації: "Суворо вкладені моделі", "Моделі, що перекриваються", "Вкладені моделі", а також вивчає випадки неправильного визначення. Тому не випадково виявлено , що в деяких випадках статистика тесту розподіляється як лінійна комбінація хі-квадратів .

Папір не є легкою, а також не пропонує «тестуючої» процедури тестування. Але, один раз, його (близько) цитатами 3 000 говорять про його достоїнства, будучи натхненною комбінацією класичної рамки тестування та інформаційно-теоретичного підходу.

— Алекос Пападопулос
джерело

Тест узагальненого коефіцієнта ймовірності НЕ працює так, як ви говорите. Дивіться, наприклад, наступні конспекти лекцій:

http://www.maths.manchester.ac.uk/~peterf/MATH38062/MATH38062%20GLRT.pdf

http://www.maths.qmul.ac.uk/~bb/MS_Lectures_12b.pdf

GLRT визначається для гіпотези типу:

Н_{0} : θ \in Θ_{0} v с . Н_{1} : θ \in Θ_{1},

$H_0: \theta\in\Theta_0 \,\,\, vs. \,\,\, H_1: \theta\in\Theta_1,$

де і . $\Theta_0\cap\Theta_1=\emptyset$ $\Theta_0\cup\Theta_1=\Theta$

У рамках, який ви описуєте, ви можете порівнювати моделі, використовуючи інші інструменти, такі як AIC та BIC. Також Байєс чинників, якщо ви готові перейти на повний байесовский.

— Водяник
джерело

Ласкаво просимо в CV. Можливо, вам було б цікаво подивитися документ, про який я згадую у власній відповіді на це запитання.

— Алекос Пападопулос

@AlecosPapadopoulos Дякую за довідку. Я швидко поглянув, і, як і слід було очікувати, умови для роботи такого типу GLRT дуже-дуже (дуже-дуже) обмежуючі. Отже, я вважаю за краще піти на щось більш безпечне. Я знаю, що це дуже цитується, вибачте за блюзнірство.

— Waterman

@AlecosPapadopoulos Зокрема, я вважаю компактність умови простору параметрів (припущення A2) вкрай непривабливою.

— Waterman

Дуже повчальний (хоча, мабуть, не справжній) історичний анекдот навколо магнум-опусу Лапласа полягає в тому, що Наполеон Великий прочитав його та прокоментував Лапласу: "Я бачу, ви ніде не згадуєте Бога у своїй книзі", на що Лаплас нібито відповів "мені не потрібно ця гіпотеза "... означає, що поняття" священного "не потрібне науці, і так, богохульства не може бути.

— Алекос Пападопулос

... що стосується вашого другого коментаря щодо припущення A2, я думаю, це означає, що вся максимальна рамка ймовірності не зовсім відповідає потребам вашого поля, за винятком, можливо, коли дистрибуції, що займаються, мають увігнуту щільність журналу.

— Алекос Пападопулос