Вплив меж відрізків на основі даних на тест на корисність чи-квадрата?

Залишаючи осторонь очевидну проблему низької потужності квадратика у таких обставинах, уявіть, що ви зробите тест корисності чі-квадрата на деяку щільність з невстановленими параметрами, порівнюючи дані.

Для конкретності, скажімо, експоненціальний розподіл з невідомим середнім і розміром вибірки, наприклад, 100.

Для отримання розумної кількості очікуваних спостережень за кошик потрібно брати до уваги дані (наприклад, якщо ми вирішили поставити 6 бункерів нижче середнього та 4 над ним, це все одно використовувало б межі відрізків на основі даних) .

Але таке використання бункерів на основі перегляду даних, ймовірно, вплине на розподіл тестової статистики під нулем.

Я бачив багато дискусій з приводу того, що - якщо параметри оцінюються за максимальною ймовірністю з бінізованих даних - ви втрачаєте 1 df за розрахунковий параметр (проблема, що відноситься до Фішера проти Карла Пірсона) - але я не пригадую читаючи що-небудь про пошук самих меж сміття на основі даних. (Якщо ви оцінюєте їх за небінованими даними, то при $k$ bins розподіл тестової статистики лежить десь між $\chi^2_{k}$ і $\chi^2_{k-p}$ .)

Чи впливає цей вибір на основі даних бункерів суттєво на рівень значущості чи потужність? Чи є якісь підходи, які мають значення більше, ніж інші? Якщо ефекту багато, чи це щось, що проходить у великих зразках?

Якщо це має суттєвий вплив, це, мабуть, зробить тест хі-квадрата, коли параметри невідомі у багатьох випадках майже непридатні (незважаючи на те, що вони використовуються в досить багатьох текстах), якщо ви не мали хорошого -приорі оцінка параметра.

Обговорення питань чи покажчиків посилань (бажано, із зазначенням їх висновків) було б корисним.

Редагуйте, майже вбік головного питання:

Мені здається, що існують потенційні рішення для конкретного випадку експоненціалу * (і уніформа приходить до цього думати), але мене все ж цікавить більш загальне питання впливу вибору меж бін.

* Наприклад, для експоненціалу можна використовувати найменше спостереження (скажімо, воно дорівнює ), щоб отримати дуже приблизне уявлення про те, де розмістити бункери (оскільки найменше спостереження є експоненціальним із середнім ), а потім перевірити решта відмінностей ( ) на експоненційність. Звичайно, це може дати дуже погану оцінку $m$ $\mu/n$ $n-1$ $x_i - m$ $\mu$ і, отже, поганий вибір бункера, хоча я гадаю, що можна використовувати аргумент рекурсивно, щоб взяти найнижчі два-три спостереження, з яких вибирати розумні бункери, а потім перевіряти відмінності решти спостережень над найбільшою з цих найменших статистичних даних для експоненціальність)

chi-squared goodness-of-fit binning

— Glen_b -Встановити Моніку
джерело

Цікаве запитання. Я не знаю відповіді, але думка про те, що деякі втрати свободи мають сенс. Якщо ви цього ще не бачили, ця відповідь від @whuber повинна викликати думки: як зрозуміти-градуси свободи . Мені здається, що деякі імітаційні дослідження повинні давати вам змогу отримати тут опору, принаймні для деяких конкретних випадків.

— gung - Відновіть Моніку

Не впевнений, наскільки це корисно, але є аналогічна проблема в галузі надійної оцінки. Зокрема, метод надійної оцінки (наприклад, середня обрізка) часто вимагає параметризованого введення (наприклад, параметр, який визначає кількість обрізки). Цей параметр може бути обраний методом, керованим даними (наприклад, подивіться, наскільки жирні хвости перед вибором параметра обрізки). Але попередній вибір параметра обрізки впливає на розподіл обрізаної середньої величини порівняно, скажімо, з фіксованим параметром параметра. Звичайний спосіб, з яким воно розбирається в цій літературі, здійснюється через завантажувальну систему.

— Colin T Bowers

@ColinTBowers - потенційно дещо корисна, дякую. Не думав про можливість завантаження.

— Glen_b -Встановіть Моніку

Це може бути цікаво розбити проблему на найпростіший випадок. Уявіть щось на зразок лише 5 спостережень за вашим улюбленим розподілом, і покладіть один подільник у дані, щоб утворити всього два відри.

— zkurtz

Відповіді:

Основні результати тестування на придатність чи-квадрата на придатність можна зрозуміти ієрархічно .

Рівень 0 . Класична тестова статистика Пірсона для тестування мультиноміального зразка на фіксований вектор вірогідності дорівнює $p$ де позначає кількість результатів у й клітині із зразка розміром . Це можна плідно розглядати як квадратну норму вектора де

Х^{2} (p) = \sum_{i = 1}^{к} \frac{(Х_{i}^{(н)} - н p_{i})^{2}}{н p_{i}} \overset{г}{\to} χ_{к - 1}^{2},

$X^2(p) = \sum_{i=1}^k \frac{(X^{(n)}_i - n p_i)^2}{n p_i} \stackrel{d}{\to} \chi_{k-1}^2 \>,$

X_{i}^{(n)}

$X_i^{(n)}$

i

$i$

n

$n$

Y_{n} = (Y_{1}^{(n)}, \dots, Y_{k}^{(n)})

$\mathbf Y_n = (Y_1^{(n)},\ldots,Y_k^{(n)})$

яка за багатоваріантною теоремою центрального межі сходиться в розподілі як

Y_{i}^{(n)} = (X_{i}^{(n)} - n p_{i}) / \sqrt{n p_{i}}

$Y_i^{(n)} = (X_i^{(n)} - n p_i)/\sqrt{n p_i}$

З цього ми бачимо, що

оскільки

Y_{н} \overset{г}{\to} N (0, Я - \sqrt{p} {\sqrt{p}}^{Т}) .

$\mathbf Y_n \stackrel{d}{\to} \mathcal N(0, \mathbf I - \sqrt{p}\sqrt{p}^T) \>.$

X^{2} = ‖ Y_{n} ‖^{2} \to χ_{k - 1}^{2}

$X^2 = \|\mathbf Y_n\|^2 \to \chi^2_{k-1}$

ідентичний потенціал рангу

I - \sqrt{p} {\sqrt{p}}^{T}

$\mathbf I - \sqrt{p}\sqrt{p}^T$

k - 1

$k-1$

$p$ $m$ $p_i$

Х_{1}^{2} = \sum_{i = 1}^{к} \frac{(Х_{i}^{(н)} - н {\hat{p}}_{i})^{2}}{н {\hat{p}}_{i}} \overset{г}{\to} χ_{к - м - 1}^{2},

$X^2_1 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

$\lambda$ $k$

$m$ $m = 1$

Х_{2}^{2} = \sum_{i = 1}^{к} \frac{(Х_{i}^{(н)} - н {\hat{p}}_{i})^{2}}{н {\hat{p}}_{i}} \overset{г}{\to} χ_{к - м - 1}^{2},

$X^2_2 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

{\hat{p}}_{i}

$\hat{p}_i$

$Z_1,\ldots,Z_n \sim F_\lambda$ $\lambda$ $\chi_{k-m-1}^2$ $\chi_{k-1}^2$

$\mathbf Y_n$ $\mathcal N(0, \mathbf I - \sqrt{p_\lambda}\sqrt{p_\lambda}^T - \mathbf A(\lambda))$

$\lambda$ $\mathbf A(\lambda)$

$\mathbf Y_n$ $\mathbf B(\hat{\lambda})$

Y_{н}^{Т} Б^{Т} Б Y_{н} \overset{г}{\to} χ_{к - 1}^{2},

$\mathbf Y_n^T \mathbf B^T \mathbf B \mathbf Y_n \stackrel{d}{\to} \chi_{k-1}^2 \>,$

k

$k$

Прикладами є статистика Рао-Робсон-Нікулін та статистика Джапарідзе-Нікуліна .

$k$ $1/k$ $\hat{I}_j = \hat \mu + \hat\sigma I_{0,j}$ $I_{0,j} = [F^{-1}((j-1)/k), F^{-1}(j/k))$

Список літератури

W. van der Vaart (1998), Асимптотична статистика , Cambridge University Press. Глава 17 : Тести на чи-квадрат .
$\chi^2$
FC Drost (1989), Узагальнені тести на придатність чи-квадрата для пристосованості для моделей на масштабах локації, коли кількість класів тяжіє до нескінченності , Енн. Стат , вип. 17, вип. 3, 1285–1300.
М. С. Нікулін, М. С. (1973), тест Chi-квадрата для безперервного розподілу з параметрами зсуву та масштабу , Теорія ймовірності та його застосування , т. 19, ні. 3, 559–568.
К. К. Дзапарідзе та М. С. Нікулін (1973), Про модифікацію стандартної статистики Пірсона , теорії ймовірності та її застосування , т. 19, ні. 4, 851–853.
KC Rao та DS Robson (1974), статистика хі-квадрата на корисність тестів на придатність в експоненціальній сім'ї , Comm. Статист. , т. 3., вип. 12, 1139–1153.
Н. Балакришнан, В. Войнов та М. С. Нікулін (2013), « Чи-квадрат корисності придатних тестів із додатками» , «Академічна преса».

— кардинальний
джерело

Нижче я знайшов хоча б часткові відповіді на своє запитання. (Я все одно хотів би дати комусь такий бонус, тому будь-яка подальша інформація оцінена.)

$\chi^2_{k-p-1}$ $p$ $\chi^2_1$ $k$ $p$ $\chi^2_{k-p}$ $\chi^2_{k}$ $p$

Список літератури

Мур Д.С. (1971), статистика статистики квадратів з випадковими межами клітин , Енн. Математика. Стат. , Т. 42, № 1, 147–156.

$\chi^2$

— Glen_b -Встановити Моніку
джерело