Значення «дизайн» в матриці дизайну?

13

У лінійній регресії $Y= X\beta$ , чому $X$ називається проектною матрицею? Чи може $X$ бути спроектовано або побудовано довільно до певної міри, як у мистецтві?

regression terminology

— Тім
джерело

3

Походження цього терміна досить давнє, і я вважаю, що йде аналіз витоків інфекційної статистики в аналізі експериментів; зокрема, я думаю, що це стосувалося того, що X-матриця стосується фактичного експериментального дизайну (конкретні настройки значень

x

$x$ ). Якщо я можу знайти конкретне посилання, я опублікую відповідь.

— Glen_b -Встановити Моніку

@Glen_b: Дякую! Чи має "дизайн" щось спільне з вибором перетворення на вхідній змінній, так що вихідна змінна також є лінійною в перетвореній вхідній змінній? Наприклад, матриця проектування при поліноміальній регресії?

— Тім

2

При створенні експерименту ви визначаєте значення

X

$X$ .

— whuber

15

$2^3$ $2^3=8$

[\begin{array}{rr} 0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 1 \\ 0 & 1 & 1 \\ 1 & 1 & 1 \end{array}]

$\left[\begin{array}{rr} 0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 1 \\ 0 & 1 & 1 \\ 1 & 1 & 1 \\ \end{array} \right]$

[\begin{array}{rr} A & B & C \end{array}] .

$\left[\begin{array}{rr} A & B & C \\ \end{array} \right].$

[\begin{array}{rr} 1 & 0 & 0 & 0 & 1 & 1 & 1 & 0 \\ 1 & 1 & 0 & 0 & 0 & 0 & 1 & 1 \\ 1 & 0 & 1 & 0 & 0 & 1 & 0 & 1 \\ 1 & 1 & 1 & 0 & 1 & 0 & 0 & 0 \\ 1 & 0 & 0 & 1 & 1 & 0 & 0 & 1 \\ 1 & 1 & 0 & 1 & 0 & 1 & 0 & 0 \\ 1 & 0 & 1 & 1 & 0 & 0 & 1 & 0 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \end{array}]

$\left[\begin{array}{rr} 1 & 0 & 0 & 0 & 1 & 1 & 1 & 0 \\ 1 & 1 & 0 & 0 & 0 & 0 & 1 & 1 \\ 1 & 0 & 1 & 0 & 0 & 1 & 0 & 1 \\ 1 & 1 & 1 & 0 & 1 & 0 & 0 & 0 \\ 1 & 0 & 0 & 1 & 1 & 0 & 0 & 1 \\ 1 & 1 & 0 & 1 & 0 & 1 & 0 & 0 \\ 1 & 0 & 1 & 1 & 0 & 0 & 1 & 0 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ \end{array} \right]$

[\begin{array}{rr} I & A & B & C & A B & A C & B C & A B C \end{array}] .

$\left[\begin{array}{rr} I & A & B & C & AB & AC & BC & ABC \\ \end{array} \right].$

Цитати

Монтгомері, Д. (2009). Дизайн та аналіз експериментів, 7-е видання. John Wiley & Sons Inc.

— tjnel
джерело

9

$\mathbf{X}$ $\mathbf{X}$ $\mathbf{X}$ $\mathbf{y} = \mathbf{X}\boldsymbol{\beta}$

Дизайн експериментів зосереджується на тому, як побудувати матрицю проектування та матрицю моделі, оскільки це відбувається до збору даних. Якщо дані вже зібрані, то дизайн встановлюється в камінь, але ви все одно можете змінити матрицю моделі. Іноді спроектований експеримент матиме в матриці проекту певні нерухомі стовпці, які називаються коваріатами, які не можуть контролювати, але ви можете спостерігати.

Є деякі речі, які можуть статися залежно від вашого вибору моделі та дизайну ... певні параметри можуть стати важко оцінити (більші розбіжності оцінювача) або ви взагалі не зможете оцінити певні параметри. Я б сказав, що у вирішенні відповідної моделі є деякі елементи мистецтва, і, безумовно, є мистецтво проектувати експерименти.

— neverKnowsBest
джерело

2

Це дуже корисно, але ось виноска на "covariate". Деякі люди використовують цей термін набагато ширше для будь-якого типу прогнозованого або незалежного змінного. (Природно, що існує багато інших синонімів.)

— Нік Кокс

(+1) Дуже приємно за ваш перший внесок - ласкаво просимо на наш сайт!

— whuber

2

Його називають проектною матрицею, оскільки стовпці матриці засновані на дизайні моделі. Я не вірю, що можна створити довільно в тому сенсі, що як тільки модель була прийнята, так і матриця дизайну (в основному це один стовпець у для кожного ви намагаєтеся оцінити). Однак, оскільки побудова моделі можна вважати мистецтвом, я думаю, що тоді можна будувати матрицю дизайну. $X$ $X$ $X$ $\beta$

2

$X$ - це лише ваші дані (мінус змінна відповіді). Я вважаю, що це називається матрицею дизайну, оскільки вона визначає "дизайн" вашої моделі (через навчання).

Чи може X бути спроектовано або побудовано довільно до певної міри, як у мистецтві?

В основному це питання зводиться до "чи можна побудувати модель, навчену на виробництві даних", на яку відповідь, очевидно, так. Наприклад, ось один із способів побудови довільної матриці проектування (дизайнерський вектор, дійсно), який дасть модель із заздалегідь заданим нахилом та перехопленням:

design_mat=function(b, a){
  X = runif(100)
  Y = a*X + b
  data.frame(X,Y)
}

df = design_mat(-5, 12.3)

(lm(Y~X, data=df))

Call:
lm(formula = Y ~ X, data = df)

Coefficients:
(Intercept)            X  
       -5.0         12.3

У своєму прикладі я "сконструював" відповідь з випадкових даних проектування для ілюстративних цілей, але ви могли так само легко побудувати матрицю проектування з випадкової відповіді, використовуючи . $X = \frac{Y-b}{a}$

— Девід Маркс
джерело