Підручники з матричного обчислення?

20

Коротка історія: я прочитав «Елементи статистичного навчання» і розчарувався, коли намагався перевірити деякі результати, наприклад, заданий тоді I Я шукаю матричну книгу обчислення, яка написана як ваша традиційна книга обчислення (тобто докази теорем, приклади, вправи на обчислення тощо). Я вже бачив це питання

RSS (β) = {(у - Х β)}^{Т} (у - Х β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$

\begin{aligned} \frac{\partial RSS}{\partial β} = - 2 Х^{Т} (у - Х β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{Т}} = 2 Х^{Т} Х . \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$ і відчуваю, що текст Магнуса і Недейкера зосереджений занадто багато на теорії, а текст, який я маю від Джентліта, зосереджений занадто мало на теорії і занадто багато на стороні обчислень.

Чи є там щасливий засіб, який доступний для тих, хто має досвід студентського аналізу?

references matrix matrix-calculus

— кларнетист
джерело

4

Ви розглядали Гарвілла, Матричну Алгебру з точки зору статистики ? Перші глави повинні бути відносно елементарними, але потім вони піднімаються.

— usεr11852 повідомляє Відновити Моніку

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/…

— Khashaa

1

Я часто використовую цей запис у Вікіпедії, щоб знайти тотожність проблем з численням матриці: en.wikipedia.org/wiki/Matrix_calculus

— Tommy L

9

У більшості питань щодо матриць я завжди спочатку звертаюся до "Готувальної книги матриці" (див. Тут ).

Він регулярно оновлюється завдяки відгукам різних джерел. У цьому документі є докази, однак вони переважно розглядаються як посібник.

— Laurens van de Wiel
джерело

3

Якщо ви знайшли занадто багато теорії в книзі Магнуса і Недекера, я рекомендую цю, також автор Магнуса:

Абадір, К.М. і Магнус, JR Matrix Algebra Cambridge University Press, 2005

що приділяє більше уваги застосуванню матричного обчислення.

— Арріго Бенедетті
джерело

2

Користувач видалив наступну корисну відповідь, яку я тут відтворюю в повному обсязі, щоб її інформація не була втрачена:

Насправді вам не потрібно багато результатів щодо векторних та матричних похідних для ML, і робота Тома Мінка охоплює більшість із них, але остаточне лікування - це Матричне диференціальне обчислення Magnus & Neudecker з додатками в статистиці та економетриці .

Дійсно, Magnus & Neudecker мають відмінні відгуки про папери Амазонки та Тома Мінка (« Алгебра старої та нової матриці», корисна для статистики , 2000 р.), Містить багато корисних формул, хоча він застерігає «це передовий матеріал».

— бурмотіти
джерело

1

Я настійно рекомендую цю статтю з 26 сторінок університету Стенфорда:

" Огляд та довідка лінійної алгебри " Зіко Колтер

Він дійсно фокусується на типових обчисленнях суми з великою кількістю i і j скрізь і повідомляє вам відповідний розрахунок матриці (тобто, використовуючи їх "векторну" реалізацію).

Це допомагає вам відразу розпізнати, який тип матричної формули ви повинні написати для виконання своїх розрахунків.

— tmangin
джерело