Я хочу заглибитися в машинне навчання (теорія та застосування у фінансах). Хочу запитати, наскільки релевантні комплексний аналіз та функціональний аналіз як основа машинного навчання? Чи потрібно мені вивчати ці предмети чи слід зосередитись на іншій темі (якщо так, то на якій?)
Відповіді:
Я б сказав, що найважливішими передумовами машинного навчання є лінійна алгебра , оптимізація (як числова, так і теоретична) та ймовірності .
Якщо ви читаєте в деталях реалізації загальних алгоритмів машинного навчання (я маю на увазі LASSO, Elastic Net, SVM), рівняння в значній мірі покладаються на різні тотожності (подвійна форма задачі оптимізації, різні формули, що випливають з лінійної алгебри) та реалізація вимагає ознайомлення з такими методами, як спуск градієнта.
Ймовірності обов'язково повинні бути як в Рамці навчання PAC, так і кожного разу, коли ви вивчаєте тести.
Тоді, лише тоді, функціональний аналіз може стати в нагоді. Особливо, коли ви вивчаєте ядра (і використовуєте теореми подання).
Щодо складного аналізу, я не знаю, як широко застосовуються важливі теореми, що випливають із цієї галузі в машинному навчанні (хтось мене виправить, якщо я помиляюся).