Чому слід вивчати опуклу оптимізацію для теоретичного машинного навчання?

Я працюю над теоретичним машинним навчанням - над трансферним навчанням, щоб бути конкретним - для моєї доктора наук.

• Чому з цікавості я повинен пройти курс опуклої оптимізації?

• Які переваги від опуклої оптимізації я можу використовувати у своїх дослідженнях теоретичного машинного навчання?

Алгоритми машинного навчання постійно використовують оптимізацію. Ми мінімізуємо втрати, помилки або максимізуємо якісь функції зарахування. Спуск градієнта - це алгоритм оптимізації "привіт світу", який охоплює, мабуть, будь-який курс машинного навчання. Це очевидно у випадку регресійної чи класифікаційної моделей, але навіть при таких завданнях, як кластеризація, ми шукаємо рішення, яке оптимально відповідає нашим даним (наприклад, k-засоби мінімізують суму квадратів у межах кластера). Тож якщо ви хочете зрозуміти, як працюють алгоритми машинного навчання, допоможе дізнатися більше про оптимізацію. Більше того, якщо вам потрібно зробити такі речі, як налаштування гіперпараметрів, то ви також безпосередньо використовуєте оптимізацію.

Можна стверджувати, що оптимізація опуклості не повинна бути такою цікавою для машинного навчання, оскільки замість того, щоб мати справу з опуклими функціями , ми часто стикаємося з поверхнями втрат на зразок тієї, що нижче, що далеко не опукла .

(джерело: https://www.cs.umd.edu/~tomg/projects/landscapes/ та arXiv: 1712.09913 )

Тим не менш, як зазначено в інших відповідях, опукла оптимізація швидша, простіша і менш обчислювальна, тому часто простіше "конвексувати" проблему (зробити її опуклою оптимізацією зручною), а потім використовувати невипуклу оптимізацію. Наприклад, алгоритми спуску градієнта і подібні їм алгоритми зазвичай використовуються в машинному навчанні, особливо для нейронних мереж, оскільки вони "працюють", масштабуються і широко реалізуються в різному програмному забезпеченні, тим не менш, вони не найкращі, що ми можемо отримати та мати свої підводні камені. , про що йшлося в розмові Алі Рахімі на NIPS 2017 .

З іншого боку, невипуклі алгоритми оптимізації, такі як еволюційні алгоритми, начебто набувають все більшого визнання у спільноті ML, наприклад, навчання нейронних мереж нейроеволюцією, здається, є нещодавньою темою дослідження (див. Також arXiv: 1712.07897 ).

Я думаю, тут є два питання.

• Навіщо вивчати оптимізацію
• Чому опукла оптимізація

Я думаю, що у @Tim є хороша відповідь, чому оптимізація. Я повністю погоджуюся і рекомендую всім, хто цікавиться машинним навчанням, опановувати постійну оптимізацію. Оскільки процес оптимізації / пошук кращого рішення з часом - це процес навчання для комп’ютера.

Хочу детальніше поговорити про те, чому нас цікавлять опуклі функції. Причина проста: опуклі оптимізації "легше вирішити", і у нас є маса надійно розв'язаного алгоритму.

Але хіба світ опуклий? Ні. Чому одержимий опуклістю? Перевірте цю метафору

Поліцейський бачить п'яного чоловіка, який шукає щось під вуличним світлом, і запитує, що п'яний втратив. Він каже, що втратив ключі, і вони обоє разом дивляться під вуличне світло. Через кілька хвилин поліцейський запитує, чи впевнений він, що він їх тут загубив, а п'яний відповідає, ні, і що він їх загубив у парку. Поліцейський запитує, чому він шукає тут, і п’яний відповідає: «ось де світло».

Найважливішим способом є те, що машинне навчання застосовується до проблем, де немає оптимального рішення. Найкраще, що ви можете зробити, це знайти гарне наближення.

На противагу цьому, коли у вас є проблема оптимізації, існує оптимальне рішення, але воно зазвичай не може бути знайдено в розумний час або з розумною потужністю обробки.

Інструменти та алгоритми, які ви використовуєте, принципово відрізняються. Тож, хоч би я сказав, що немає негайної користі від прийому класу оптимізації, завжди добре дізнатися трохи про суміжні поля. Якщо ви можете розпізнати проблему оптимізації, ви знаєте, що не слід вирішувати її алгоритмами машинного навчання, а алгоритмами оптимізації. Це одне варто багато чого, я б сказав.

Як сказано в hxd1011, опуклі проблеми легше вирішити, як теоретично, так і (як правило) на практиці. Так, навіть для невипуклих проблем багато алгоритмів оптимізації починаються з "кроку 1. зменшення проблеми до опуклої" (можливо, в циклі "час").

Аналогічна річ відбувається і з нелінійною кореневою фіксацією. Зазвичай рішення (наприклад, за методом Ньютона) йде "крок 1. Звести до лінійної задачі, оскільки ми знаємо, як їх вирішити".

Якщо ваші інтереси полягають у (опуклої) оптимізації, застосованій до глибокого навчання (ви згадуєте трансферне навчання, яке широко застосовується на практиці в нейромережах), я настійно рекомендую вам розглянути розділ 8 (оптимізація для навчання глибоких нейронних мереж) http : //www.deeplearningbook.org/

Існує дискусія про опуклу оптимізацію, і чому вона ще не була такою успішною при застосуванні глибоких нейронних мереж. Звичайно, можливо, ви могли б зробити дослідження в цій галузі, які змінять нинішній консенсус!

Як я чув від Джерома Х. Фрідмана, методи, розроблені в машинному навчанні, насправді не належать до спільноти машинного навчання.

З моєї точки зору Машинне навчання більше схоже на сукупність різних методів з інших полів.

З точки зору статистичного навчання три основні питання регресії та класифікації:

1. Що таке сімейство функцій, з якого ви тягнете апроксиматор

2. Які критерії, як ви потягнете функцію

3. Який спосіб знайти найкращу функцію

Оперувати деяким конструктивним способом на (1) - не так очевидно, як використання математичної оптимізації може допомогти

Оперувати деяким конструктивним способом на (2) - очевидно, що мета - мета. І математична оптимізація може допомогти в цьому.

Щоб якось конструктивно діяти на (3) - вам потрібна математична оптимізація.

Є кілька частин математичної оптимізації:

1. Опукла оптимізація / опуклий аналіз - дуже класна область математики. Недиференційованість не є проблемою. І є 50 узагальнень опуклих функцій, з яких більше двох корисних з точки зору застосування є квазіконвекс та log-увігнуті.

Також є способи, як якось боротися зі «стохастичністю», навіть «Ніхто не знає, як вирішити стохастичну опуклу оптимізацію».

2. Неконвексна оптимізація - зазвичай люди цим означають щось, що є безперервною метою, але кривизна може змінюватися. Люди на цій планеті не знають, як її точно вирішити. Насправді всі мехтоди роблять важіль (1)

3. Комбінаторна оптимізація - вона ще більш дивна, ніж (2), тепер для параметрів, які ви знайдете, ви навіть не можете застосувати мінусові оператори. Один із прикладів - "регіони" в деревах рішень. Отже, є два способи вирішити цю проблему: а) конвексифікувати проблему та використати методи з (1) б) скласти грубу силу. Не працює для величезної кількості параметрів. в) Зробіть грубу силу, але з деякими жадібними кроками. Це щось, що CART роблять.

Тож я, принаймні, думаю, що вам довіряю:

I) Опукла оптимізація - це головне для більшості проблем з оптимізацією.

II) "01:15 Оптимізація насправді є більшою темою, ніж ML або AI, але насправді вона є більшою." ( https://www.youtube.com/watch?v=uF3htLwUHn0&t=992s )