Запитання з тегом «bayesian-optimization»

Градієнтний спуск та багато інших методів корисні для пошуку місцевих мінімумів у функціях витрат. Вони можуть бути ефективними, коли функцію витрат можна швидко оцінити в кожній точці, чисельно, чи аналітично. У мене є те, що мені здається незвичайною ситуацією. Кожна оцінка моєї функції витрат дорога. Я намагаюся знайти набір параметрів, …

59 gradient-descent  optimization  bayesian-optimization 

Існує суттєве сучасне дослідження Байєсової оптимізації (1) для налаштування гіперпараметрів МЛ. Мотивація водіння тут полягає в тому, що необхідна мінімальна кількість точок даних, щоб зробити обґрунтований вибір того, які точки варто спробувати (виклики об'єктивних функцій дорогі, тому менше робити менше), тому що підготовка моделі є трудомісткою - дещо скромно -великі …

18 hyperparameter  bayesian-optimization  optunity 

Передумови та проблеми Я використовую Гауссові процеси (GP) для регресії та подальшої байєсівської оптимізації (BO). Для регресії я використовую пакет gpml для MATLAB з кількома модифікаціями на замовлення, але проблема загальна. Загальновідомий факт, що коли два тренувальних введення занадто близькі у вхідному просторі, коваріаційна матриця може стати не позитивно визначеною …

12 regression  covariance-matrix  gaussian-process  bayesian-optimization