Гауссові процеси: як використовувати GPML для багатовимірного виводу

Чи є спосіб провести регресію Гаусса на багатовимірному виході (можливо, корельованому) за допомогою GPML ?

У демо-скрипті я міг знайти лише 1D приклад.

Аналогічне питання про те , що CV талі випадок багатовимірного введення.

Я переглянув їхню книгу, щоб побачити, чи зможу щось знайти. У 9-му розділі цієї книги (розділ 9.1) вони згадували про цей випадок кількох результатів. Вони згадали кілька способів впоратися з цим, один - використання корельованого шумового процесу та два - кокрігінг (попередній кореляція).

Я досі не знаю, як я можу включити будь-яку з цих ідей у ​​рамку GPML.

Також, чи є інші бібліотеки / рамки GP, які підтримують багатовимірний вихід?

Я вважаю, що Twin Gaussian Proces - це саме те, що ви шукаєте. Я не можу описати модель краще, ніж абстрактний документ, тому я просто скопіюю його:

Опишемо процеси близнюків Гаусса (TGP) 1, загальний структурований метод прогнозування, який використовує пріори Гаусса (GP) [2] як для коваріатів, так і для відповідей, як багатоваріантних, так і оцінює результати, мінімізуючи розбіжність Куллбека-Лейблера між двома ГП, модельованими як звичайні розподіли за кінцевими наборами індексів навчання та приклади тестування, підкреслюючи мету, що подібні вкладення повинні створювати подібні уявлення, і це повинно містити в середньому між їх граничними розподілами. TGP фіксує не тільки взаємозалежності між коваріатами, як у типових загальних групах, але й відповіді між відповідями, тому кореляції між входами та виходами враховуються. TGP є прикладом із перспективними результатами для реконструкції 3d поз людини від монокулярних та багатокамерних відеопослідовностей у нещодавно представленому еталоні HumanEva, де ми досягаємо в середньому 5 см помилки на 3d-маркер для моделей, що навчаються спільно, використовуючи дані декількох людей та багато видів діяльності. Метод швидкий і автоматичний: він не вимагає ручного складання початкової пози, параметрів калібрування камери або наявності 3D-моделі тіла, пов'язаної з людьми, що використовуються для тренувань чи тестування.

Для початку роботи автори щедро надали набори кодів та зразків даних.

Коротка відповідь Регресія для багатовимірного виведення є дещо складною, і за моїм сучасним рівнем знань, безпосередньо не включеним у панель інструментів GPML.

Довга відповідь Ви можете розбити проблему багатовимірної регресії виводу на 3 різні частини.

1. Виходи не пов'язані один з одним - просто регресуйте результати окремо, як демонстраційний сценарій для 1d випадку.
2. Виходи пов'язані між собою, але не знають співвідношення між ними. Ви в основному хотіли б дізнатися внутрішні відносини між результатами. Як згадується в книзі coKriging - це хороший спосіб почати. Існують інші програмні засоби, крім GPML, які можуть безпосередньо дозволяти виконувати копіювання, наприклад. ooDace
3. Вихідні дані пов'язані, і ви знаєте відношення між ними. Виконайте регулярне кокрігування, але ви можете застосувати жорсткі обмеження між виходами або застосувавши обмеження в оптимізаторі (у той час як ви мінімізуєте граничну ймовірність журналу), як це сказали Hall & Huang 2001 або застосувати відносини у попередній функції, як сказано Константинеску та Анітеску 2013 .

Я сподіваюся, що це допомагає :)

Це модуль від scikit-learn, який для мене працював на диво добре:

http://scikit-learn.org/stable/auto_examples/gaussian_process/plot_gp_regression.html

# Instanciate a Gaussian Process model
gp = GaussianProcess(corr='cubic', theta0=1e-2, thetaL=1e-4, thetaU=1e-1,
                     random_start=100)

# Fit to data using Maximum Likelihood Estimation of the parameters
gp.fit(X, y)

# Make the prediction on the meshed x-axis (ask for MSE as well)
y_pred, MSE = gp.predict(x, eval_MSE=True)
sigma = np.sqrt(MSE)

Я шукав багатовиробничі Гауссові процеси і знайшов багато способів діяти з нею, наприклад, методом згортки, методом моделювання змішаних ефектів і останнім цим процесом Twin Gaussian (TGP).

У мене виникають сумніви в концепції Twin Gaussian Proces (TGP). Чи може мені хтось у цьому допомогти?

$\hat{y}$$p(y^*|\mathbf{y}) \sim \mathcal(\mu, \sigma^2)$$\sigma^2$$y$$\hat{y}$$y$