Як ефективно обчислити ядро ​​Гаусса в numpy [закрито]

У мене є nummy масив з m стовпцями та n рядками, стовпці мають розміри та рядки даних.

Тепер мені потрібно обчислити значення ядра для кожної комбінації точок даних.

Для лінійного ядра $K(\mathbf{x}_i,\mathbf{x}_j) = \langle \mathbf{x}_i,\mathbf{x}_j \rangle$ я можу просто зробитиdot(X,X.T)

Як я можу ефективно обчислити всі значення для ядра Гаусса із заданим s ?$K(\mathbf{x}_i,\mathbf{x}_j) = \exp{-\frac{\|\mathbf{x}_i-\mathbf{x}_j\|_2^2}{s^2}}$

Я думаю, що головна проблема полягає в тому, щоб дістати парні відстані ефективно. Після того, як у вас з’явиться, що решта є елементом.

Для цього, ймовірно, ви хочете використовувати scipy. Ця функція scipy.spatial.distance.pdistвиконує те, що вам потрібно, і scipy.spatial.distance.squareform, можливо, полегшить ваше життя.

Тож якщо ви хочете матрицю ядра, яку ви робите

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_dists = squareform(pdist(X, 'euclidean'))
K = scip.exp(-pairwise_dists ** 2 / s ** 2)

Документацію можна знайти тут . 

Як невелике доповнення до відповіді байержа, pdistфункція scipy може безпосередньо обчислити евклідові норми у квадраті, називаючи це як pdist(X, 'sqeuclidean'). Потім повний код можна записати ефективніше як

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_sq_dists = squareform(pdist(X, 'sqeuclidean'))
K = scip.exp(-pairwise_sq_dists / s**2)

Ви також можете написати квадратну форму вручну:

import numpy as np
def vectorized_RBF_kernel(X, sigma):
    # % This is equivalent to computing the kernel on every pair of examples
    X2 = np.sum(np.multiply(X, X), 1) # sum colums of the matrix
    K0 = X2 + X2.T - 2 * X * X.T
    K = np.power(np.exp(-1.0 / sigma**2), K0)
    return K

PS, але це працює на 30% повільніше

def my_kernel(X,Y):
    K = np.zeros((X.shape[0],Y.shape[0]))
    for i,x in enumerate(X):
        for j,y in enumerate(Y):
            K[i,j] = np.exp(-1*np.linalg.norm(x-y)**2)
    return K

clf=SVR(kernel=my_kernel)

що дорівнює

clf=SVR(kernel="rbf",gamma=1)

Ви можете ефективно обчислити RBF з наведеного вище кодового зауваження, що гамма-значення дорівнює 1, оскільки це константа, яку ви запитували, також є однаковою постійною.

Я думаю, що це допоможе:

def GaussianKernel(v1, v2, sigma):
    return exp(-norm(v1-v2, 2)**2/(2.*sigma**2))