Запитання з тегом «k-nearest-neighbour»

В елементах статистичного навчання вводиться проблема висвітлення питань з k-nn у просторах високих розмірів. Існує точок даних, які рівномірно розподілені в -вимірній кулі одиниці.рNNNppp Середня відстань від початку до найближчої точки даних задається виразом: d(p,N)=(1−(12)1N)1pd(p,N)=(1−(12)1N)1pd(p,N) = \left(1-\left(\frac{1}{2}\right)^\frac{1}{N}\right)^\frac{1}{p} Коли , формула розпадається на половину радіуса кулі, і я бачу, як найближча …

12 self-study  proof  k-nearest-neighbour 

Я новачок у ядрах і потрапив у корч, намагаючись ядро ​​kNN. Прелімінарії Я використовую поліноміальне ядро: К( Х , у ) = ( 1 + ⟨ х , у ⟩ )гK(x,y)=(1+⟨x,y⟩)dK(\mathbf{x},\mathbf{y}) = (1 + \langle \mathbf{x},\mathbf{y} \rangle)^d Ваш типовий евклідовий kNN використовує таку метрику відстані: г( х , у ) …

12 machine-learning  kernel-trick  k-nearest-neighbour 

Як я зрозумів, k-NN - алгоритм ледачого учня, і йому не потрібен етап навчання. То чому нам потрібно використовувати .fit()склеарн і що відбувається, коли ми його використовуємо?

11 classification  scikit-learn  k-nearest-neighbour 

Згідно з деякою книгою, яку я читаю, зазвичай використовується дистанція Джефріса та Матусіти. Але я не зміг знайти багато інформації про нього, окрім наведеної нижче формули JMD (x, y) = ∑(xi−−√2−yi−−√2)2−−−−−−−−−−−−−√2∑(xi2−yi2)22\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2} Він схожий на евклідову відстань за винятком квадратного кореня E (x, y) = ∑(xi−yi)2−−−−−−−−−−√2∑(xi−yi)22\sqrt[2]{\sum(x_i-y_i)^2} Вважається, що відстань JM є …

11 classification  k-nearest-neighbour  euclidean 

Я читаю книгу Кевіна Мерфі: Машинне навчання - ймовірнісна перспектива. У першому розділі автор пояснює прокляття розмірності, і є частина, яку я не розумію. Як приклад, автор зазначає: Розглянемо, що входи рівномірно розподілені по D-мірному кубі одиниці. Припустимо, ми оцінюємо щільність міток класу шляхом вирощування гіпер куба навколо х до …

11 self-study  k-nearest-neighbour  high-dimensional 

Що таке VC-розмір алгоритму k-найближчого сусіда, якщо k дорівнює кількості використовуваних навчальних балів? Контекст: Це питання мені задавали в ході я взяв курс, і відповідь дано було 0. Я все ж не розумію, чому це так. Моя інтуїція полягає в тому, що VC-розмір повинен бути 1, тому що слід мати …

10 machine-learning  self-study  k-nearest-neighbour  vc-dimension 

Під час обчислювального навчання теорема NFL стверджує, що не існує універсального учня. Для кожного алгоритму навчання існує розподіл, який обумовлює виведення учням гіпотезу з великою помилкою, з високою ймовірністю (хоча гіпотез помилок низький). Висновок полягає в тому, що для того, щоб навчитися, клас гіпотезу або розподіли повинні бути обмежені. У …

10 k-nearest-neighbour  consistency 

У мене є набір даних із стовпцями a b c(3 атрибути). aє чисельною і безперервним в той час як bі cкатегорично кожен з двома рівнями. Я використовую метод K-Найближчих сусідів для класифікації aта bввімкнення c. Отже, щоб можна було виміряти відстані, я перетворюю свій набір даних, видаляючи bта додаючи b.level1і …

10 r  classification  k-nearest-neighbour 

Розділ 2.4 ESL, схоже, класифікує лінійну регресію як "засновану на моделі", оскільки вона передбачає , тоді як аналогічне наближення не вказано для k-найближчих сусідів. Але чи не обидва методи роблять припущення щодо ?f( x ) ≈ x ⋅ βf(x)≈x⋅βf(x) \approx x\cdot\betaf( х )f(x)f(x) Пізніше в 2.4 він навіть говорить: Найменші …

10 machine-learning  model  k-nearest-neighbour 

Запитання: За допомогою 10-мірної ланцюга MCMC скажімо, що я готовий надати вам матрицю малюнків: 100 000 ітерацій (рядків) за 10 параметрами (стовпцями), як найкраще я можу визначити задні режими? Я особливо переймаюся кількома режимами. Фон:Я вважаю себе статистично обґрунтованим статистиком, але коли колега задав мені це питання, мені було соромно, …

10 r  bayesian  mcmc  k-nearest-neighbour  mode 

Я знаю, що існує більше двох типів нормалізації. Наприклад, 1- Трансформація даних за допомогою z-оцінка або t-оцінка. Зазвичай це називається стандартизацією. 2- Розміщення даних для значень між 0 і 1. Питання зараз, чи потрібно мені нормалізувати Який тип нормалізації даних слід використовувати з KNN? і чому?

9 machine-learning  normalization  standardization  k-nearest-neighbour