Класифікатори машинного навчання big-O або складності

Для оцінки ефективності нового алгоритму класифікатора я намагаюся порівняти точність та складність (big-O у навчанні та класифікації). З машинного навчання: огляд я отримую повний список контрольованих класифікаторів, а також таблицю точності між алгоритмами і 44 тестові проблеми з репозиції даних UCI . Однак я не можу знайти огляд, папір або веб-сайт із великим O для поширених класифікаторів, таких як:

С4.5
RIPPER (я думаю, це може бути неможливо, але хто знає)
ANN із розповсюдженням спини
Наївний байєсів
К-НН
SVM

Якщо у когось є якісь вирази для цих класифікаторів, це буде дуже корисно, дякую.

— Дінл
джерело

Вас може зацікавити наступна стаття: thekerneltrip.com/machine/learning/… Повна відмова від відповідальності, це мій блог :)

— RUser4512,

Хочете відстежити місця, на які вказували тепер мертві посилання питання?

— мат

@ RUser4512 дійсно чудовий розгляд блогу! Ви також розглядали можливість додавання простору?

— мат

@matt Дякую :) так, але, напевно, в іншій статті є багато про що сказати і про це!

— RUser4512

Нехай = кількість навчальних прикладів, = розмірність ознак і $N$ $d$ = кількість класів. $c$

Тоді навчання має складності:

Naive Bayes - це , все, що потрібно зробити, - це обчислити частоту кожного значення $O(Nd)$ $d_i$ для кожного класу.
-NN знаходиться в (деякі люди навіть кажуть, що це не існує, але космічна складність навчання - $k$ $\mathcal{O}(1)$ $\mathcal{O}(Nd)$ оскільки вам потрібно зберігати дані, які також потребують часу).
$O(N^2)$ $O(N^3)$ $O(N^3)$ $O(N^{2.3})$ допомогою деяких хитрощів.
$O(NR)$ де R - кількість ітерацій.

Складності тестування:

$\mathcal{O}(cd)$ $d$ $c$
$k$ $\mathcal{O}(Nd)$ оскільки вам доведеться порівнювати тестову точку з кожною точкою даних у вашій базі даних.

Джерело: "Основні векторні машини: швидке навчання SVM на дуже великих наборах даних" - http://machinelearning.wustl.edu/mlpapers/paper_files/TsangKC05.pdf

Вибачте, я не знаю про інших.

— samthebest
джерело

O (n^{2})

$O(n^2)$

O (n^{3})

$O(n^3)$

@MarcClaesen Посилання більше не працює, і його немає на машині зворотного зв'язку. Це той самий документ: leon.bottou.org/publications/pdf/lin-2006.pdf ?

— словаззаду