Як може працювати багатокласний перцептрон?

13

У математики я не маю жодного фону, але я розумію, як працює простий Perceptron, і я думаю, що я розумію концепцію гіперплана (я уявляю це геометрично як площину в тривимірному просторі, яка відокремлює дві точкові хмари, подібно до того, як лінія відокремлена. дві точкові хмари у двовимірному просторі).

Але я не розумію, як одна площина або одна лінія могли розділити три різні хмари точок у тривимірному просторі або у 2D просторі, відповідно - це геометрично неможливо, чи не так?

Я намагався зрозуміти відповідний розділ у статті Вікіпедії , але вже невдало виправдався у реченні «Тут вхідні дані x та вихід y виведені з довільних множин». Чи може хтось пояснити мені багатокласний перцептрон і як це іде з ідеєю гіперплана, чи, можливо, вказує мені на не дуже математичне пояснення?

— wnstnsmth
джерело

8

Припустимо, у нас є дані де - вхідні вектори, а - класифікації. $(x_1, y_1), \dots, (x_k,y_k)$ $x_i \in \mathbb{R}^n$ $y_i \in \{\text{red, blue, green} \}$

Ми знаємо, як створити класифікатор бінарних результатів, тому робимо це три рази: групуємо результати разом, , та . $\{\text{red, blue or green} \}$ $\{\text{blue, red or green} \}$ $\{\text{green, blue or red} \}$

Кожна модель набирає вигляду функції , назвемо їх відповідно. Це приймає вхідний вектор підписаним відстані від гиперплоскости , асоційованої з кожною моделлю, де позитивні відстань відповідає прогнозу синього , якщо , червоною , якщо і зелений , якщо . В основному чим позитивніший , тим більше модель вважає, що $f: \mathbb{R}^n \to \mathbb{R}$ $f_R, f_B, f_G$ $f_B$ $f_R$ $f_G$ $f_G(x)$ $x$ зелений, і навпаки. Нам не потрібно, щоб результат був імовірним, нам просто потрібно вміти вимірювати, наскільки впевнена модель.

вхід , класифікуємо його відповідно до , тож якщо є найбільшим серед , передбачити зелений для . $x$ $\text{argmax}_{c} \ f_c(x)$ $f_G(x)$ $\{f_G(x), f_B(x), f_R(x) \}$ $x$

Ця стратегія називається "один проти всіх", і про неї ви можете прочитати тут .

— Гаррі
джерело

3

Я взагалі не можу зрозуміти цю статтю Wiki. Ось альтернативний замах на його пояснення.

$p$ $1 - p$

$p_i$ $1 - \sum_{i=(1,2)} p_i$

$m$ $m + 1$

— Hong Ooi
джерело

Ви впевнені, що вихід є фактичною ймовірністю? У всякому разі, я не знаю, як працює багаточленна логістична регресія, тому мені доведеться розібратися в цьому. Але чи не існує (алгоритмічний) спосіб пояснити, як будується перцептрон з двома або більше вихідними вузлами? Вони якось прикуті разом?

— wnstnsmth