Яка різниця між функцією прийняття рішення, прогнозом_проблемою та функцією передбачення для проблеми логістичної регресії?

Я переглядав документацію sklearn, але не можу зрозуміти мету цих функцій в контексті логістичної регресії. Бо decision_functionвін говорить, що його відстань між гіперпланом і тестовим екземпляром. чим корисна ця конкретна інформація? і як це стосується predictта predict-probaметодів?

— Те саме
джерело

Нагадаємо, що функціональна форма логістичної регресії є

f (х) = \frac{1}{1 + е^{- (β_{0} + β_{1} х_{1} + \dots + β_{к} х_{к})}}

$f(x) = \frac{1}{1 + e^{-(\beta_0 + \beta_1 x_1 + \cdots + \beta_k x_k)}}$

Це те, що повертається predict_proba.

Термін всередині експоненціалу

г (х) = β_{0} + β_{1} х_{1} + \dots + β_{к} х_{к}

$d(x) = \beta_0 + \beta_1 x_1 + \cdots + \beta_k x_k$

це те, що повертається decision_function. "Гіперплан", про який йдеться в документації, є

β_{0} + β_{1} х_{1} + \dots + β_{к} х_{к} = 0

$\beta_0 + \beta_1 x_1 + \cdots + \beta_k x_k = 0$

Ця термінологія є захопленням від підтримуючих векторних машин, які буквально оцінюють роздільну гіперплан. Для логістичної регресії ця гіперплан є дещо штучною конструкцією, це площина рівної ймовірності, де модель визначила, що обидва цільові класи однаково вірогідні.

predictФункція повертає рішення класу з допомогою правила

f (х) > 0,5

$f(x) > 0.5$

Загрожуючи мильною коробкою, predictфункція має дуже мало законних застосувань, і я вважаю, що це використовується як ознака помилки під час перегляду інших робіт. Я б зайшов досить далеко, щоб назвати це помилкою дизайну в самій sklearn ( predict_probaфункція повинна була бути викликана predictі predictповинна була бути викликана predict_class, якщо вона взагалі є).

— Метью Друрі
джерело

Дякую за відповідь . " ?

— Те саме,

Це пояснення цікаве та корисне. Я б хотів, щоб Склеарн пояснив це краще. Що я не розумію - це користь пізнання значення x у логістичній функції 1 / (1 + e ^ -x)? Все, що я можу придумати, - це можливо використовувати іншу сигмоподібну функцію, як x / (1+ | x |). Чи є більше? Дякую!

— ldmtwo

В основному функцією прийняття рішення повинна була бути сигмоїда в логістичній регресії. Правильно?

— 3nomis

Я думаю, що причина того, що @Matthew знаходиться в мильній коробці, полягає в тому, що використання 0,5 в якості порогу прогнозування є наївним. Перше, що слід зробити, це навчитися використовувати перехресну валідацію, криві ROC та AUC для вибору відповідного порогу c та використання функції рішення f (x)> c.

— hwrd