Як здійснити однокласну класифікацію тексту?

Я маю справу з проблемою класифікації тексту. Веб-сканер сканує веб-сторінки певного домену, і для кожної веб-сторінки я хочу з’ясувати, належить вона лише одному певному класу чи ні. Тобто, якщо я називаю цей клас Позитивним , кожна сканована веб-сторінка належить або до класу Позитивний, або до класу Непозитивний .

У мене вже є великий навчальний набір веб-сторінок для класу Позитивний . Але як створити навчальний набір для класу Непозитивні, який є максимально репрезентативним? Я маю на увазі, я міг би в основному використовувати кожен і все для цього класу. Чи можу я просто зібрати кілька довільних сторінок, які точно не належать до класу Positive ? Я впевнений, що ефективність алгоритму класифікації тексту (я вважаю за краще використовувати алгоритм Naive Bayes) сильно залежить від того, які веб-сторінки я виберу для класу Непозитивний .

То що мені робити? Може хтось, будь ласка, дасть мені пораду? Велике спасибі!

Алгоритм Spy EM вирішує саме цю проблему.

S-EM - це система вивчення тексту чи класифікації тексту, яка навчається на наборі позитивних та незазначених прикладів (відсутність негативних прикладів). Він заснований на "шпигунській" техніці, наївному Байесі та алгоритмі ЕМ.

Основна ідея - поєднати свій позитивний набір з цілою купою випадково сканованих документів. Ви спочатку ставитесь до всіх сканованих документів як до негативного класу та вивчаєте класифікатор наївних баєсів на цьому наборі. Тепер деякі скановані документи насправді будуть позитивними, і ви можете консервативно відновити будь-які документи, набрані вище, ніж найнижчий бал справжнього позитивного документа. Потім ви повторюєте цей процес, поки він не стабілізується.

Ось гарна теза про однокласну класифікацію:

• Податки, DM: Однокласна класифікація - Концепція навчання за відсутності зустрічних прикладів , кандидатських дисертацій, Technische Universiteit Delft, 2001. ( pdf )

Ця дипломна робота вводить метод опису векторних даних підтримки (SVDD), однокласну машину підтримки вектора, яка знаходить мінімальну гіперсферу навколо даних, а не гіперплан, що розділяє дані.

У дисертації також розглядаються інші однокласні класифікатори.

Для гарної підготовки потрібні дані, які забезпечують хороші оцінки ймовірностей кожного класу. Кожна проблема класифікації включає щонайменше два класи. У вашому випадку другим класом є той, хто не належить до позитивного класу. Щоб сформувати правильну межу прийняття рішень, використовуючи Байєса або будь-який інший хороший метод, найкраще зробити з якомога більшою кількістю навчальних даних, випадковим чином обраних із класу. Якщо ви робите невипадковий вибір, ви можете отримати зразок, який справді не представляє форми умовної щільності / розподілу класу і може призвести до поганого вибору межі рішення.

Я згоден з Майклом.

Що стосується вашого питання про випадковий вибір; так: вам доведеться вибирати випадковим чином з додаткового набору "позитивів". Якщо є якась плутанина, що можливо, що ваші "позитиви" не повністю визначені як "чисті позитивні", якщо я можу використовувати цю фразу, то ви також можете спробувати принаймні якесь відповідне визначення позитивів, щоб ви контроль над тими змінними, які потенційно створюють деяке забруднення щодо визначення поняття "позитивний". У цьому випадку ви також повинні відповідати тим самим змінним на "непозитивній" стороні також.

Стаття, яка може зацікавити:

"Розширена найближча скорочена центроїдальна класифікація: новий метод атрибуції авторства з відкритим набором текстів різної величини", Schaalje, Fields, Roper та Snow. Літературно-лінгвістичні обчислення, т. 26, № 1, 2011.

Котрий бере метод віднесення тексту до набору авторів і розширює його, щоб використовувати можливість того, що справжній автор не знаходиться в наборі кандидатів. Навіть якщо ви не використовуєте метод NSC, ідеї в статті можуть бути корисними для роздумів про те, як діяти далі.