Фільтр ненормативної лекції для чату MMO

Ми розробляємо MMO за допомогою Smartfox Server. Цільова аудиторія - діти від 7 до 12 років.

У цьому MMO є глобальний варіант чату.
Незалежно від типу користувачів у текстовому полі відображатиметься поруч із аватаром користувачів після того, як він / вона натисне введення.

Ми хотіли б відфільтрувати нецензурну мову / нецензурну лексику з цього чату.
Ми могли зафіксувати чат і прочитати текст. Проблема полягає в отриманні самого списку нецензурних лайків.

Наші запитання є

1. Де можна отримати вичерпний перелік усіх ненормативів?
2. Який метод прийнятий у подібному сценарії для їх фільтрації?

Не варто.

Фільтри не працюють. Принаймні, тільки фільтри не працюють. Білі списки, чорні списки, це не має значення. Жодне з них ніколи не завадить дітям переслідувати один одного. Єдиний спосіб зробити цю роботу - це не фільтрувати чат, а надавати великі складові блоки для пропозицій. Наприклад, дитина може вибрати "Хочеш ...", а варіанти "перейти до ..." та "торгувати ..." будуть витягнуті. Вибір "перейти до ..." відобразить список місць у грі.

Дісней зупинився на цьому методі для свого MMO "Toontown", після того, як їхній тест з білого списку 14-річного віку вирішив "приклеїти [свого] ​​довгогралого жирафа до [їх] пухнастого білого зайчика". Простіше кажучи, ви не можете мати чорний список чи білий список, щоб запобігти зловживанням.

Коли все було сказано, якби я розробляв дитячий MMO, я би реально застосував жорсткий фільтр чорного списку, але лише як другу лінію захисту. Ваша перша лінія захисту завжди має бути модераторами та можливістю повідомляти про зловживання. Я зважував би чорний список слів, кожен користувач отримував секретну оцінку того, наскільки неправдоподібними вони намагаються бути.

Швидше за все, будь-який користувач, який спробує обійти ваш фільтр, запустить його першим. Більш очевидні нецензурні прояви (на відміну від неясних або застарілих) або більше повторених спроб нецензурної лексики включають їх до списку спостереження для модераторів або до якогось списку заборон . Таким чином, модератори можуть зосередити увагу на користувачах, які, здається, намагаються домагатися інших, а не витрачати час на читання коментарів ще невинних дітей.

У відповідь люди, які говорять на , які заявляють, що не надавати фільтр, я б заперечував, що вам потрібно надати фільтр, не маючи жодної іншої причини, крім того, щоб прикрити свій власний зад по відношенню до батьків бажаної аудиторії. Просто переконайтесь, що користувач може його відключити. Застосувавши фільтр нецензурної лексики (хоч і недосконалий і абсолютно необов’язковий), ви можете сказати, що ви зробили все, що від вас очікується, щоб захистити почуття молодшої аудиторії.

Дозволяючи відключити, ви відштовхуєте користувачів від спроб обійти його за допомогою розумних пунктуацій або підстановок, оскільки люди, які віддають перевагу такому мові, негайно відключать фільтр на власних комп’ютерах і давно забули, що фільтр навіть існує .

З урахуванням цього розуміння, не хвилюйтеся так сильно щодо впровадження. Він не повинен бути захищеним від дурня (що добре, бо не може бути захищеним від дурня), але він повинен бути відносно повним і максимально ненав'язливим. Тобто, ви не хочете переконатися, що ви не зробите " чіткий текст" помилку".

Реалізація може бути надзвичайно простою - отримати список слів та замінити будь-які слова, знайдені у списку, зірочками чи чимось подібним. Найкраще шукати лише цілі слова.

Щодо списку слів, це легко: http://www.google.com/search?q=profanity+word+list

Пам'ятайте, що це не повинно бути всеосяжним, воно просто має бути представником доблесних зусиль з вашого боку щодо захисту дітей.

Я б спробував реалізувати рішення, що передбачає чорний список і білий список, де ви можете додати "піску" до чорного списку, а "scunthorpe" у білий список.

Я не вірю, що ви могли коли-небудь реалізувати невдале рішення, тому я б спробував отримати найпопулярніші слова у вашому словнику і зробити так, щоб якомога простіше було додавати нові слова до списків.

Причиною цього є те, що мови, особливо англійська, постійно розвиваються, і те, що десятиліттями було не образливим, може стати образливим у правильному контексті.

Постарайтеся отримати якомога більше слів і піти звідти, сприймайте швидкі реакції, коли люди скаржаться і показують, що це взагалі турбота, і я сумніваюся, у вас виникнуть якісь проблеми.

Було б непогано точно знати, які вказівки щодо цензури в США: MBNL! (я не будь адвокатом!)

Як я помітив, фільтруючи все образливі слова дійсно важко - але ви могли б повернути його навколо, і використовувати білий список з дозволених слів. Здійснюючи пошук в Google, видається, що дитяча гра досить звична для обмеження того, що вони можуть вводити до списку. Наприклад, Lego Universe використовує білий список.

Також дивіться: Білий список для ігрового чату . І зауважте, що білі списки можна обійти . Гарантійного рішення немає.

Враховуючи, що це для маленьких дітей, і неправильне написання може бути проблемою - залежно від клієнтського інтерфейсу, ви можете врахувати автоматичне заповнення слова . Коли гравці почнуть набирати літери, запропонуйте список можливих слів і дозвольте їм вибрати правильне.

Є відповідь програмістів, що описують одну систему для побудови фільтра нецензурної лексики. Він не пояснює, як він насправді побудував це дуже детально, але цього має бути достатньо, щоб отримати уявлення про реалізацію.

Ця проблема найкраще вирішується людьми та соціальним дизайном, а не кодом.

Ваше найкраще джерело для вичерпного списку - це жива людина, яка присутня в грі та стежить за потоком чату. Додайте людей до своєї гри і нехай вони стануть вашим кінцевим фільтром.

Проведіть деякий час, вивчаючи ідеї та філософії Лейн Мерріфілд, що стоять за Club Penguin, та про надання послуг. Ось два описи з його презентації в Остіні GDC у 2008 році. Я бачив це і пам’ятаю, що був дуже вражений його стилем вирішення людських проблем з людьми, а не кодом.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

Зокрема, оскільки ваша гра націлена на дітей, це більше, ніж просто присягати фільтри, про які вам потрібно буде подумати. Вам потрібно буде турбуватися про людей, що представляють себе дітьми, які можуть мати або не мати поганих мотивів. Вам потрібно буде запевнити батьків, що їхні діти в безпеці. Вам потрібно буде запевнити дітей, що вони теж безпечні з цього приводу.

Ще один плюс для людей полягає в тому, що вони зрозуміють контекст. Ви не хочете, щоб якась дитина сказала: "Моя мама має рак молочної залози" і отримала ногу.

Просте рішення проблеми:

1. Видаліть зі введення всі пробіли та розділові знаки.
2. Чорний список у міському словнику .
3. Чорний список усіх гомофонів тощо
4. Чорний список всього, що може бути використане як евфамізм.
5. Напишіть своє програмне забезпечення, щоб зрозуміти зміст, наміри та тон того, що залишилося.
6. Викиньте гру та вирушайте на ринок з розумним та всезнаючим творінням із кроку 5.

Деякі MMO для дітей просто замінюють чат заздалегідь визначеним переліком емоцій та фраз і просто не дозволяють спілкуватися у вільній формі. Можливо, гра могла бути розроблена так, щоб її вмістити.