Звідки взявся термін «вивчити модель»

Часто я чув, як шахтарі даних тут використовують цей термін. Як статистик, який працював над проблемами класифікації, я знайомий з терміном "навчити класифікатора", і я припускаю, що "вивчити модель" означає те саме. Я не проти терміна "тренуйте класифікатора". Це, здається, відображає ідею підгонки моделі, оскільки навчальні дані використовуються для отримання хороших або «покращених» оцінок параметрів моделі. Але навчитися означає означає здобувати знання. Простий англійською мовою "вивчити модель" означало б знати, що це таке. Але насправді ми ніколи не знаємо модель. Моделі наближені до реальності, але жодна модель не є правильною. Начебто Box сказав: "Жодна модель не є правильною, але деякі корисні".

Мені було б цікаво почути відповідь шахтарів. Як виник цей термін? Якщо ви використовуєте його, чому вам це подобається?

Я підозрюю, що її джерела знаходяться у дослідницькій спільноті штучних нейронних мереж, де нейронну мережу можна розглядати як вивчення моделі даних за допомогою зміни синаптичних ваг аналогічно тому, що відбувається в людському мозку, як ми самі вчимося досвід. Моя дослідницька кар’єра почалася в штучних нейронних мережах, тому я іноді використовую фразу.

Можливо, це має більше сенсу, якщо ви вважаєте, що модель закодована в параметрах моделі, а не рівняння, так само, як ментальна модель не є ідентифікованою фізичною складовою мозку стільки, скільки набором параметрів. налаштування для деяких наших нейронів.

Зауважте, що не має сенсу, що ментальна модель обов'язково правильна!

Термін досить старий у штучному інтелекті. Тьюринг присвятив довгий розділ «Навчання машини» в його 1950 - обчислювальної техніки і розвідці паперу Ума і якісно описує контрольоване навчання. Оригінальний документ Розенблатта: Перцептрон: ймовірнісна модель зберігання та організації інформації в роботі "Мозг" 1958 року широко розповідає про "Математичну модель навчання". Тут перцептрон був «моделлю навчання»; моделі не були «вивчені».

Папір Піттса та Маккаллоу 1943 року - оригінальний папір "нейронних мереж" - насправді не займався навчанням, тим більше, як можна було побудувати логічне обчислення (як система Гільберта чи Генцен, але я думаю, що вони посилаються на Рассела / Уайтхеда), який може зробити висновок. Я думаю, що саме документ "Perceptrons" ввів числове значення, на відміну від символічного поняття навчання в цій традиції.

Чи можна машині навчитися грати в шахи лише з прикладів? Так. Чи є в ньому модель для гри в шахи? Так. Це оптимальна модель (якщо вона існує)? Майже точно не. Простий англійською мовою я "навчився шахи", якщо я можу грати в шахи нормально - або, можливо, досить добре. Це не означає, що я оптимальний шахіст. Це сенс, в якому Тьюрінг описував "навчання", коли він обговорював вивчення шахів у своїй роботі.

Я дуже не відповідаю тому, яким терміном користуюсь. Так (наприклад) для навчання в межах межі я б сказав "визначити", для навчання в SVM я сказав би "тренуватися", а для MCMC "навчання" я сказав би "оптимізувати". І наприклад, я просто називаю регресію "регресією".

Як дослідник біоінтензивного машинного навчання, я повністю погоджуюся з тим, що "жодна модель не є правильною, але деякі корисні", і насправді моделі та формалізми мають сильний збій, як використовують автори, які говорять про оптимізацію проблеми, коли те, що вони роблять - це оптимізація моделі, тобто дослідження простору її параметрів та пошук локального або, сподіваємось, глобального оптимуму. Це взагалі не є оптимальним для реальної проблеми. Хоча розробник моделі, як правило, використовує правильну термінологію та викладає всі припущення, більшість користувачів переглядають припущення, яких, як відомо, найчастіше не дотримуються, а також використовують менш точну мову про "навчання" та "оптимізацію" та " параметризація ".

Я думаю, що ця оптимальна параметризація моделі - це те, що означатиме людина під час машинного навчання, особливо в контрольованому машинному навчанні, хоча я не можу сказати, що я багато чув "вивчити модель" - але це відбувається, і тоді як людина тренує модель, комп'ютер вивчає параметри моделі. Навіть у навчанні без нагляду «навчання» найчастіше є просто параметризацією моделі, і, сподіваємось, «навчання моделі», таким чином, є оптимальною параметризацією моделі (хоча часто різні способи пошуку простору параметрів знаходять різні рішення, хоча вони можуть бути доведені оптимізувати те саме). Я б дійсно скоріше скористався б "навчанням моделі"

Насправді більшість моїх досліджень стосується вивчення моделі з точки зору виявлення кращої моделі, або більш обчислювальної та когнітивно / біологічно / екологічно правдоподібної моделі.