Статистична теорія навчання VS обчислювальна теорія навчання?

Які зв’язки та відмінності між статистичною теорією навчання та теорією обчислювального навчання ?

Вони приблизно однієї теми? Вирішуйте ті самі проблеми і використовуйте ті самі методи?

Наприклад, перший говорить, що це теорія передбачення (регресія, класифікація, ...).

machine-learning statistical-learning artificial-intelligence

— Тім
джерело

Це насправді велике питання. Я захоплювався запитанням подібного, але думав, що це тягне за собою ті самі властивості питання, які я хотів задати. Я бачив багато книг, багато пошукових запитів у Google та сторінках вікіпедій. Я думаю, що обидва питання пов’язані з точки зору їх формулювання як складних запитань щодо складності, але я не зміг знайти жодних ресурсів, щоб вказати на роботу, виконану в цій галузі до PAC. Усі книги, які я бачив, починаються з PAC, які змушують мене замислюватися, що сталося до PAC.

— Кірк Валла

Обчислювальне навчання, точніше, напевно, приблизно правильна ( PAC ) рамка, дає відповіді на запитання на зразок: скільки прикладів навчання потрібно, щоб учень з великою часткою ймовірності здобув хорошу гіпотезу? скільки обчислювальних зусиль мені потрібно з великою часткою ймовірності засвоїти такій гіпотезі? Це не стосується конкретного класифікатора, з яким ви працюєте. Йдеться про те, що можна, а що не можна навчитися з деякими зразками.

У теорії статистичного навчання ви, скоріше, відповідаєте на подібні запитання: скільки навчальних зразків класифікатор буде класифікувати, перш ніж він перейде до гарної гіпотези? тобто наскільки важко тренувати класифікатор і які гарантії я маю щодо його продуктивності?

На жаль, я не знаю джерела, де ці дві області описуються / порівнюються уніфіковано. І все-таки хоч і не дуже сподіваюся, що це допомагає

— jpmuc
джерело