Які існують важливі напрямки генерації випадкових чисел у обчислювальній статистиці?

Як і чому важливі генератори випадкових чисел (RNG) в обчислювальній статистиці?

Я розумію, що випадковість важлива при виборі зразків для багатьох статистичних тестів, щоб уникнути упередженості до будь-якої гіпотези, але чи є інші сфери обчислювальної статистики, де важливі генератори випадкових чисел?

— Патрік
джерело

Тісно пов’язані: stats.stackexchange.com/q/135665/35989

— Тім

Про що ви питаєте? Ваше запитання насправді не має великого сенсу.

— Карл Віттофт

Можливо, буде краще запитати сфери, в яких вони не важливі. Мабуть, це буде коротший список.

— Джон Коулман

Питання є широким, але назва приваблива, і відповідь Метью - хороший огляд. Я проголосував за повторне відкриття!

— Бенуа Санчес

Це, очевидно, занадто широке за звичайними стандартами SE, і означає питання "великого списку", яке, ймовірно, налічує безліч дрібних, ледве розроблених відповідей, які часто повторюють відповіді. Однак тут, мабуть, є якась реальна цінність. Компроміс - це захист від CW та захисту. Надалі відповіді, які згадують про щось без розробки та / або що вже згадані дублікати використання, будуть видалені негайно та без коментарів.

— gung - Відновіть Моніку

Відповіді:

Прикладів багато, багато. Шлях занадто багато, щоб перелічити, і, мабуть, занадто багато, щоб хто-небудь знав повністю (крім, можливо, @whuber, якого ніколи не варто недооцінювати).

Як ви зазначали, у контрольованих експериментах ми уникаємо вибірки зміщення шляхом випадкового розподілу суб'єктів на групи лікування та контролю.

Під час завантаження даних ми наближаємо повторний відбір з популяції шляхом випадкового відбору з заміною фіксованого зразка. Це дозволяє нам оцінити відмінність наших оцінок, серед іншого.

Під час перехресної перевірки ми оцінюємо помилку вибірки оцінки, випадковим чином розподіляючи наші дані на фрагменти та збираючи випадкові набори для навчання та тестування.

Під час тестування перестановки ми використовуємо випадкові перестановки для вибірки під нульовою гіпотезою, що дозволяє виконувати непараметричні тести гіпотез у найрізноманітніших ситуаціях.

У мішкуванні ми контролюємо дисперсію оцінки, багаторазово виконуючи оцінку на зразках завантажувальних даних навчальних даних, а потім усереднюючи результати.

У випадкових лісах ми додатково контролюємо дисперсію оцінки, шляхом вибіркового вибірки з наявних прогнозів у кожній точці прийняття рішення.

Під час моделювання ми просимо підходящу модель для випадкового генерування нових наборів даних, які ми можемо порівняти з навчанням або тестуванням даних, допомагаючи перевірити відповідність та припущення в моделі.

У ланцюзі Маркова Монте-Карло ми беремо вибірку з розподілу, досліджуючи простір можливих результатів, використовуючи ланцюг Маркова (завдяки цьому @Ben Bolker для цього прикладу).

Це лише звичайні, повсякденні програми, які приходять на думку негайно. Якби я копав глибоко, я міг би подвоїти довжину цього списку. Випадковість є і важливим об'єктом вивчення, і важливим інструментом для управління.

— Метью Дрюрі
джерело

Це все правда, але не вирішує основної проблеми: PRNG з будь-якою структурою або передбачуваністю в послідовності призведе до відмови моделювання.

— Карл Віттофт

Одне з речей, яке заслуговує на згадку, - це обчислювальні та пам’ятні витрати на генерацію великої кількості випадкових чи псевдовипадкових чисел. Для деяких застосувань RNG в статистиці потрібні сотні до мільйонів випадкових чисел, але деякі вимагають на багато порядків більше, що несе обидві ці витрати.

— Олексій

Це все правда, але не вирішує головної проблеми: PRNG з будь- якою структурою або передбачуваністю послідовності призведе до відмови моделювання. Карл Віттофт 31 січня о 15:51

Якщо це вас хвилює, можливо, назву питання слід змінити на "Вплив вибору RNG на результати Монте-Карло" або щось подібне. У цьому випадку, вже розглянуті на перехресній валідації SE , ось деякі напрямки

Якщо ви розглядаєте погано розроблені РНГ, як сумнозвісний RANDU, вони явно негативно вплинуть на наближення Монте-Карло. Щоб виявити недоліки в RNG, існують банки таких еталонів, як тести Марсагліа Діярда . (Наприклад, Park & Miller (1988) використання конгруентного генератора Лемера з коефіцієнтом 16807 було визнано відсутнім , його слід замінити на 47271 або 69621. Звичайно, це було витіснене масовими генераторами періоду, такими як Mersenne Twister PRNG .)
Питання SE з математики дає посилання на вплив (або його відсутність) на оцінку та точність, якщо не дуже корисна відповідь.
Джефф Розенталь (У Торонто) має документ, де він вивчає вплив RNG на конвергенцію ланцюгів (Монте-Карло) Маркова, але я не можу його знайти. Нещодавно я провела невеликий експеримент у своєму блозі, не маючи видимого впливу типу RNG.
- Як осторонь, схема лотереї в Онтаріо використовувала погано розроблену випадкову генерацію, яку помітив статистик Мохан Срівастава з Торонто, Канада, який сповістив про це проблему Лотереї та ігрової корпорації в Онтаріо, а не отримував від цього здоровенний прибуток лазівка
Ось ілюстрація випадку, коли класичний мережевий тренажер впливає на поганий вибір за замовчуванням (пов'язаний з Парк і Міллер вище).
Існують конкретні проблеми зі структурою РНГ, які використовуються при паралельних обчисленнях . Використання декількох насінин зазвичай недостатньо добре, особливо для лінійних конгруентних генераторів. У комп’ютерній літературі можна знайти багато підходів, включаючи масштабовані паралельні генерації випадкових чисел (SPRNG) Майкла Масканьї (включаючи R-версію) та динамічного творця Мацумото , програми C, яка забезпечує вихідні значення для незалежних потоків при використанні твістера Mersenne . Це також було вирішено при переповненні стека SE .
У минулому році я бачив розмову по Paula Уитлок про вплив ГНУ наукової бібліотеки про збіжність великої розмірності випадкових блукань, але не може.
На закінчення легкої ноти, також є деяка література про розмежування програмних та апаратних RNG, з твердженнями, що екстрасенси можуть вплинути на пізніші !

— Сіань
джерело