Чи є MCMC без пам'яті?

Я намагаюся зрозуміти, що таке ланцюг Маркова Монте-Карло (MCMC) зі сторінки французької Вікіпедії. Вони кажуть, "що методи Монте-Карло ланцюга Маркова складаються з генерування вектора лише з векторних даних , тому це процес" без пам'яті "".$x_ {i}$$x_ {i-1}$

Les méthodes de Monte-Carlo par chaînes de Markov послідовні à générer un vecteur $x_{i}$ унікальність à partir de la donnée du vecteur $x_{{i-1}}$ ; c'est donc un processus «sans mémoire»,

Я не розумію, чому вони кажуть, що MCMC "без пам'яті" , оскільки ми використовуємо інформацію з векторних даних $x_ {i-1}$ для створення $x_i$ .

Визначальною характеристикою ланцюга Маркова є те, що умовний розподіл його теперішнього значення, що залежить від минулих значень, залежить лише від попереднього значення . Отже, кожен ланцюг Маркова "без пам'яті" настільки, що лише попереднє значення впливає на теперішню умовну ймовірність, а всі попередні стани "забуті". (Ви маєте рацію, що це не зовсім без пам'яті. Адже умовний розподіл теперішнього значення залежить від попереднього значення.) Це справедливо для MCMC, а також для будь-якого іншого ланцюга Маркова.

Хоча ми маємо правильну відповідь, я хотів би трохи розширити інтуїтивну семантику висловлювання. Уявіть, що ми переосмислимо наші індекси таким чином, щоб ви генерували вектор $x_{i+1}$ з вектора $x_{i}$ . Тепер, момент $i$ метафорично розглядається як "сьогодення", а всі вектори, що надходять "раніше, ніж" $x_{i}$ , не мають значення для обчислення наступного в майбутньому.

Завдяки цьому простому перенумеруванню, він стає «повністю без пам’яті» в інтуїтивному сенсі - тобто зовсім не має значення, як опинилася система Маркова в сучасному стані. Сам теперішній стан визначає майбутні стани, не використовуючи жодної інформації з минулих ( $x_{i-n}$ ) станів.

Можливо, тонкіший момент: слово "пам'ять" також використовується, оскільки це також означає, що ви не можете вивести минулі стани з теперішнього стану. Опинившись на $x_{i}$ , ви не знаєте, що сталося "раніше" під час $x_{i-n}$ . Це протилежність системам, які кодують знання про минулі стани в теперішньому стані.

Ти прокидаєшся. Ви не маєте поняття, як потрапили там, де перебуваєте. Ви озираєтесь на своє оточення і приймаєте рішення, що робити далі, виходячи виключно з інформації, наявної у вас в цей момент часу. Це по суті та сама ситуація, що і в MCMC.

Використовуючи поточну інформацію, яку вона наразі може бачити, щоб прийняти рішення, що робити далі. Замість того, щоб думати про це як з'ясувати $x_{i}$ з $x_{i-1}$ (що може бути тим, що викликає у вас проблеми, тому що ви думаєте, "ей, ми дивимось у минуле, коли дивимось на $x_{i-1}$ ) думай про це" як зрозуміти, що $x_{i+1}$ має базуватися на поточній інформації $x_i$ для якої вам не потрібна «пам'ять». Ці дві формулювання є рівнозначними, але це може допомогти вам трохи краще подумати про семантику.