Як моделювати упереджену монету зі зміщенням часу?

Моделі упереджених монет зазвичай мають один параметр . Один із способів оцінити з серії малюнків - це використовувати попередній бета-версію та обчислити задній розподіл з вірогідністю бінома.$\theta = P(\text{Head} | \theta)$$\theta$

У моїх налаштуваннях через якийсь дивний фізичний процес мої властивості монети повільно змінюються і стає функцією часу . Мої дані - це набір упорядкованих малюнків, тобто . Я можу вважати, що у мене є лише один розіграш для кожного на дискретній та регулярній сітці часу.т { Н , Т , Н , Н , Н , Т , . . . } $\theta$$t$$\{H,T,H,H,H,T,...\}$$t$

Як би ви моделювали це? Я думаю про щось на зразок фільтра Калмана, адаптованого до того, що прихована змінна є і зберігає біноміальну вірогідність. Що я можу використати для моделювання щоб зберегти висновок?P ( θ ( t + 1 ) | θ ( t ) $\theta$$P(\theta(t+1)|\theta(t))$

Редагуйте наступні відповіді (спасибі!) : Я хотів би моделювати як Марківську ланцюжок порядку 1, як це робиться у фільтрах HMM або Kalman. Єдине припущення, яке я можу зробити, - це те, що \ theta (t) гладка. Я міг би написати P (\ theta (t + 1) | \ theta (t)) = \ theta (t) + \ epsilon з \ epsilon невеликим гауссовим шумом (ідея фільтра Калмана), але це порушить вимогу, що \ theta повинні залишатися в [0,1] . Виходячи з ідеї @J Dav, я міг би використовувати функцію probit для відображення реальної лінії в [0,1] , але я маю інтуїцію, що це дасть неаналітичне рішення. Бета-розподіл із середнім \ theta (t)θ ( t ) P ( θ ( t + 1 ) | θ ( t ) ) = θ ( t ) + ϵ ϵ θ [ 0 , 1 ] [ 0 , 1 ] θ ( t $\theta(t)$$\theta(t)$$P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$$\epsilon$$\theta$$[0,1]$$[0,1]$$\theta(t)$ і ширша дисперсія могла б зробити трюк.

Я задаю це питання, оскільки маю відчуття, що ця проблема настільки проста, що її, мабуть, вивчали раніше.

Я сумніваюся, що ви можете придумати модель з аналітичним рішенням, але висновок все-таки можна зробити простежуваним за допомогою правильних інструментів, оскільки структура залежності вашої моделі проста. Як дослідник машинного навчання, я вважаю за краще використовувати наступну модель, оскільки умовивід можна зробити досить ефективним, використовуючи техніку розповсюдження очікувань:

Нехай є результатом -го випробування. Давайте визначимо параметр, що змінюється за часом$X(t)$$t$

t ≥ $\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$ для .$t \geq 0$

Щоб зв’язати з , введіть приховані змінніX ( t $\eta(t)$$X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$ ,

і модель бути$X(t)$

Y ( t ) ≥ 0 X ( t ) = 0 Y ( t ) P [ $X(t) = 1$ якщо , а іншому випадку. Ви можете фактично ігнорувати 'і маргіналізувати їх просто сказати , (з cdf з стандартний нормальний), але введення прихованих змінних робить висновок простим. Також зауважте, що у початковій параметризації .$Y(t) \geq 0$$X(t) = 0$$Y(t)$Φ θ ( t ) = η ( t ) /$\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$$\Phi$$\theta(t) = \eta(t)/\beta$

Якщо ви зацікавлені в застосуванні алгоритму висновку, погляньте на цей документ . Вони використовують дуже схожу модель, щоб ви могли легко адаптувати алгоритм. Щоб зрозуміти EP, наступна сторінка може виявитися корисною. Якщо ви зацікавлені в дотриманні цього підходу, дайте мені знати; Я можу надати більш детальну пораду щодо реалізації алгоритму висновку.

Для розробки мого коментаря така модель, як p (t) = p exp (-t), є простою моделлю і дозволяє оцінити p (t) шляхом оцінки p використовуючи максимальну оцінку ймовірності. Але чи справді ймовірність занепадає експоненціально. Ця модель буде явно неправильною, якщо ви спостерігаєте періоди часу з високою частотою успіху, ніж ви спостерігали в більш ранні та пізніші часи. Коливальну поведінку можна моделювати як p (t) = p | sint |. Обидві моделі дуже простежуються і їх можна вирішити з максимальною вірогідністю, але вони дають дуже різні рішення.0 $_0$$_0$$_0$

Ваша ймовірність змінюється на але, як сказав Майкл, ви не знаєте як. лінійно чи ні? Це виглядає як проблема вибору моделі, де ваша ймовірність :$t$$p$

$p=\Phi(g(t,\theta))$ може залежати від сильно нелінійної функції . - це лише обмежувальна функція, яка гарантує від 0 до 1 ймовірностей.$g(t,\theta)$$\Phi$

Простим дослідницьким підходом було б спробувати кілька пробітів для з різними нелінійними та виконати вибір моделі на основі стандартних інформаційних критеріїв.$\Phi$$g()$$g()$

Щоб відповісти на повторно відредаговане питання:

Як ви сказали, використання probit передбачає лише числові рішення, але замість цього ви можете використовувати логістичну функцію:

Логістична функція:$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

Лінійна лінія:$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

Я не впевнений, як це може працювати при підході фільтра Калмана, але все ж вважаю, що нелінійна специфікація, як або багато інших без випадкового терміна, буде виконати роботу. Як ви бачите, ця функція є "виправданою" в тому сенсі, що вона неперервна і диференційована. На жаль, додавання генерує стрибки результуючої ймовірності, чого ви не хочете, тому моєю порадою буде вийняти .ϵ $\theta(t+1)=a t^3 +bt^2+ct + d$$\epsilon$$\epsilon$

Логіт імовірності:$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

У вас уже є випадкові випадки в події bernoulli (ланцюг Маркова), і ви додаєте додаткове джерело для цього через . Таким чином, вашу проблему можна вирішити як Пробіт або Логіт, оцінені за максимальною ймовірністю з$\epsilon$$t$ як пояснювальною змінною. Я думаю, ви погоджуєтесь, що парситинг дуже важливий. Якщо ваша основна мета - застосувати заданий метод (HMM і Kalman Filter) і не дати найпростіше дійсне рішення вашої проблеми.