"З тих пір

Коротке запитання: Чому це правда ??

Довге запитання:

Дуже просто, я намагаюся з'ясувати, що виправдовує це перше рівняння. Автор книги, яку я читаю, (контекст тут, якщо ви цього хочете, але не потрібно), стверджує таке:

Зважаючи на припущення про майже-гауссованість, ми можемо написати:

$p_{0} (ξ) = А ϕ (ξ) е х p (а_{н + 1} ξ + (а_{н + 2} + \frac{1}{2}) ξ^{2} + \sum_{i = 1}^{н} а_{i} Г_{i} (ξ))$ $p_0(\xi) = A \; \phi(\xi) \; exp( a_{n+1}\xi + (a_{n+2} + \frac{1}{2})\xi^2 + \sum_{i=1}^{n} a_i G_i(\xi))$

Де - PDF ваших спостережуваних даних, що має максимальну ентропію, враховуючи, що ви спостерігали лише ряд очікувань, (прості числа) , де , і - PDF стандартизованої гауссової змінної, тобто 0 середньої та одиничної дисперсії. $p_0(\xi)$ $c_i, i = 1 ... n$ $c_i = \mathbb{E}\{G_i(\xi)\}$ $\phi(\xi)$

Де все це відбувається, це те, що він використовує вищевказане рівняння як вихідну точку для спрощення PDF, , і я отримую, як він це робить, але я не розумію, як він виправдовує вищевказане рівняння, тобто, вихідна точка. $p_0(\xi)$

Я намагався тримати це коротко, щоб нікого не заблудити, але якщо ви хочете отримати додаткові деталі, будь ласка, повідомте мене в коментарях. Дякую!

— Космічний
джерело

(Примітка. Я змінив ваш $\xi$ до $x$ .)

Для випадкової величини $X$ з щільністю $p$ , якщо у вас є обмеження

\int Г_{i} (х) p (х) г х = c_{i},

$\int G_i(x)\,p(x)\,dx=c_i \, ,$ для

i = 1, \dots, n

$i=1,\dots,n$ , максимальна щільність ентропії -

p_{0} (х) = А досвід (\sum_{i = 1}^{н} а_{i} Г_{i} (х)),

$p_0(x)=A\exp\left(\sum_{i=1}^n a_iG_i(x)\right) \, ,$ де

a_{i}

$a_i$ визначаються з

c_{i}

$c_i$ і, і

A

$A$ є постійною нормалізацією.

У цьому контексті наближення Гаусса ("майже-гауссіантність") означає дві речі:

1) Ви приймаєте запровадити два нові обмеження: середнє значення $X$ є $0$ і дисперсія є $1$ (сказати);

2) Відповідне $a_{n+2}$ (див. нижче) набагато більший за інші $a_i$ 's.

Ці додаткові обмеження представлені як

G_{n + 1} (x) = x, c_{n + 1} = 0,

$G_{n+1}(x)=x \, , \qquad c_{n+1}=0 \, ,$

G_{n + 2} (x) = x^{2}, c_{n + 2} = 1,

$G_{n+2}(x)=x^2 \, , \qquad c_{n+2}=1 \, ,$ врожайний

p_{0} (х) = А досвід (а_{н + 2} х^{2} + а_{н + 1} х + \sum_{i = 1}^{н} а_{i} Г_{i} (х)),

$p_0(x)=A\exp\left(a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$ який можна переписати як (просто "додати нуль" до експонента)

p_{0} (х) = А досвід (\frac{х^{2}}{2} - \frac{х^{2}}{2} + а_{н + 2} х^{2} + а_{н + 1} х + \sum_{i = 1}^{н} а_{i} Г_{i} (х)),

$p_0(x)=A\exp\left(\frac{x^2}{2} - \frac{x^2}{2} + a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$ що веде до того, що ви хочете:

p_{0} (х) = А^{'} ϕ (х) досвід (а_{н + 1} х + (а_{н + 2} + \frac{1}{2}) х^{2} + \sum_{i = 1}^{н} а_{i} Г_{i} (х));

$p_0(x)=A'\,\phi(x)\exp\left(a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, ;$ готовий бути Тейлором розширеним (використовуючи другу умову наближення Гаусса).

Робимо наближення, як фізик (це означає, що нам не байдуже порядок терміна помилки), використовуючи $\exp(t)\approx 1+t$ , маємо приблизну щільність

p_{0} (х) \approx А^{'} ϕ (х) (1 + а_{н + 1} х + (а_{н + 2} + \frac{1}{2}) х^{2} + \sum_{i = 1}^{н} а_{i} Г_{i} (х)) .

$p_0(x) \approx A'\,\phi(x)\left(1+a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, .$ Для закінчення ми маємо визначитися

A^{'}

$A'$ та значення

a_{i}

$a_i$ 's. Це робиться, накладаючи умови

\int p_{0} (х) г х = 1, \int х p_{0} (х) г х = 0, \int х^{2} p_{0} (х) г х = 1

$\int p_0(x)\,dx=1 \, , \qquad \int x \,p_0(x)\,dx=0 \, , \qquad \int x^2 \,p_0(x)\,dx=1$

\int Г_{i} (х) p_{0} (х) г х = c_{i}, i = 1, \dots, н,

$\int G_i(x)\, p_0(x)\,dx=c_i \, , \quad i=1,\dots,n \, ,$ отримати систему рівнянь, рішення якої дає

A^{'}

$A'$ і

a_{i}

$a_i$ 's.

Без встановлення додаткових умов на $G_i$ 's, я не вірю, що є просте рішення у закритому вигляді.

П. С. Мухаммед під час чату уточнив, що з додатковими умовами ортогональності для $G_i$ Ми можемо вирішити систему.

— Дзен
джерело

Дзен, велике спасибі Я (дещо) розумію зараз. Що мені незрозуміло, це те, що ви говорите "У цьому контексті наближення Гаусса (" майже-гауссова ") означає, що ви приймаєте вводити два нові обмеження: що середнє значення X дорівнює 0, а дисперсія - ) 1. " , Я не розумію, чому щось таке "біля гаусса" означає для нього

μ = 0

$\mu=0$ і

σ^{2} = 1

$\sigma^2=1$ . Що робити, якщо у тих самих значень, що трапилося, були такі самі?

— Спейсі

Привіт, Мухаммеде. Я додав більше інформації у відповідь. Щоб отримати колишній вираз

p_{0} (x)

$p_0(x)$ ви використовуєте лише те, що я назвав першою умовою наближення Гаусса. Ви будете використовувати другу умову, коли зробите це розширення Тейлора

p_{0} (x)

$p_0(x)$ . Я сподіваюся, що це допомагає.

— Дзен

Не хотіли б ви розмістити як коментар остаточний вираз для

p_{0} (x)

$p_0(x)$ після того як ви зробите решту обчислень? Дякую.

— Дзен

так, він говорить, що остаточним виразом є:

p_{0} (z) \approx ϕ (z) (1 + \sum_{i = 1}^{N} c_{i} F_{i} (z))

$p_0(z) \approx \phi(z) (1 + \sum_{i=1}^{N} c_i F_i(z))$

— Спейсі

Я думаю, що в останньому рівнянні є помилка друку? ...

a_{n + 1} x

$a_{n+1}x$ відбувається двічі? ...

— Спейсі