Яке призначення характерних функцій?

37

Я сподіваюся, що хтось може пояснити, мирянською мовою, що таке характерна функція та як вона використовується на практиці. Я читав, що це перетворення Фур'є у форматі pdf, тому, мабуть, я знаю, що це таке, але все ще не розумію його призначення. Якби хтось міг надати інтуїтивно зрозумілий опис своєї мети та, можливо, приклад того, як це зазвичай використовується, це було б фантастично!

Ще одна остання примітка: я побачив сторінку Вікіпедії , але, мабуть, занадто щільний, щоб зрозуміти, що відбувається. Що я шукаю - це пояснення того, що хтось, не занурений у чудеса теорії ймовірностей, скажімо, вчений-комп'ютер, міг би зрозуміти.

probability mathematical-statistics characteristic-function

— Нік
джерело

47

Ще в той час люди використовували таблиці логарифмів, щоб швидше перемножувати числа. Чому це? Логарифми перетворюють множення на додавання, оскільки . Отже, щоб помножити два великі числа і , ви знайшли їх логарифми, додали логарифми, , а потім шукали $\log(ab) = \log(a) + \log(b)$ $a$ $b$ $z = \log(a) + \log(b)$ $\exp(z)$ на іншій таблиці.

Тепер характерні функції роблять аналогічну подію для розподілу ймовірностей. Припустимо, має розподіл і має розподіл , а і незалежні. Тоді розподіл є сверткой з і , $X$ $f$ $Y$ $g$ $X$ $Y$ $X+Y$ $f$ $g$ $f * g$ .

Тепер характерна функція є аналогією "трюку таблиці логарифмів" для згортання, оскільки якщо - характерна функція , то має місце таке співвідношення: $\phi_f$ $f$

ϕ_{f} ϕ_{g} = ϕ_{f * g}

$\phi_f \phi_g = \phi_{f * g}$

Крім того, також як і в разі логарифмів, легко знайти зворотну характеристическую функцію: задану , де невідомої щільність, можна отримати з допомогою зворотного перетворення Фур'є . $\phi_h$ $h$ $h$ $\phi_h$

Характерна функція перетворює згортку в множення для функцій щільності так само, як логарифми перетворюють множення в додавання для чисел. Обидві перетворення перетворюють відносно складну операцію у відносно просту.

— charles.y.zheng
джерело

22

Other items worth mentioned: (a) Recovery of moments via differentiation, (b) the fact that all distributions have characteristic functions (as compared to moment-generating functions), (c) The (essentially) one-to-one correspondence between distributions and their characteristic functions, and (d) the fact that many relatively common distributions have known characteristic functions but no known expression for the density (e.g., Levy stable distributions).

— cardinal

3

Good comments, @cardinal. Please consider turning them into an actual reply.

— whuber

For those of you who understand this topic, is it at all related to Characteristic Equations, as used with recurrence relations (i.e. in Knuth's Concrete Math)? My guess is that they're very different and only share the word "characteristic" by chance, but I thought I'd ask.

— Wayne

@Wayne, ви повинні опублікувати це як питання. Я думаю, що існує тісний зв’язок: характерні функції виникають із перетворення Фур'є, що є Гелфандською трансформацією, пов'язаною з розподілами по реальній лінії. Характерне рівняння відношення рецидиву, схоже, виникає із функції, що генерує ймовірність, що є перетворенням Гельфанда, пов'язаним з натуральними числами. Змінні у відношеннях повторення можна вважати прийняттями значень на дискретних часових кроках, тобто натуральних числах.

— cantorhead

@ Wayne ... Отже, я думаю, що оператор, який приймає змінну у відношенні рецидиву до її характерного рівняння, можна розглядати як "Перетворення Фур'є", пов'язане з розподілами на натуральні числа. Я шукав і не знайшов цього питання, але мені було б дуже цікаво побачити відповіді, якщо ви його опублікували.

— cantorhead

6

@ charles.y.zheng і @cardinal дали дуже хороші відповіді, я додам свої два центи. Так, характерна функція може виглядати як непотрібне ускладнення, але це потужний інструмент, який може отримати результати. Якщо ви намагаєтесь щось довести за допомогою функції кумулятивного розподілу, завжди доцільно перевірити, чи неможливо отримати результат за допомогою характерної функції. Це іноді дає дуже короткі докази.

Хоча спочатку характерна функція виглядає неінтуїтивним способом роботи з розподілом ймовірностей, є деякі потужні результати, безпосередньо пов'язані з нею, що означає, що ви не можете відкинути це поняття як просто математичне розвагу. Наприклад, мій улюблений результат теорії ймовірностей полягає в тому, що будь-яке нескінченно поділене розподіл має унікальне уявлення Леві – Хінтчина . У поєднанні з тим, що нескінченно ділимі розподіли є єдино можливим розподілом для меж сум незалежних випадкових величин (виключаючи химерні випадки), це глибокий результат, за допомогою якого виведена центральна гранична теорема.

— mpiktas
джерело

3

Мета характерних функцій полягає в тому, що їх можна використовувати для отримання властивостей розподілів в теорії ймовірностей. Якщо вас не цікавлять такі виводи, вам не потрібно дізнаватися про характерні функції.

— одна зупинка
джерело

Я вважаю, що мене можуть зацікавити такі виводи - я просто не розумію, чому нам потрібно перейти до характерної функції? Чому це легше, ніж мати справу безпосередньо з pdf / cdf?

— Нік

1

@Nick This has a bit of folklore element, like "this is so elegant that this is THE representation of some distribution concept,...". Of course it helps with some maths, so it is not just a redundant toy, but for an everyday use it corresponds to a physicists forcing

ℏ

$\hbar$ to a classic problem just to use fine-structure constant.

Нам не потрібно їх використовувати. Я сказав лише, що ними можна користуватися. Іноді вони дають швидше виведення, іноді взагалі не допомагають. Чи буде виведення "простішим", залежить від того, що ви вже знаєте - якщо ви ще не знаєте про характерні функції, це не буде легше. У деяких випадках функції генерування моментів надають альтернативу та мають більш пряме тлумачення.

— onestop

2

The characteristic function is the Fourier transform of the density function of the distribution. If you have any intuition regarding Fourier transforms, this fact may be enlightening. The common story about Fourier transforms is that they describe the function 'in frequency space.' Since a probability density is usually unimodal (at least in the real world, or in the models made about the real world), this doesn't seem terribly interesting.

— shabbychef
джерело

1

Note: A potential editor claims that the "characteristic function is the inverse Fourier transform".

— gung - Reinstate Monica

-1

The Fourier transformation is a decomposition of the function (non-periodic) in its frequencies. Interpretation for densities?

Fourier transformation is the continuous version of a Fourier series since no density is periodic no expression like "characteristic series".

— niko schmith
джерело