Чи існує відстань ймовірності, яка зберігає всі властивості метрики?

13

Вивчаючи відстань Кульбека - Лейблера, ми дізнаємось дуже швидко дві речі: це те, що вона не поважає ані трикутної нерівності, ані симетрії, необхідних властивостей метрики.

Моє запитання - чи є якась метрика функцій щільності ймовірності, яка б відповідала всім обмеженням метрики .

distributions distance metric

— Хорхе Лейтао
джерело

Зосередитись на щільності ймовірності - це зосередитись на «неправильному» об’єкті. Щодо метрики, то існують "класичні", наприклад, Леві (і пов'язана з ними метрика Ky Fan на випадкових змінних), Wasserstein разом з тими, близькими за духом до KL, наприклад, розбіжність Дженсена-Шеннона . Хоча в основному забувають історично, до відома , що в оригінальній KL папері , то розбіжність KL дійсно симетрична (хоча до сих пір не є метрикою).

— кардинал

1

@cardinal, ну, я не стільки в цій галузі, чи можете ви запропонувати, будь ласка, "правильний" об'єкт?

— Хорхе Лейтао

2

JC: Вибачте, поле для коментарів стало занадто малим для всіх, які я намагався помістити туди. Я мав би допрацювати. Функція кумулятивного розподілу виявляється більш загальним і природним об'єктом дослідження. :-)

— кардинал

@cardinal чому? ;)

— Хорхе Лейтао

19

$L^2$

— Джон Цзян
джерело

2

Це хороший документ, особливо цифра 1. Я зберігаю його копію для подальшого використання.

— Пт

7

Я вважаю, що відстань Землеподвижника , також відома як метрика Вассерштейна , є прикладом, який відповідає вашим вимогам.

— Пат
джерело

1

Існують деякі модифікації розбіжності KL, завдяки яким воно набуває деяких метричних властивостей (хоча і не всіх).

Наприклад, розбіжність Джефрі модифікує розбіжність KL, роблячи її симетричною.

Деякі особливі випадки див. [1]: "На жаль, традиційні заходи, засновані на розбіжності Куллбека – Лейблера (KL) та відстані Бттачарія, не задовольняють всім метричним аксіомам, необхідним для багатьох алгоритмів. У цій роботі ми пропонуємо модифікацію для KL дивергенція та відстань Бхаттачарія, для багатовимірної гауссової щільності, що перетворює два заходи в метрику відстані ".

[1] К. Абу-Мустафа та Ф. Феррі, "Примітка про метричні властивості для деяких заходів дивергенції: справа Гаусса", JMLR: Практикуми семінару та конференції 25: 1–15, 2012.

— користувач29652
джерело

0

Я думаю, що відповідь на питання можлива. Тому що нещодавно у 2017 р. Р. Фархадіан показав, що існує евристичний підмножина цілих чисел, що це метрика. Про його роботу дивіться за наступним посиланням: http://journals.univ-danubius.ro/index.php/oeconomica/article/view/4010

— MN
джерело