Імовірність журналу проти добутку ймовірностей


17

Відповідно до цієї статті у вікіпедії , можна представити добуток ймовірностей x⋅yяк -log(x) - log(y)зробити обчислення більш обчислювально оптимальними. Але якщо я спробую приклад, скажіть:

p1 = 0.5
p2 = 0.5
p1 * p2 = 0.25
-log(p1) - log(p2) = 2

p3 = 0.1
p4 = 0.1
p3 * p4 = 0.01
-log(p3) - log(p4) = 6.64

Добуток ймовірностей p1і p2вище, ніж коефіцієнт p3та p4, але ймовірність журналу нижча.

Як це?


2
Що не так? Менші ймовірності будуть давати великі значення , тому що зростає від 0 при р = 1 в напрямку , як р 0 . logp0p=1p0
Діліп Сарват

5
(+1) Чому зворотний голос? Я думаю, що це добре написане тематичне питання, хоч і дуже елементарне.
Juho Kokkala

@DilipSarwate моя проблема не в математичній частині, а саме в цьому способі представлення ймовірностей. Можливо, це просто питання, щоб з цим було комфортно.
spacemonkey

Відповіді:


22

Я боюся, що ви неправильно зрозуміли, що має намір стаття. Це не є великим сюрпризом, оскільки це дещо незрозуміло написано. Тут відбуваються дві різні речі.

Перший - просто працювати в масштабі журналу.

Тобто замість " " (коли у вас є незалежність) можна замість цього написати " log ( p A B ) = log ( p A ) + log ( p B ) ". Якщо вам потрібна фактична ймовірність, ви можете в кінці експоненції повернути p A B :pAB=pApBlog(pAB)=log(pA)+log(pB)pABpAB=elog(pA)+log(pB),

logplogp

logp1<p2log(pA)<log(p2)logp

logp

si=log(pi)spAB=e[sA+sB]. As you see, that reverses direction a second time, giving us back what we need.


2
+1 "Think of negative log probability as a scale of "rarity" - the larger the number, the rarer the event is"
Zhubarb
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.