Імовірність журналу проти добутку ймовірностей


17

Відповідно до цієї статті у вікіпедії , можна представити добуток ймовірностей x⋅yяк -log(x) - log(y)зробити обчислення більш обчислювально оптимальними. Але якщо я спробую приклад, скажіть:

p1 = 0.5
p2 = 0.5
p1 * p2 = 0.25
-log(p1) - log(p2) = 2

p3 = 0.1
p4 = 0.1
p3 * p4 = 0.01
-log(p3) - log(p4) = 6.64

Добуток ймовірностей p1і p2вище, ніж коефіцієнт p3та p4, але ймовірність журналу нижча.

Як це?


2
Що не так? Менші ймовірності будуть давати великі значення , тому що зростає від 0 при р = 1 в напрямку ∞ , як р → 0 . −log⁡p0p=1∞p→0
— Діліп Сарват

5
(+1) Чому зворотний голос? Я думаю, що це добре написане тематичне питання, хоч і дуже елементарне.
— Juho Kokkala

@DilipSarwate моя проблема не в математичній частині, а саме в цьому способі представлення ймовірностей. Можливо, це просто питання, щоб з цим було комфортно.
— spacemonkey

Відповіді:


22

Я боюся, що ви неправильно зрозуміли, що має намір стаття. Це не є великим сюрпризом, оскільки це дещо незрозуміло написано. Тут відбуваються дві різні речі.

Перший - просто працювати в масштабі журналу.

Тобто замість " " (коли у вас є незалежність) можна замість цього написати " log ( p A B ) = log ( p A ) + log ( p B ) ". Якщо вам потрібна фактична ймовірність, ви можете в кінці експоненції повернути p A B :pAB=pA⋅pBlog⁡(pAB)=log⁡(pA)+log⁡(pB)pABpAB=elog⁡(pA)+log⁡(pB),

log⁡p−log⁡p

logp1<p2log⁡(pA)<log⁡(p2)−log⁡p

log⁡p

si=−log⁡(pi)spAB=e−[sA+sB]. As you see, that reverses direction a second time, giving us back what we need.


2
+1 "Think of negative log probability as a scale of "rarity" - the larger the number, the rarer the event is"
— Zhubarb
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.