Запитання з тегом «perplexity»

Я зіткнувся з недоумінням терміна, який відноситься до усередненої в журналі зворотної ймовірності на небачені дані. Стаття у Вікіпедії про недоумкування не надає інтуїтивного значення для того ж. Ця міра невдоволення була використана в папері pLSA . Чи може хтось пояснити необхідність та інтуїтивне значення міри здивування ?

42 measurement  perplexity 

Намагаючись зрозуміти взаємозв'язок між перехресною ентропією та недоумінням. Загалом для моделі M , Perplexity (M) = 2 ^ ентропія (M) . Чи стосується ця залежність для всіх різних n-грамів, тобто уніграма, біграми тощо?

10 natural-language  entropy  perplexity