Я вивчаю оцінку максимальної ймовірності і читаю, що функція ймовірності є добутком ймовірностей кожної змінної. Чому саме продукт? Чому б не сума? Я намагався шукати в Google, але не можу знайти жодних змістовних відповідей.

https://en.wikipedia.org/wiki/Maximum_likelihood

Це дуже основне питання, і замість того, щоб використовувати формальну мову та математичні позначення, я спробую відповісти на нього на рівні, коли кожен, хто може зрозуміти питання, також може зрозуміти відповідь.

Уявіть, що у нас є гонка котів. Вони мають 75% ймовірність народитися білими, а 25% - ймовірними народитися сірими, інших кольорів немає. Крім того, вони мають 50% ймовірність мати зелені очі та 50% ймовірність мати блакитні очі, а колір пальто та колір очей не залежать.

Тепер давайте подивимось на послід восьми кошенят:

Ви побачите, що 1 з 4, або 25%, сірий. Також 1 з 2, або 50% мають блакитні очі. Тепер питання,

скільки кошенят сіре хутро і блакитні очі?

Ви можете їх порахувати, відповідь - одна. Тобто , або 12,5% з 8 кошенят.$\frac{1}{4} \times \frac{1}{2} = \frac{1}{8}$

Чому це відбувається? Тому що будь-яка кішка має ймовірність 1 до 4 бути сірою. Отже, виберіть чотирьох котів, і ви можете очікувати, що одна з них буде сірою. Але якщо ви вибираєте лише чотирьох котів із багатьох (і отримуєте очікувану цінність 1 сірого кота), той, який є сірим, має ймовірність 1 на 2 мати блакитні очі. Це означає, що від загальної кількості котів, яких ви вибрали, ви спочатку множите цілу суму на 25%, щоб отримати сірих котів, а потім ви помножили відібраних 25% всіх котів на 50%, щоб отримати тих із них, у яких блакитні очі. Це дає вам ймовірність отримати блакитнооких сірих котів.

Підсумовуючи їх, ви отримаєте , що робить або 6 із 8. На нашому малюнку це відповідає підсумовуванню коти, які мають блакитні очі, з кішками, які мають сіре хутро - і рахують одного сивого блакитноокого кошеня двічі! Такий розрахунок може мати своє місце, але він досить незвичний у ймовірних обчисленнях, і це точно не той, про який ви питаєте.$\frac{1}{4} + \frac{1}{2}$$\frac{3}{4}$

Незалежність між двома подіями означає, що виникнення однієї події не впливає на ймовірність настання іншої події. Отже, для будь-яких двох подій і у вибірковому просторі ми говоримо, що і є незалежними iff і Тепер більше, ніж про дві події ми говоримо, що події є незалежними iff для всіх підмножин .$A$$B$$S$$A$$B$$P(A$$B)=P(A\cap B) = P(A)P(B)$$A_1,A_2,...A_n$$P(\underset{i\in I}{\cap A_i})= \prod_{i\in I} P(A_i)$$I \subset [1,2,...,n]$

Ймовірно, ми припускаємо, що є вибірка з незалежних і однаково розподілених спостережень (iid), що надходять від розподілу з невідомою функцією щільності ймовірності, що означає, що ця функція щільності суглоба є .$x_1, x_2, …, x_n$$n$$f(x_1,x_2,...,x_n|\theta) = \prod_{i=1}^{i=n}f(x_i|\theta)$

За загальним припущенням незалежності, = .$P(A \cap B)$$P(A) P(B)$

Таким чином, якщо ви припускаєте, що всі ваші спостереження незалежні, то ймовірність спостереження всіх значень, які ви бачили, дорівнює добутку окремих ймовірностей.

Чому б не додати?

Тому що це явно не має сенсу. Припустимо, у вас є чверть і нікель, і ви хочете перевернути їх обох. Є 50% шансів, що чверть вийде головою, і 50% шансом, що нікель підійде головам. Якщо шанс обох піднятими головами був би сумою, це зробило б шанс на 100%, що, очевидно, неправильно, оскільки не залишає шансів для HT, TH та TT.

Навіщо множити?

Бо це має сенс. Коли ви помножите 50% шансу на те, що чверть вийде на голову, на 50% шансу, що нікель підійде до голови, ви отримаєте 0,5 х 0,5 = 0,25 = 25% шанс, щоб обидві монети були головами. З огляду на те, що є чотири можливі комбінації (HH, HT, TH, HT) і кожна однаково вірогідна, це ідеально підходить. Оцінюючи ймовірність виникнення двох незалежних подій, ми множимо їх індивідуальні ймовірності.

Я читаю ці публікації, тому що, як і в оригінальному плакаті, мені потрібно зрозуміти, чому fn " Ймовірність " є " Продуктом " щільності кожного значення вибірки - " x ". Читальна та логічна причина наведена у заголовку Принцип максимальної ймовірності Посилання: [ http://www-structmed.cimr.cam.ac.uk/Course/Likelihood/likelihood.html] Подальша цитата, математично визначена ймовірність. як ймовірність здійснення набору вимірювань (те саме посилання) Коротше кажучи, ймовірність того, що ви потрапили на зразок, який у вас є під рукою.

Мета методу максимальної ймовірності - знайти оцінювач, який максимізує ймовірність спостерігати певні значення змінної (ендогенна змінна). Саме тому ми мусимо помножити ймовірності виникнення.

Наприклад: уявіть, що кількість телефонних дзвінків, на які секретар може відповісти за годину, слідує за розподілом пуассона. Потім ви отримуєте 2 значення вибірки (5 телефонних дзвінків та 8 телефонних дзвінків на годину). Тепер ви повинні відповісти на це питання. Яке значення параметра, що забезпечує максимальну ймовірність одночасно спостерігати 5 та 8 телефонних дзвінків ?. Після цього спробуйте відповісти з вірогідністю дотримуватися всіх значень сам

Завдяки незалежним випадковим змінним,

f (y1 = 5 телефонних дзвінків) * f (y2 = 8 телефонних дзвінків) = ∏if (y, θ) = L (θ, y1, y2)

Нарешті, спробуйте відповісти, ймовірність спостерігати всі значення вибірки.