Питання Перестановка та узагальнення
А, Б, і С є бінарними невідомими, можливі значення яких є 0 і 1. ДозволяєZi стояти за пропозицією "Значення Z є i". Також нехай ( X| Y) стенд за "Ймовірність того Х, враховуючи це Y". Що ( Аа| БбСcЯ), враховуючи це
- ( Аа1| Бб1Я) = і1 і ( Аа2| Сc2Я) = і2
- ( Аа1| Бб1Я) = і1 і ( Аа2| Сc2Я) = і2 і ( Б С| Я) = ( В | І) ( С| Я)
- ( Аа1| Бб1Я) = і1 і ( Аа2| Сc2Я) = і2 і ( А0| Я) = 12
- ( Аа1| Бб1Я) = і1 і ( Аа2| Сc2Я) = і2 і ( А0| Я) = 12 і ( Б С| Я) = ( В | І) ( С| Я)
і це Яне містить відповідної інформації, окрім того, що міститься в завданнях? Останній зв'язок умов 2 і 4 є скороченням заяви про незалежність
( ВjСк| Я) = ( Вj| Я) ( Ск| Я),j = 0 , 1k = 0 , 1
Розглядайте по черзі кожен із чотирьох випадків.
Відповіді
Випадок 1
Треба вказати розподіл ( А Б С| Я). Проблема недостатньо визначена, оскільки( А Б С| Я) вимагає вісім чисел, але у нас є лише три рівняння - дві задані умови та умова нормалізації.
За допомогою різних езотеричних засобів було показано, що розподіл, який слід призначити, коли інформація не визначає інакше рішення, є тим, який з усіх розподілів, що відповідають відомій інформації, має найбільшу ентропію. Будь-яке інше розповсюдження означає, що ми знаємо більше, ніж відома інформація, що, звичайно, є суперечливістю.
Тому нам потрібно лише призначити максимальний розподіл ентропії. Це простіше сказати, ніж зробити, і я не знайшов загального рішення закритої форми. Але конкретні рішення можна знайти за допомогою цифрового оптимізатора. Ми максимізуємо
- ∑i , j , k( АiБjСк| Я) лн( АiБjСк| Я)
з урахуванням обмежень
∑i , j , k( АiБjСк| Я) = 1
і
( Аа1| Бб1Я) = і1тобто∑к( Аа1Бб1Ск| Я)∑i , k( АiБб1Ск| Я)= у1
і
( Аа2| Сc2Я) = і2тобто∑j( Аа2БjСc2| Я)∑i , j( АiБjСc2| Я)= у2
Тепер застосуємо це до питання. Якщо у нас є
- "Особа жінка" ⟷ А1
- "У людини довге волосся" ⟷ Б1
- "У людини група крові AX3" ⟷ С1
потім a = 1, b = 1, c = 1, а1= 1, б1= 1, а2= 1, c2= 1, у1= 0,9, у2= 0,8, і ми виявляємо, що для рішення максимальної ентропії, ( А1| Б1С1Я) ≃ 0,932. Тому ймовірність того, що людина за шторою є жінкою, враховуючи, що у нього довге волосся та група крові AX3, становить 0,932.
Випадок 2
Тепер ми повторимо вправу з додатковим обмеженням, яке для даної людини, знаючи значення Б (стан волосся) не впливає на нашу оцінку вартості С(стан крові), і навпаки. Все так само, як у випадку 1, за винятком двох додаткових обмежень в оптимізації, а саме:
( В0| СлЯ)= ( В0| Я),l = 0 , 1
тобто
∑i( АiБ0Сл| Я)∑i , j( АiБjСл| Я)= ∑i , k( АiБ0Ск| Я),l = 0 , 1
Це дає ( А1| Б1С1Я) ≃ 0,936, тому ймовірність того, що людина за шторою є жінкою, враховуючи, що у нього довге волосся і група крові AX3, становить 0,936.
Випадок 3
Тепер ми видаляємо умову незалежності та замінюємо її попередньою умовою, що існує однаковий шанс того, що дана людина є чоловіком чи жінкою:
( А0| Я) = 12тобто∑j , k( А0БjСк| Я) = 12
Цього разу ( А1| Б1С1Я) ≃ 0,973, тому ймовірність того, що людина за шторою є жінкою, враховуючи, що у нього довге волосся та група крові AX3, становить 0,973.
Випадок 4
Нарешті ми знову вводимо обмеження незалежності випадку 2 і знаходимо це ( А1| Б1С1Я) ≃ 0,989. Тому ймовірність того, що людина за шторою є жінкою, враховуючи, що у нього довге волосся і група крові AX3, становить 0,989.