У мене розпливчасте розуміння, що таке метод передачі повідомлення: алгоритм, який будує наближення до розподілу шляхом ітеративної побудови апроксимації кожного з факторів розподілу, обумовлених усіма наближеннями всіх інших факторів.
Я вважаю, що обидва є прикладами змінної передачі повідомлень та розповсюдження очікування . Що таке алгоритм передачі повідомлень більш чітко / правильно? Довідники вітаються.
Відповіді:
Оскільки ви просите довідок, я можу порекомендувати розділ 16 Девіда Маккея Information Theory, Inference, and Learning Algorithms. (вам не потрібно читати попередні 15 глав, щоб зрозуміти гл. 16) Книгу можна безкоштовно завантажити з веб-сайту автора (з дозволу видавця).
Для цікавого прикладу ознайомтесь із тезою Джона Вінна . Використовується алгоритм передачі повідомлень для загального навчання з різноманітним ансамблем - це дозволяє спростити побудову завдань, таких як ICA та PCA.
Можливо, стаття про поширення вірувань буде корисною.
У статті наведено опис того, як "повідомлення" передаються по краях у факторному графіку. Це "передача повідомлення" можна зробити для будь-якого графіка. Для дерев алгоритм є точним у тому сенсі, що він обчислює бажані граничні та спільні розподіли вузлів на дереві. Ітерації алгоритму для загальних графіків - це спроба створити наближення бажаних граничних або спільних розподілів.