Я працював із взаємною інформацією деякий час. Але я знайшов зовсім недавній захід у «світі кореляції», який також можна використовувати для вимірювання незалежності розподілу, так звану «кореляцію відстані» (також названу броунівською кореляцією): http://en.wikipedia.org/wiki/Brownian_covariance . Я перевірив папери, де вводиться цей захід, але не знайшовши ніякої алюзії на взаємну інформацію.
Отже, мої запитання:
- Вони вирішують точно таку ж проблему? Якщо ні, то чим відрізняються проблеми?
- І якщо на попереднє питання можна відповісти позитивно, то які переваги використання того чи іншого?
Спробуйте записати чітко "кореляцію відстані" та "взаємну інформацію" для простого прикладу. У другому випадку ви отримаєте логарифми, тоді як у першому - ні.
—
Пьотр Мігдал
@PiotrMigdal Так, я знаю про цю різницю. Чи можете ви поясніть, чому це важливо? Будь ласка, врахуйте, що я не статистик ...
—
dsign
Для ma стандартним інструментом вимірювання взаємної залежності розподілів ймовірностей є взаємна інформація. Він має масу приємних властивостей, і його інтерпретація відверта. Однак можуть виникати конкретні проблеми, коли корелюється віддалене співвідношення (але я його ніколи в житті не використовував). То яка проблема, яку ви намагаєтеся вирішити?
—
Пьотр Мігдал
Цей коментар запізнюється на кілька років, але кафедра статистики університету Колумбії зробила навчальний рік 2013-2014 роком зосередженим на заходах залежності. У квітні-травні 2014 року було проведено семінар, який зібрав провідних науковців, які працюють у цій галузі, включаючи братів Решефів (MIC), Габора Шекелі (кореляції відстаней), Subhadeep Mukhopadhay. Ось посилання на програму, яка включає багато файлів pdfs з презентацій. залежність2013.wikischolars.columbia.edu/…
—
Майк Хантер