Розуміння вимірюють нерівності концентрації


12

В дусі цього питання Розуміючи докази леми, що використовується в нерівності Геффдінга , я намагаюся зрозуміти кроки, які призводять до нерівності Геффдінга.

Найбільш загадковою для мене є доказ - це частина, де обчислюються експоненціальні моменти для сукупності змінних iid, після яких застосовується нерівність Маркова.

Моя мета полягає в тому, щоб зрозуміти: Чому цей прийом дає жорстку нерівність, і чи це найсильніша ми можемо досягти? Типове пояснення стосується моментів, що генерують властивості експонента. Але я вважаю це занадто розпливчастим.

Публікація в блозі Тао, http://terrytao.wordpress.com/2010/01/03/254a-notes-1-concentration-of-measure/#hoeff , може дати відповіді.

Маючи на увазі цю мету, моє запитання стосується трьох пунктів у посту Дао, про які я застряг, і які, сподіваюся, зможуть дати зрозуміти, як тільки буде пояснено.

  1. Дао отримує таку нерівність, використовуючи k-й момент Якщо це справедливо для будь-якого k, він робить висновок експоненціальної межі. Тут я загубився. P(|Sn|λ

    P(|Sn|λn)2(ek/2λ)k.     (7)
    P(|Sn|λn)Cexp(cλ2)     (8)
  2. X[a,b]t>0

    EetXetEX(1+O(t2Var(X)exp(O(t(ba)))).     (9)
    EetXetEXexp(O(t2(ba)2)).     (10)
    etX=1+tX+O(t2X2exp(O(t))) . Чому розширення може бути обмежене цим квадратичним членом? і як слідує рівняння 10?

  3. O(t2(ba)2)t2(ba)2/8

Будь-які подальші інтуїції \ пояснення щодо доказу нерівності або причини, з якої ми не можемо отримати більш жорстку межу, безумовно, вітаються.


Чи читали ви оригінальний папір Гоффдінга?
Алекос Пападопулос

@AlecosPapadopoulos Я насправді цього не зробив. Мені здається, що виведення там складається з алгебраїчних етапів, як правило, викладаються на математичних курсах, не вистачаючи пояснень, які я шукаю. Ви можете сказати інакше?
Лев

Я пропоную вам прочитати його. Стабільний URL в jstor - jstor.org/stable/2282952 . Те, що «вам найбільше таємниче», - це теореми 1, 2 та 3 статті, докази яких є у розділі 4 статті (а не в кінці), і вони мені виглядають досить чітко. Я не знаю, чи шукаєте ви якусь "нематематичну" інтуїцію - якщо так, вона не завжди існує.
Алекос Пападопулос

Відповіді:


3

EeXEXXEeXEXEeXEeXeX=1+X+X22+X36+XEXX


2
f0eXf(X)

1
ff(x)>0XeX

1
Я не розглядав це, але підозрюю, що експоненція користується певними властивостями, включаючи ті, кого ви назвали, які є критичними: всі коефіцієнти повинні бути суворо позитивними, і зручно, що вона конвергується абсолютно скрізь. Але я вважаю, що є більш глибокі причини, чому ця функція є важливою, пов'язаною з властивостями перетворень Фур'є та Лапласа. Це може бути ілюмінацією, щоб вивчити похідні нерівності міри, щоб побачити, які властивості експоненції насправді використовуються! (+1)
whuber

P{x1+x2>0}=E{1[x1+x2>0]}E{exp(tx1)}E{exp(tx2)}E{exp(tx1)}<1

Мені хотілося б зацікавити вас питанням про обмеженість цієї межі: stats.stackexchange.com/questions/77019/…
Лев
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.