Чому аналіз Фур’є булевих функцій "працює"?


60

Протягом багатьох років я звик бачити, що багато теорем TCS було доведено за допомогою дискретного аналізу Фур'є. Перетворення Уолша-Фур'є (Адамара) корисне практично у кожному підполі TCS, включаючи тестування властивостей, псевдовипадковість, складність зв'язку та квантові обчислення.

Хоча мені було зручно використовувати аналіз Фур’є булевих функцій як дуже корисний інструмент, коли я вирішую проблему, і хоча у мене є досить хороший підказник, для яких випадки, що використовують аналіз Фур’є, ймовірно, дадуть хороші результати; Я мушу визнати, що я не дуже впевнений, чим саме ця зміна бази настільки корисна.

Хтось має інтуїцію щодо того, чому аналіз Фур’є настільки плідний у дослідженні TCS? Чому стільки, здавалося б, важких проблем вирішують, написавши розширення Фур'є і виконавши деякі маніпуляції?

Зауважте: поки що моя головна інтуїція, мізерна, це те, що ми маємо досить добре розуміння того, як ведуть себе поліноми, і що перетворення Фур'є є природним способом розгляду функції як багатолінійного многочлена. Але чому саме ця база? що так унікального в основі паритетів?


8
Пейджинг @ ryan-odonnell
Суреш Венкат

3
Одна з думок, яка плавала навколо 90-х, полягає в тому, що, можливо, буде працювати й інша основа функцій, можливо, імітуючи успіх вейвлетів у класичному гармонічному аналізі. Але я не бачив, щоб цю ідею переконували.
Гіл Калай

Відповіді:


63

f:{0,1}nRσww{0,1}nf(x)f(x+w). У багатьох питаннях про TCS існує основна потреба проаналізувати вплив, який такі оператори мають на певні функції.

Тепер справа в тому, що основа Фур'є - це основа, яка одночасно діагоналізує всіх цих операторів, що робить аналіз цих операторів набагато простішим. Загалом, основа Фур'є діагоналізує оператора згортки, що також лежить в основі багатьох із цих питань. Таким чином, аналіз Фур'є, ймовірно, буде ефективним, коли потрібно проаналізувати ці оператори.

f:GCGσhhGf(x)f(xh)


6
це відмінна відповідь.
Суреш Венкат

2
(f(x),f(x+w1),f(x+w2),f(x+w1+w2))

3
Що ви маєте на увазі під діагоналізацією оператора?
Джон Моеллер

10
f

1
цікаво, що навіть програми для вивчення хунтів можна зрозуміти з точки зору операторів згортання: хунта дорівнює її зображенню під оператором, що в середньому перевищує входи, що не погоджуються за невідповідними координатами. цей оператор є оператором згортки і є рідким в області фур'є. це загальна тема: коли функція "співвідноситься із самим собою", вона просить підхід на основі
фур'є

6

Тут може бути ще одна думка щодо цього питання.

Якщо припустити, що псевдо булева функція є k-обмеженою, поліноміальне уявлення Уолша може бути розложене на k підфункції. Всі лінійні члени збираються в одну підфункцію, всі парні взаємодії в одну підфункцію, потім тристоронні взаємодії тощо.

Кожна з цих підфункцій є "елементарним пейзажем", і тому кожна з підфункцій є власним вектором матриці суміжності Лаплаціа (тобто сусідство відстані 1 Хеммінга). Кожна підфункція має відповідне "хвильове рівняння" типу, що зустрічається у всіх елементарних ландшафтах. За винятком тепер є k хвильових рівнянь, які діють комбіновано.

Знання хвильових рівнянь дає можливість статистично охарактеризувати відповідний простір пошуку досить точними способами. Ви можете обчислити середню та відмінність і перекосити довільні (експоненціально великі) кулі Хеммінга та над довільними гіперпланами простору пошуку.

Дивіться роботу Пітера Штадлера про Елементарні пейзажі.

Ендрю Саттон і я (Даррелл Вітлі) працювали над використанням цих методів для розуміння та вдосконалення локальних алгоритмів пошуку для псевдобулевої оптимізації. Ви можете використовувати поліноми Уолша, щоб автоматично ідентифікувати вдосконалені рухи для локальних алгоритмів пошуку. Ніколи не виникає необхідності випадковим чином перераховувати райони пошукового простору. Аналіз Уолша може безпосередньо сказати вам, де розташовані поліпшувальні рухи.


4
Чи можете ви надати деякі вказівки на роботу, яку ви цитуєте?
Андраш Саламон

2

великої відповіді на це питання, ймовірно, ще не існує, оскільки це порівняно молода і дуже активна область досліджень. наприклад, вичерпна книга Ingo Wegeners про булеві функції з 1987 року не має нічого з цього питання (крім аналізу складності схеми DFT).

Проста інтуїція чи здогадка полягає в тому, що виявляється, що великі коефіцієнти Фур'є більш високого порядку вказують на наявність підфункцій, які повинні враховувати багато вхідних змінних і тому потребують багатьох воріт. тобто розширення Фур'є, очевидно, є природним способом кількісного вимірювання твердості булевої функції. я не бачив цього безпосередньо доведеного, але думаю, що це натякнуло на багато результатів. наприклад, нижня межа Храпченкоса може бути пов'язана з коефіцієнтами Фур'є. [1]

інша груба аналогія може бути запозичена в ЕЕ або інших інженерних галузях певною мірою, де аналіз Фур'є широко використовується. його часто використовують для ЕЕ-фільтрів / обробки сигналів . коефіцієнти Фур'є являють собою певну "смугу" фільтра. історія там також полягає в тому, що "шум", здається, проявляється в конкретних діапазонах частот, наприклад, низьких або високих. У КС аналогія «шуму» - це «випадковість», але також зрозуміло, що з багатьох досліджень (досягнувши віхи, наприклад, [4]), що випадковість в основному така ж, як і складність. (в деяких випадках "ентропія" також виявляється в тому ж контексті.) Аналіз Фур'є, здається, підходить для вивчення "шуму" навіть у налаштуваннях CS. [2]

інша інтуїція або картина походить від теорії голосування / вибору. [2,3] корисно проаналізувати булеві функції як такі, що мають підкомпоненти, які "голосують" і впливають на результат. тобто аналіз голосування - це свого роду система декомпозиції функцій. це також використовує деяку теорію голосування, яка досягла висот математичного аналізу і яка, очевидно, передує використанню багато Фур'є-аналізу булевих функцій.

Крім того, концепція симетрії виявляється найважливішою в аналізі Фур'є. чим сильніше "симетрична" функція, тим більше коефіцієнт Фур'є скасовується, а також тим "простішою" функцією є обчислення. але також чим більше "випадкова" і, тим складніша функція, тим менше коефіцієнти скасовуються. Іншими словами, симетричність і простота, і, навпаки, асиметрія та складність функції, здається, узгоджуються таким чином, щоб аналіз Фур'є міг вимірювати.

[1] Про аналіз Фур'є булевих функцій Бернасконі, Коденотті, Саймона

[2] Короткий вступ до аналізу Фур'є на булевій кубі (2008) Де Вольфа

[3] Деякі теми щодо аналізу булевих функцій О'Доннелла

[4] Природні докази Розборова та Рудича


3
дивіться також онлайн-книгу Аналіз булевих функцій О'Доннелл
vzn

повторно гіпотеза про складність булевого fn, відображена в "спектрі потужностей" над коефіцієнтами Фур'є - природне продовження відомих результатів у папері Лініяла Мансура Нісана, контури постійної глибини, перетворення Фур'є та навчальність . реферат: "головний результат полягає в тому, що AC ^ 0 булевий fn має більшу частину свого" спектра потужності "за коефіцієнтами низького порядку"
vzn

2
є хороший огляд аналізу фур’є в ch2 книги юкни, складності булевої функції, прогресу та кордонів , в якій вказано, що коефіцієнти фур'є співвідносяться з функціями паритету, обчисленими для підмножини вхідних змінних.
vzn

2
Чому ця відповідь так сильно заперечується?
користувач834
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.