Складність обчислення дискретного перетворення Фур'є?

Яка складність (на стандартній цілочисленній ОЗУ) обчислення стандартного дискретного перетворення Фур'є вектора з $n$ цілих чисел?

Класичний алгоритм швидких перетворень Фур'є , невідповідно ^[1] приписуваний Кулі та Тукі, зазвичай описується як запущений в $O(n \log n)$ час. Але більшість арифметичних операцій, виконаних у цьому алгоритмі, починаються зі складних $n$ х коренів єдності, які є (для більшості $n$ ) ірраціональними, тому точне оцінювання в постійному часі не є розумним. Це ж питання виникає з алгоритмом наївного часу $O(n^2)$ (множення на матрицю Вандермонде на складні корені єдності).

Навіть не зрозуміло, як точно представити вихід DFT (у будь-якій корисній формі). Іншими словами, незрозуміло, що обчислення DFT насправді можливо!

Тому припустимо , нам потрібно тільки $b$ біт точності в кожній вихідної величини. У чому полягає складність обчислення дискретного перетворення Фур'є як функції і ? $n$$b$ (Для конкретності не соромтеся вважати, що - сила 2. )$n$$2$

Або кожен приклад "FFT" в літературі насправді означає "швидке число-теоретичне перетворення "? ^[2]

Дивіться мої пов'язані питання щодо складності ліквідації Гаусса та найкоротших евклідових шляхів .

_{^[1] Справді слід назвати алгоритм Гаусса-Рунге-Кеніга-Йейта-Штумпфа-Даніельсона-Ланчоса-Кулі-Тукі.}

_{^[2] І якщо так, то чому більшість підручників описують лише алгоритм складних чисел?}

Ця відповідь є варіантом аналізу першого алгоритму («Метод А») Шенгаге та Штрассена для множення довгих цілих чисел.

Припустимо, ми хочемо обчислити FFT довжиною . Масштабуйте свій вхід таким чином, щоб усі значення були меншими за 1. Спочатку припустимо, що ми обчислюємо m- бітну арифметику з фіксованою точкою ( m біт після двійкової точки). Нехай δ = 2 1 / 2 - м бути ( "комплекс") одиниця найменшого положення. Нехай ω = exp ( 2 π i / K ) .$K = 2^k$$m$$m$$\delta = 2^{1/2 -m}$$\omega = \exp(2\pi i/K)$

1) Можна обчислити наближення таким, що | ω ′ j - ω j | ≤ ( 2 k - 1 ) δ для всіх 0 ≤ j ≤ K - 1 . Це можна зробити за час O ( K M ( m ) ), де M ( m ) - час, необхідний для множення m- бітних чисел. (див. Кнут т. 2, 3-е видання, стор. 309).$\omega_j'$$|\omega_j' - \omega^j| \le (2k-1)\delta$$0 \le j \le K-1$$O(K M(m))$$M(m)$$m$

Якщо стандартна ціла оперативна пам'ять означає логарифмічну вартість, то . Якщо стандартна ціла ОЗП означає слово ОЗУ, то M ( m ) = O ( m ) . (Шенхаге та Страссен показують у "Методі А", як зменшити в лінійний час множення m- бітових чисел на m множення бітних чисел O ( log m ) . Останнє можна зробити за одиницю витрат.)$M(m) = O(m \log m)$$M(m) = O(m)$$m$$m$$O(\log m)$

2) Класичний Cooley-Tukey FFT обчислює операції виду . Ми використовуємо m- бітну арифметику з фіксованою точкою, ці операції стають a ' = t r u n c a t e ( b ' + ω ′ j c ' ) . Якщо ми знаємо , Ь ' і C ' до помилки е , ми отримуємо ' до помилки 2 ε + $a = b + \omega^j c$$m$$a' = truncate(b' + \omega_j' c')$$b'$$c'$$\epsilon$$a'$ .$2\epsilon + 2k\delta$

3) За допомогою індукції легко побачити, що ми отримуємо кінцевий результат з помилкою . Для отримання точності b врешті-решт, m ≥ k + log k + b + O ( 1 ) . $(2^k - 1) \cdot 2k\delta$$b$$m \ge k + \log k + b + O(1)$

4) Таким чином, кінцевим часом роботи є .$O(K k M(k+b))$

Це також повинно працювати з числами з плаваючою комою: 1) все ще можна робити з арифметикою з фіксованою точкою, 2) також справедливо для чисел з плаваючою комою.

В умовах арифметики з фіксованою точкою, я думаю, це навіть можна зробити швидше. Спочатку ми зводимо обчислення FFT до множення многочленів за допомогою трюку Блюстейна. Довжина коефіцієнтів, необхідних для отримання бажаної точності, повинна бути . Тоді ми зводимо множення многочленів на множення довгих цілих чисел. (Додайте коефіцієнти до довгого числа і розділіть їх на блоки нуля довжини O ( k + b ) . Довжина цілих чисел дорівнює O ( K ( k + b ) ) .$O(k + b)$$O(k+b)$$O(K(k+b))$

Це не повна відповідь, але я можу вказати на деякі відповідні документи, а також частково пояснити, чому не так просто витягнути відповідь на своє конкретне питання з літератури.

Дозвольте почати із запитання: чому ви хочете знати відповідь на це питання? Зазвичай люди, які виявляють турботу про подібні проблеми, - це ті, хто стикається з реальною реалізацією високоефективної FFT для практичного застосування. У деяких ідеалізованих обчислювальних моделях такі люди менше піклуються про асимптотичну складність, ніж про досягнення максимальної продуктивності при їх конкретних апаратних та програмних обмеженнях. Наприклад, розробники " Найшвидшого перетворення Фур'є на Заході" пишуть у своєму документі:

Найкращий вибір залежить від апаратних деталей, таких як кількість регістрів, затримка та пропускна здатність інструкцій, розмір та асоціативність кешів, структура трубопроводу процесора тощо.

Це питання, які теоретики, як правило, не хочуть кинути на руки, але вони мають велике значення в реальних реалізаціях. Якщо теоретик заявляє: "Я визначив абсолютну найкращу асимптотичну бітову складність в моделі оперативної пам'яті", практик може сказати: "Це добре", але може вважати такий теоретичний результат марним для своїх цілей.

Сказавши це, я вважаю, що найкраще поглянути на літературу з числового аналізу. Наприклад, Tasche і Zeuner уважно ознайомилися з числовою стійкістю алгоритму FFT. Це все ще може бути не саме тим, що ви хочете, тому що загальний консенсус серед практикуючих видається таким, що для досягнення заданої кількості числової точності найкращим практичним підходом є попереднє обчислення певних чисел, званих "коефіцієнтами подвійності", до високої точності. Якщо ви робите лише один FFT, це не буде найшвидшим підходом, оскільки вам не вдасться амортизувати вартість свого одноразового попереднього обчислення за велику кількість обчислень FFT. Тим не менш, їх аналіз найгіршої помилки заокруглення все ще повинен відповідати вашому питанню.