Логарифмічна проти подвійна логарифмічна часова складність

У реальному застосуванні є конкретна користь при використанні $\mathcal{O}(\log(\log(n))$ замість $\mathcal{O}(\log(n))$ алгоритми?

Це той випадок, коли застосовують, наприклад, дерева van Emde Boas замість звичайних двійкових дерев пошуку. Але, наприклад, якщо взяти$n < 10^6$ то в кращому випадку подвійний логарифмічний алгоритм перевершує логарифмічний на (приблизно) коефіцієнт $5$. А також загалом реалізація більш складна і складна.

Зважаючи на те, що я особисто віддаю перевагу BST над VEB-деревами, як ти думаєш?

Можна легко продемонструвати, що:

$\qquad \displaystyle \forall n < 10^6.\ \frac{\log n}{\log(\log(n))} < 5.26146$

Не забувайте цього $\log n$ все ще росте експоненціально (в $\log(n)$) швидше за $\log(\log n)$!

Дійсно, якщо подивитися на коефіцієнт $\log(n)$ і $\log(\log(n))$, тут не так вже й багато вражаючих:

^{[ джерело ]}

Але все-таки ви отримуєте коефіцієнт від п'яти до шести для розмірів до $100000$. Зауважте, що більші розміри на практиці не рідкість, а прискорення за цим фактором є приголомшливим ! Це може змінити результат після обіду або лише завтра. Майте на увазі, що частина прискорення може бути з'їдена вищими константами реалізації дерева; вам доведеться побудувати (або проаналізувати)$c\cdot \log(n)$ і $d\cdot \log(\log(n))$ з $c,d$ фактичні константи виконання, щоб отримати реальну картину.

Крім того, важливо те, що згадує Дейв: якщо операція, що просунулася таким чином, виконується, скажімо, лінійно часто, постійні прискорення стають лінійними прискореннями, тобто ви можете зменшити провідну константу всього свого алгоритму! Як я вже говорив вище, це приголомшливо. Подивіться, що станеться, якщо запустити операцію$n$ разів:

^{[ джерело ]}

Тепер, якщо це не варто проблем, я не знаю, що.

Можна було б уявити, що різниця у складності насправді не так важлива і що важливіший фактичний час роботи. Але якщо алгоритм лежить в основі іншого алгоритму, то ця різниця може бути важливою.

З чисто теоретичного призначення різниця курсу має значення, особливо якщо алгоритм є частиною іншого. Він може поставити більший алгоритм в інший клас складності.

Я фактично сам орієнтувався на дерево Ван Емде-Боас один раз. Я порівнював його з AA Tree, хешмапом і трохи масивом.

Тести виконують sizeвставки з випадковими числами в інтервалі [0, bound], потім здійснюють sizeпошук, потім sizeвидалення та повторний sizeпошук. Видалення також робиться на випадкових числах, тому спочатку потрібно з’ясувати, чи вони взагалі є в структурі.

Ось результати ( size= 2000000, bound= 10000000) за секунди:

AATreeLookup - O(n log n)
Inserting... 3.3652452
Searching... 5.2280724
Deleting...  7.3457427
Searching... 9.1462039
HashLookup - O(n) expected
Inserting... 0.3369505
Searching... 0.6223035
Deleting...  0.9062163
Searching... 1.1718223
VanEmdeBoasTree - O(n log log n)
Inserting... 0.7007531
Searching... 1.1775800
Deleting...  1.7257065
Searching... 2.2147703
ArrayLookup - O(n)
Inserting... 0.0681897
Searching... 0.1720300
Deleting...  0.2387776
Searching... 0.3413800

Як бачите, дерева ван Емде-Боаса приблизно вдвічі повільніші за хеш-карти, в десять разів повільніші за бітові масиви і в 5 разів швидші, ніж двійкові дерева пошуку.

Звичайно, вищезазначене потребує відмови від відповідальності: тести є штучними, ви можете, можливо, покращити код або використовувати іншу мову з компілятором, вихід якого швидший, і так далі, і так далі.

Ця відмова від відповідальності лежить в основі причини, коли ми використовуємо асимптотичний аналіз при розробці алгоритмів: оскільки ви поняття не маєте, що таке константи і як константи можуть змінюватися залежно від факторів навколишнього середовища, найкраще, що ми можемо зробити, - це асимптотичний аналіз.

Тепер у випадку з $\log n$ проти $\log \log n$: у наведеному вище прикладі моє дерево мій ван Емде-Боас вміщене $2^{32}$ елементів. $\log 2^{32} = 32$, і $\log 32 = 5$, що є поліпшенням фактору 6, що на практиці зовсім небагато. Крім того, у дерев ван Емде-Боаса є хороші постійні чинники (все це стосується постійних факторів на практиці для відмінностей цього невеликого рівня), оскільки їм не потрібно врівноважувати себе.