Алгоритмічна інтуїція логарифмічної складності

59

Я вважаю, що я розумію такі складності, як , та . $\mathcal{O}(1)$ $\Theta(n)$ $\Theta(n^2)$

З точки зору списку, - це постійний пошук, тому це просто отримання голови списку. - це те, де я пройду весь список, а - лише один раз для кожного елемента списку. $\mathcal{O}(1)$ $\Theta(n)$ $\Theta(n^2)$

Чи існує подібний інтуїтивно зрозумілий спосіб зрозуміти крім того, щоб просто знати, що він лежить десь між та ? $\Theta(\log n)$ $\mathcal{O}(1)$ $\Theta(n)$

— Ханзор
джерело

8

log n призначений для "пошуку": думати про бінарний пошук

— Суреш,

2

Використовувати

для того, щоб задати це питання, неправильно, оскільки воно позначає лише верхню межу. Наприклад, постійний час -

.

було б більш доречним. Див мета питання: meta.cs.stackexchange.com/questions/182 / ...

O

$O$

O (\log n)

$\mathcal{O}(\log n)$

θ

$\theta$

— Aryabhata

1

Більше інформації про SO: що саме означає

?

O (\log n)

$O(\log n)$ .

— Ран Г.

Невелика примітка: У класичних налаштуваннях машини Тьюрінга всі алгоритми є

, оскільки їм потрібно прочитати кожен символ вхідної інформації хоча б один раз. Двійковий пошук можна здійснити в

оскільки ми обіцяємо, що, наприклад, список буде відсортований.

Ω (n)

$\Omega (n)$

O (\log n)

$O(\log n)$

— chazisop

1

Пізній внесок: за визначенням, логарифм

числа числа

- це лише кількість разів, коли ви множите

на себе, щоб отримати

.

b

$b$

n

$n$

b

$b$

n

$n$

. Наприклад,

b^{l} = n ⟺ l = l o g_{b} (n)

$b^l = n \iff l = log_b(n)$

. Отже, якщо у вас є число

і ви хочете дізнатися, що

просто продовжуйте ділити його на

поки ви не досягнете

(припустимо, що

є силою

для простоти). Кількість поділів дорівнює

. Алгоритми, що демонструють цю поведінку поділу, мають час виконання в

2^{3} = 8 ⟺ l o g_{2} (8) = 3

$2^3 = 8 \iff log_2(8) = 3$

n

$n$

l o g_{b} (n) = ?

$log_b(n) = ?$

b

$b$

1

$1$

n

$n$

b

$b$

l o g_{b} (n)

$log_b(n)$

.

O (l o g (n))

$O(log(n))$

— saadtaame

53

складність, як правило , пов'язані з підрозділом. Використовуючи списки як приклад, уявіть список, елементи якого відсортовані. Ви можете шукати в цьому списку в час - вам насправді не потрібно дивитись на кожен елемент через сортовану природу списку. $\Theta(\log n)$ $\mathcal{O}(\log n)$

Якщо ви подивитесь на елемент в середині списку і порівняєте його з шуканим елементом, ви можете відразу сказати, лежить він у лівій або правій половині масиву. Тоді ви можете просто взяти цю половину і повторити процедуру, поки не знайдете її або не потрапите до списку з 1 предметом, який ви тривіально порівняєте.

Ви можете бачити, що список фактично наполовину зменшує кожен крок. Це означає, що якщо ви отримаєте список довжиною , максимум кроків, необхідних для досягнення списку з одним елементом, становить . Якщо у вас є список з елементів, вам потрібно лише кроків, для списку вам потрібно лише кроків і т.д. $32$ $5$ $128 = 2^7$ $7$ $1024 = 2^{10}$ $10$

Як бачимо, показник у завжди показує кількість необхідних кроків. Логарифм використовується для "вилучення" саме цього показника, наприклад, . Він також узагальнює перелік довжин, які не є силами двох довгих. $n$ $2^n$ $\log_2 2^{10} = 10$

— Карел Петранек
джерело

4

Слід зазначити, що це лише в тому випадку, O(log n)якщо до списку є постійний час випадковий доступ. Що стосується більш типових реалізацій списку (пов'язані списки), цеO(n log n)

— asm

1

Двійковий пошук не працює у списках на відсутність покажчиків; зазвичай це робиться на масивах.

— Рафаель

Двійковий пошук добре працює у списках. Це просто безглуздо через те, що набагато складніше, ніж потрібно / корисне / практичне.

— Антон

@AndrewMyers Точніше шукати пов’язаний список

O (n)

$\mathcal{O}(n)$

— phant0m

1

@ phant0m Так, я трохи взяв мене, щоб зрозуміти, що припускаєш, що ти рухаєшся з поточної позиції, а не переходиш від початку кожен раз.

— асм

38

З точки зору (збалансованих) дерев (скажімо, бінарного дерева, тому всі є базою 2): $\log$

отримує корінь дерева $\Theta(1)$
- прогулянка від кореня до листа $\Theta(\log n)$
обходить усі вузли дерева $\Theta(n)$
- дії на всі підмножини двох вузлів на дереві, наприклад, кількість різних шляхів між будь-якими двома вузлами. $\Theta(n^2)$
- узагальнення вищезазначеного для будь-якого підмножини вузлів (для постійної ) $\Theta(n^k)$ $k$ $k$
- дії на всі можливі підмножини вузлів (підмножини всіх можливих розмірів, тобто .). Наприклад, кількість різнихпіддерев'я дерев. $\Theta(2^n)$ $k=1,2, \ldots, n$

— Ран Г.
джерело

5

Щоб додати до цього, інтуїція для

походить від двох речей: 1.) Повторність

Θ (l o g l o g n)

$\Theta(log\,log\,n)$

і 2.) Двійковий пошук за чимось розміром

тобто двійковим пошуком по висоті дерева.

T (n) = T (\sqrt{(} n)) + 1

$T(n) = T(\sqrt(n)) + 1$

l o g (n)

$log(n)$

— mcorley

17

Щоб був можливим, ви повинні мати можливість зменшити розмір проблеми пропорційно на деяку довільну суму стосовно при постійній роботі часу. $O(\log n)$ $n$

Наприклад, у разі двійкового пошуку ви можете зменшити розмір проблеми вдвічі при кожній операції порівняння.

Тепер чи потрібно скоротити розмір проблеми вдвічі, насправді ні. Алгоритм - це навіть якщо він може скоротити простір пошуку проблеми на 0,0001%, якщо відсоток і операція, яку він використовує для скорочення розміру проблеми, залишаються постійними, це алгоритм , це не буде швидким алгоритмом, але це все-таки з дуже великою постійною. (Припустимо, що ми говоримо про з базовим 2 журналом) $O(\log n)$ $O(\log n)$ $O(\log n)$ $\log n$

— Кен Лі
джерело

1

Що було б, якби "знижувальна сума" не була постійною?

— Свиш

O (\log n)

$O(\log n)$

Так, я мав на увазі, що проблемний простір пошуку завжди зменшувався, але не обов'язково з постійною швидкістю. Просто думав про те, "поки відсоток і операція, яку він використовує для скорочення розміру проблеми, залишається незмінною, це алгоритм O (log n)"; якщо вона мала іншу назву, якщо відсоток там не був постійним.

— Свиш

8

$n$

while n != 0:
   print n%2, 
   n = n/2

while $\log(n)$

— Pratik Deoghare
джерело

1

\log n

$\log n$

O (f (s))

$O(f(s))$

s

$s$

s = \log n

$s=\log n$

O (s)

$O(s)$

@jmad Справа. Але цей приклад дає вам інтуїцію у log (n).

— Pratik Deoghare

@jmad Я міг би використовувати алгоритм і для генерування випадкових чисел, але я хотів, щоб це було максимально просто.

— Pratik Deoghare

8

$\log(n)$ $1$ $n$ $1$ $n$ $\log(n)$

$100$ $2^{100}$ $2^{100}$ $2$ $100$ $100$ $2^{100}$ $2^{100}$ $2^{100}$

$100$ $2^{100}$ $100$ $2^{100}$ $2$ $100$ $2^{100}$ $100$ $2^{100}$ $\log(n)$ $n$

Звідки беруться експоненція та логарифми? Чому вони викликають такий великий інтерес до інформатики? Ви можете не помітити, але експоненція є скрізь. Ви сплатили відсотки по кредитній картці? Ви щойно заплатили Всесвіту за свій дім (Не так вже й погано, але крива підходить). Мені подобається думати, що експоненція походить від правила продукту, але інші можуть запропонувати більше прикладів. Що таке правило про товар, ви можете запитати; І я відповім.

$A$ $B$ $C$ $B$ $C$ $A$ $C$ $D$ $C$ $A$ $D$ $2\cdot 3\cdot 4$ $24$ $2^{10}$ $1024$ $2^{10}$ $10$ $10$ $2^{10}$ $10$ $1024$

$\log_2(n)$ $n$ $n$ $2^n$ $2$ $\log_b(n)$ $b$ $b$ $n$ $\log(n)$ $n$ $n$

$\log(n)$ $n$

— Раві
джерело

3

\log (n)

$\log(n)$

3

Я намагався дати інтуїцію, наскільки вона маленька.

— Раві

5

$O(\log n)$ $x$

Він все ще базується на розмірі списку, але вам потрібно лише відвідати частину елементів.

— розвідка
джерело

4

$\Theta(\lg^k n)$ $\Theta(\lg^{k+1} n)$

$\Theta(1)$ $\lg n$

Бінарний пошук алгоритм є класичним прикладом.

— Каве
джерело

1

Інтуїція полягає в тому, скільки разів ви можете вдвічі зменшити число, скажімо, n, перш ніж воно зменшиться до 1 - це O (lg n).

Для візуалізації спробуйте намалювати його як двійкове дерево та порахуйте кількість рівнів, вирішивши цю геометричну прогресію.

2^0+2^1+...+2^h = n

— user1234
джерело

\log n

$\log n$

n

$n$