Довільна точність цілочислового алгоритму квадратного кореня?

Чи є відомі підквадратичні алгоритми для обчислення підлоги квадратного кореня з nбілого цілого числа?

Наївний алгоритм був би чимось подібним

def sqrt(x):
    r = 0
    i = x.bit_length() // 2
    while i >= 0:
        inc = (r << (i+1)) + (1 << (i*2))
        if inc <= x:
            x -= inc
            r += 1 << i
        i -= 1
    return r

Для цього потрібні O(n)ітерації, кожне з яких включає доповнення, які є O(n)часом, так що це O(n^2)загальний час. Чи є щось швидше? Я знаю, що для випадку множення існують спеціальні алгоритми, які працюють краще, ніж квадратичний час, але я не можу знайти нічого для квадратних коренів.

Для пошуку наближень до коренів многочлена можна скористатися методом Ньютона або будь-яким з ряду інших методів$p(x) = x^2 -c$.

Швидкість конвергенції за методом Ньютона буде квадратичною, що означає, що кількість бітів, правильних, подвоюється в кожній ітерації. Це означає$O(\lg n)$ ітерацій методу Ньютона достатньо.

Кожна ітерація методу Ньютона обчислюється

$$x_{j+1} = x_j - (x_j^2 -c)/(2x_j) = 0.5 x_j + \frac{c}{2x_j}.$$

Бітова складність множення є $\stackrel{~}{O}(b \lg b)$, помножити два $b$-бітові цілі числа (ігнорування $\lg \lg b$чинники). Бітова складність для поділу (до$b$біт точності) однаковий. Тому кожну ітерацію можна обчислити$\stackrel{~}{O}(n \lg n)$операції. Множення на$O(\lg n)$ Ітерації, ми знаходимо, що загальний час роботи для обчислення квадратного кореня $n$ біт точності є $\stackrel{~}{O}(n (\lg n)^2)$. Це підквадратично.

Я думаю, що більш ретельний аналіз показує, що це можна вдосконалити $\stackrel{~}{O}(n \lg n)$ час роботи (враховуючи, що нам потрібно знати лише кожного $x_j$ до в межах близько $j$ біт точності, а не $n$біт точності). Однак навіть більш базовий аналіз вже показує час роботи, який явно підквадратичний.

Одна з проблем методу Ньютона полягає в тому, що він вимагає операції ділення в кожній ітерації, яка є найповільнішою базовою цілочисельною операцією.

Однак метод Ньютона для зворотного квадратного кореня не відповідає. Якщо$x$ - це номер, який ви хочете знайти $\frac{1}{\sqrt x}$, повторіть:

$$r_{i+1} = \frac{1}{2} r_i (3 - x r_i^2)$$

Це часто виражається як:

$$w_i = r_i^2$$ $$d_i = 1 - w_i x$$ $$r_{i+1} = r_i + \frac{r_i d_i}{2}$$

Це три операції множення. Поділ на два може бути реалізований як зсув-направо.

Зараз проблема полягає в тому $r$не є цілим числом. Однак ви можете маніпулювати нею, застосовуючи плаваючу крапку вручну і виконуючи купу операцій зсуву, щоб компенсувати, коли це доречно.

Спочатку давайте розширювати масштаб $x$:

$$x' = 2^{-2e} x$$

куди б ми хотіли $x'$ бути більшим за, але близьким до, $1$. Якщо ми запустимо вищевказаний алгоритм$x'$ замість $x$, ми знайшли $r = \frac{1}{\sqrt x'}$. Тоді,$\sqrt{x} = 2^e r x'$.

Тепер давайте розділимо $r$ в мантісу і показник:

$$r_i = 2^{-e_i} r'_i$$

де $r'_i$- ціле число. Інтуїтивно,$e_i$ представляють точність відповіді.

Ми знаємо, що метод Ньютона приблизно подвоює кількість точних значущих цифр. Тож ми можемо вибрати:

$$e_{i+1} = 2e_i$$

Трохи маніпулюючи, ми знаходимо:

$$e_{i+1} = 2e_i$$ $$w_i = {r'_i}^2$$ $$x'_i = \frac{x}{2^{2e - e_{i+1}}}$$ $$d_i = 2^{e_{i+1}} - \frac{w_i' x'_i}{2^{e_{i+1}}}$$ $$r'_{i+1} = 2^{e_i} r'_i - \frac{r'_i d_i}{2^{e_i + 1}}$$

На кожній ітерації:

$$\sqrt{x} \approx \frac{r'_i x}{2^{e + e_i}}$$

Як приклад, спробуємо обчислити квадратний корінь $x = 2^{63}$. Ми випадково знаємо, що відповідь є$2^{31}\sqrt{2}$. Зворотний квадратний корінь є$\frac{1}{\sqrt{2}} 2^{-31}$, тому ми встановимо $e = 31$ (це масштаб проблеми) і для нашої початкової здогадки ми виберемо $r'_0 = 3$ і $e_0 = 2$. (Тобто ми обираємо$\frac{3}{4}$ для нашої початкової оцінки до $\frac{1}{\sqrt{2}}$.)

Тоді:

$$e_1 = 4, r'_1 = 11$$ $$e_2 = 8, r'_2 = 180$$ $$e_3 = 16, r'_3 = 46338$$ $$e_4 = 32, r'_4 = 3037000481$$

Ми можемо визначити, коли зупинити ітерацію, порівнюючи $e_i$ до $e$; якщо я правильно розрахував,$e_i > 2e$має бути досить хорошим. Ми зупинимося тут, і знайдемо:

$$\sqrt{2^{63}} \approx \frac{3037000481 \times 2^{63}}{2^{31+32}} = 3037000481$$

Правильним цілим квадратним коренем є $3037000499$, тож ми досить близько. Ми можемо зробити ще одну ітерацію або оптимізовану остаточну ітерацію, яка не подвоюється$e_i$. Деталі залишаються як вправа.

Щоб проаналізувати складність цього методу, зауважимо, що множимо два $b$-бітні цілі числа займає $O(b \log b)$операції. Однак ми влаштували речі так$r'_i < 2^{e_i}$. Отже множення для обчислення$w_i$ множить два $e_i$-бітові числа для отримання a $e_{i+1}$-бітове число, а інші два множення множать два $e_{i+1}$-бітові числа для отримання a $2e_{i+1}$-бітове число.

У кожному випадку кількість операцій за ітерацію становить $O(e_i \log e_i)$, і є $O(\log e)$необхідні ітерації. Остаточне множення йде на порядок$O(2e \log 2e)$операції. Тож загальна складність є$O(e \log^2 e)$ операцій, яка є субквадратичною за кількістю бітів у $x$. Це тикає всі коробки.

Однак цей аналіз приховує важливий принцип, про який повинні пам’ятати усі, хто працює з великими цілими числами: оскільки множення є надлінійним за кількістю бітів, будь-які операції множення повинні виконуватися лише на цілих числах, що мають приблизно величину поточної точності (і , Можу додати, вам слід спробувати помножити числа, які мають аналогічний порядок). Використання цілих чисел, більших за це, є марною витратою зусиль. Постійні фактори мають значення, а для великих цілих чисел вони мають велике значення.

Як підсумкове спостереження, два з множень мають форму $\frac{ab}{2^c}$. Очевидно, що марно обчислювати всі біти$ab$ тільки кинути $c$з них геть правою зміною. Реалізація розумного методу множення, який враховує це, також залишається вправою.