Хороші приклади «двох легко, три важко» в обчислювальних науках

Нещодавно я стикався з формулюванням мета-явища : " два - легко, три - важко " (це так сформулював Федеріко Полоні), яке можна описати так:

Коли певна проблема сформульована для двох утворень, її вирішити порівняно легко; однак алгоритм складання трьох сутностей збільшує труднощі надзвичайно, можливо, навіть робить рішення не здійсненим або недосяжним.

_{(Я вітаю пропозиції зробити фразу більш красивою, стислою та точною.)}

Які хороші приклади в різних областях обчислювальних наук (починаючи від чистої лінійної алгебри і закінчуючи обчислювальною терміном обчислювальної фізики) ви знаєте?

Одним із прикладів, що з’являється у багатьох областях фізики, зокрема класичній механіці та квантовій фізиці, є проблема двох тіл. Проблема з двома тілами тут означає завдання обчислення динаміки двох взаємодіючих частинок, які, наприклад, взаємодіють гравітаційними або кулонівськими силами. Рішення цієї проблеми часто можна знайти в закритому вигляді шляхом змінного перетворення на координатні центри маси та відносні.

Однак, як тільки ви розглядаєте три частинки, взагалі не існує розчинів закритої форми .

Відомий приклад - булева проблема задоволеності (SAT). 2-SAT не складно вирішити в поліноміальний час, але 3-SAT є NP-повним.

В одному та двох вимірах всі дороги ведуть до Риму, але не в трьох вимірах.

Зокрема, враховуючи випадкову ходу (однаковою мірою ймовірно рухатись у будь-якому напрямку) цілими числами в одному або двох вимірах, то незалежно від стартової точки, з вірогідністю один (інакше майже напевно), випадкова хода в підсумку потрапить до конкретного визначеного точка («Рим»).

Однак за трьома і більше вимірами вірогідність потрапити до «Риму» менше одного; при цьому ймовірність зменшується зі збільшенням кількості розмірів.

Так, наприклад, якщо проводити стохастичне (Монте-Карло) моделювання випадкової прогулянки, що починається з "Риму", яка зупиниться, коли Рим повернеться, то в одному та двох вимірах ви можете бути впевнені, що врешті повернетеся до Риму і зупинити моделювання - так просто. У трьох вимірах ви ніколи не зможете повернути його настільки важко.

https://en.wikipedia.org/wiki/Random_walk#Higher_dimensions

Щоб візуалізувати двовимірний випадок, можна уявити людину, яка безладно ходить по місту. Місто фактично нескінченне і розташоване в квадратній сітці тротуарів. На кожному перехресті людина випадковим чином обирає один з чотирьох можливих маршрутів (включаючи той, який спочатку проїхав). Формально це випадкова хода на множині всіх точок площини з цілими координатами.

Чи повернеться людина коли-небудь до початкової початкової точки прогулянки? Це двовимірний еквівалент розглянутої вище проблеми переходу рівня. У 1921 р. Джордж Поля довів, що людина майже напевно пройде в двовимірній випадковій прогулянці, але за 3 виміри і вище ймовірність повернення до походження зменшується зі збільшенням кількості вимірів. У 3 вимірах вірогідність зменшується приблизно до 34%

Дивіться http://mathworld.wolfram.com/PolyasRandomWalkConstants.html для числових значень.

Ось один із близьких до серця учасників SciComp.SE:

Існування Нав'є-Стокса і гладкістю проблема

Тривимірна версія, звичайно, є відомою відкритою проблемою і є предметом премії за глинисті тисячоліття на мільйон доларів. Але двовимірна версія вже давно була вирішена з позитивною відповіддю. Террі Тао зазначає, що рішення по суті датується тезою Лерея в 1933 році!

Чому тривимірну проблему так важче вирішити? Стандартна рукохвильова реакція полягає в тому, що турбулентність стає значно більш нестабільною у трьох вимірах, ніж у двох. Для більш суворої математично відповіді, ознайомтеся з офіційною заявою проблеми Чарльза Феффермана в Інституті глини або в приємному описі Террі Тао щодо можливих стратегій доказування .

У теорії соціального вибору розробити виборчу схему з двома кандидатами легко (правила більшості), але розробка виборчої схеми з трьома і більше кандидатами обов'язково передбачає проведення компромісів між різними обґрунтованими умовами. ( Теорема неможливості Стрілка ).

Одночасна діагоналізація двох матриць $A_1$ і $A_2$ :

Однак при одночасному зведенні трьох матриць до канонічної форми (слабша умова порівняно з вищевказаною) потрібно:

Практичним застосуванням буде вирішення квадратичної задачі власного значення:

Джерело: CF van Loan, "Лекція 6: Узагальнене розкладання сингулярного значення вищого порядку", Літня школа CIME-EMS, Cetraro, Італія, червень 2015 року.

Прикладів квантових обчислень дуже багато, хоча я деякий час був поза цим, і тому не пам'ятаю багатьох. Одним з основних є те, що двостороннє заплутування (заплутування між двома системами) є відносно легким, тоді як заплутування між трьома і більше системами - це нерозв’язаний безлад, мабуть, сто робіт, написаних на цю тему.

Корінь цього полягає в тому, що тензори рангу-2 (тобто матриці) можна проаналізувати за допомогою розкладання сингулярного значення. Нічого подібного не існує для тензорів 3-го або вище рівня. Насправді, навіть щось таке просте, як $\max\left(u_a v_b w_c T^{abc} / \left\lVert u \right\rVert \left\lVert v \right\rVert \left\lVert w \right\rVert \right)$ (з підзаголовками / надписками, що позначають підсумки Ейнштейна), IIRC, не вважається ефективно розв’язуваним .

Ця стаття здається актуальною, хоча я її не читав: Більшість проблем з тензором є жорсткими

Розріз кута з випрямленням і компасом простий, кутова трисекція взагалі неможлива.

Введіть умовивід для ранжу-n типів . Висновок типу для Рангу-2 не є особливо складним, але висновок типу для Ранг-3 або вище не можна визначити.

Ось акуратний варіант оптимізації: алгоритм методу чергування напрямків множників (ADMM).

Враховуючи нерозв'язану і опуклу цільову функцію двох змінних (самі змінні можуть бути векторами) та лінійне обмеження, що з'єднує дві змінні:

$L_{\rho}(x_1, x_2, \lambda)$$x_1$$x_2, \lambda$$L_{\rho}(x_1, x_2, \lambda)$$x_2$$x_1, \lambda$$\lambda$. Цей цикл триває до досягнення критерію зупинки.

(Примітка: деякі дослідники , такі як Екштейн відкидати вид розщеплення Гаусс-Siedel на користь операторів проксимальних, наприклад , див http://rutcor.rutgers.edu/pub/rrr/reports2012/32_2012.pdf )

Для опуклих проблем цей алгоритм було доведено збігатися - для двох наборів змінних. Це не стосується трьох змінних. Наприклад, проблема оптимізації

$f$$x_i$, потім оновлення подвійної змінної $\lambda$) НЕ гарантується конвергенція, як показано в цій роботі.

https://web.stanford.edu/~yyye/ADMM-final.pdf

Складати аркуш паперу навпіл без інструментів легко. Складати його в третини важко.

Розділити многочлен з двома коренями досить просто. Розділення многочлена з трьома коренями значно складніше.

Плавна крива ступеня 2 (тобто задана як розв'язок $f(x,y) = 0$ де $f$ is a polynomial of degree 2) with a given point is rational, meaning that it can be parameterized by quotients of polynomials, of degree 3 it isn't. The former are considered well understood, the latter, called elliptic curves when a base point, i.e. a specific solution, is singled out, are the object of intense research.

This difference has several implications:

• In degree 2 there are algorithms to find all rational points (solutions in rational numbers), in degree 3 no such algorithm is known.
• Integrals involving $\sqrt{f(x)}$ with $f$ of degree 1 or 2 have solutions in elementary functions, but not for $f$ of degree 3 or higher.
• Проблема дискретного логарифму простежується на кривих 2 ступеня, отже, не підходить для криптографічних застосувань, тоді як передбачувана твердість тієї ж проблеми на еліптичних кривих лежить в основі деяких найпопулярніших криптосистем з відкритим ключем.

TREEФункція.

Ми можемо обчислити TREE(2) = 3, але TREE(3)не піддається обчисленню протягом усього життя Всесвіту, ми лише знаємо, що це кінцеве.

У двовимірному просторі ви можете ввести складну структуру, яка може бути використана для елегантного вирішення багатьох проблем (наприклад, потенційних проблем потоку ), але аналог не існує в 3 вимірах.

У квантовій фізиці багатьох тіл ми вивчаємо різні решітки n спинів у рамках різних моделей (наприклад, модель Гейзенберга, модель Боза-Хаббарда, модель Ізінга, ...). Звичайно, у вас є різні чисельні методи їх вивчення (DMRG, точна діагоналізація, нейронні мережі, ...), і одна з причин, що ми намагаємося розробити різні методи, полягає в тому, що ви не можете вирішити ці моделі, коли n стає занадто "високим" , і, звичайно, гірше, якщо ви навчаєтесь у вищих вимірах. Наприклад, для моделі Ізінга точна діагоналізація працює добре в 1d для n не вище 20. Отже, для вищого n ви спробуйте інший метод: DMRG. Але ці останні справді добре працюють для вищого n (як n = 70, але не надто n). Знову ж таки, вам потрібен інший метод для більш високого n: нейронних мереж (тобто штучного інтелекту). І крім нейронних мереж, Ви можете вивчити "легше" (тобто відносно вище n) цих моделей у більш високих розмірах (але, наприклад, для розмірності = 3 та малого n, для отримання основного стану чи спостережуваного ви хотіли ...). Брефе, коли n стає "занадто високим" для ваших чисельних методів (але також і ємності вашого комп'ютера), вам потрібно виконати нові методи (а якщо зможете, використовувати суперкомп'ютер), і це та сама проблема з розмірністю вашого Система, але гірше, звичайно, оскільки ви швидко застрягаєте (розмірність = 4 важко отримати, за винятком випадків, коли ви чекаєте багато часу ...). ще потрібно багато годин (кілька днів), щоб отримати основний стан або спостережуване, яке ви хотіли ...). Брефе, коли n стає "занадто високим" для ваших чисельних методів (але також і ємності вашого комп'ютера), вам потрібно виконати нові методи (а якщо зможете, використовувати суперкомп'ютер), і це та сама проблема з розмірністю вашого Система, але гірше, звичайно, оскільки ви швидко застрягаєте (розмірність = 4 важко отримати, за винятком випадків, коли ви чекаєте багато часу ...). ще потрібно багато годин (кілька днів), щоб отримати основний стан або спостережуване, яке ви хотіли ...). Брефе, коли n стає "занадто високим" для ваших чисельних методів (але також і ємності вашого комп'ютера), вам потрібно виконати нові методи (а якщо зможете, використовувати суперкомп'ютер), і це та сама проблема з розмірністю вашого Система, але гірше, звичайно, оскільки ви швидко застрягаєте (розмірність = 4 важко отримати, за винятком випадків, коли ви чекаєте багато часу ...).
Звичайно, це додаткові відомості до вашого питання, тому що насправді в квантовій фізиці багатьох тіл n = 3 не є високим (але якщо взяти решітку, яка є гіперкубою, ви не можете взяти n = 3 звичайно (через умови)).

Реальний світ:

Автоматизація% - наприклад, Легко автоматизувати щось на 30% або 50% або 80%, тим часом важко перейти, наприклад, вище 95%, і надзвичайно складно або навіть майже неможливо досягти 100%.