Безплідні плато в квантових ландшафтах навчань нейронної мережі

Тут автори стверджують, що зусилля по створенню масштабованої квантової нейронної мережі за допомогою набору параметризованих воріт вважаються невдалими для великої кількості кубітів. Це пов'язано з тим, що завдяки лемі Леві градієнт функції у просторових просторах скрізь майже дорівнює нулю.

Мені було цікаво, чи можна цей аргумент застосувати і до інших гібридних методів квантово-класичної оптимізації, таких як VQE (Variational Quantum Eigensolver) або QAOA ( Algorithm Quantum приблизної оптимізації).

Як ти гадаєш?

— asdf
джерело

"з використанням набору параметризованих воріт" Який набір? Чи випадково це випадково?

— rrtucci

Статтю написав Джаррод МакКлін, який також є піонером VQE. Я думаю, Jarrod не вірить, що VQE вважається невдалим для більшої кількості кубітів. Я думаю, що ваш опис леми Леві трохи відрізняється від того, що пропонує документ. Ви говорите, що "градієнт функції у просторах високих розмірів скрізь майже дорівнює нулю", але в статті йдеться лише про те, що це стосується конкретного контексту QNN, описаного в роботі.

— користувач1271772

Щоб детальніше зупинитися на моєму останньому коментарі: можна просто побудувати функцію великого розміру, яка дуже швидко змінюється скрізь, вона не матиме градієнта «майже нуля» скрізь. Висновок, що ґрунтується на лемі Леві в роботі, полягає в тій конкретній функції, яку вони оптимізують, а не для "будь-якої" функції у просторовому просторі.

— користувач1271772

@asdf: Провівши більшу частину дня, дивлячись на папери, я нарешті придумав відповідь для вас. Поглянь.

— користувач1271772

пов’язані Quantumcomputing.stackexchange.com/q/2056/55

— glS

По-перше : у статті згадуються [ 37 ] леми Леві, але ви не знайдете згадки про «лему Леві» в [37]. Ви виявите , що називається «Нерівність Леві», який називається леммой Леві в цьому , який НЕ цитується в статті ви згадуєте.

По-друге : Існує простий доказ того, що ця вимога є хибною для VQE. У квантовій хімії ми оптимізуємо параметри ансацу хвилі $|\Psi(\vec{p})\rangle$ щоб отримати найнижчу (тобто найбільш точну) енергію. Енергія оцінюється:

Е_{\vec{p}} = \frac{⟨ Ψ (\vec{p}) | Н | Ψ (\vec{p}) ⟩}{⟨ Ψ (\vec{p}) | Ψ (\vec{p}) ⟩} .

$E_{\vec{p}} = \frac{\left\langle \Psi(\vec{p})\right|H\left|\Psi(\vec{p})\right\rangle}{\left\langle\Psi(\vec{p}) \right|\left.\Psi(\vec{p}) \right\rangle}.$

VQE просто означає, що ми використовуємо квантовий комп'ютер для оцінки цієї енергії, а класичний комп'ютер для вибору способів покращення параметрів $\vec{p}$ щоб енергія була нижчою при наступній квантовій ітерації.

Тож чи буде "градієнт" чи ні, буде 0 майже скрізь, коли кількість параметрів у $\vec{p}$ великий ", зовсім не залежить від того, ми використовуємо VQE (на квантовому комп'ютері) або просто запускаємо стандартну програму квантової хімії (наприклад, Гауссана ) на класичному комп'ютері. Квантові хіміки, як правило, варіативно оптимізують вищезазначену енергію до $10^{10}$ параметри в $\vec{p}$ , і єдина причина, що ми не виходимо за рамки цього, це тому, що у нас закінчується оперативна пам’ять, а не тому, що енергетичний пейзаж починає ставати рівним. У цій роботі ви бачите в кінці реферату, що вони обчислили енергію для хвильової функції з про $10^{12}$ параметри , де параметри є коефіцієнтами детермінантних схилів. Загальновідомо, що енергетичний ландшафт не настільки рівний (як це було б, якби градієнт був майже 0 скрізь), навіть коли є трильйон параметрів або навіть більше.

Висновок : застосування леми Леві залежатиме від конкретного енергетичного ландшафту, який у вас є, і залежатиме від обох $H$ і твій ансац $|\Psi(\vec{p})\rangle$ . У випадку їх конкретного впровадження QNN вони знайшли застосування леми Леві доцільним. У випадку з VQE ми маємо контрприклад твердження про те, що лема Леві "завжди" застосовується. Приклад зустрічного, коли лема Леві не застосовується - це коли $H$ є молекулярним гамільтонієм і $|\Psi\rangle$ є хвильовою функцією CI .

— користувач1271772
джерело