Які є наслідки теорем Геделя на дослідження AI?

Примітка: Мій досвід з теоремою Геделя досить обмежений: я читав Геделя Ешера Баха; обіймав першу половину Введення в теорему Годеля (Пітер Сміт); і деякі випадкові речі тут і там в Інтернеті. Тобто у мене є лише невиразне розуміння теорії високого рівня.

На мою скромну думку, теорема про незавершеність Геделя (та її багато споріднених теорем, таких як проблема Холтінга та теорема Лебса) є одними з найважливіших теоретичних відкриттів.

Однак трохи невтішно зауважити, що існує не так багато (принаймні, як мені відомо) теоретичних застосувань теорем, можливо, частково через 1. тупий характер доказування 2. сильних філософських наслідків люди не мають готові легко взяти на себе зобов'язання.

Незважаючи на це, є ще деякі спроби застосувати теореми у філософії розуму / AI контексту. Вгорі голови:

Аргумент Лукаса-Пенроуза : який стверджує, що розум не реалізований на формальній системі (як у комп'ютері). (Однак не дуже жорсткий доказ)

Мабуть, деякі дослідження в MIRI використовують Löbs Thereom, хоча єдиний мені відомий приклад - це співпраця агентства Löbian.

Це все справді круто, але є ще кілька прикладів? Особливо тих, що насправді серйозно розглядаються академічною спільнотою.

(пор. Які філософські наслідки першої теореми про незавершеність Геделя? для SE)

Очевидно, що для ШІ багато наслідків, зокрема:

1. Висновок з логікою першого порядку напіврозв'язний. Це велике розчарування для всіх людей, які хотіли використовувати логіку як основний інструмент AI.

2. Базова еквівалентність двох логічних висловлювань першого порядку не визначається, що має значення для систем та баз даних, заснованих на знаннях. Наприклад, оптимізація запитів до бази даних є невід’ємною проблемою через це.

3. Еквівалентність двох безконтекстних граматик не можна визначити, що є проблемою для формального мовного підходу до обробки мови

4. Під час планування в ШІ просто неможливо визначити можливий план для деяких мов планування, які потрібні на практиці.

5. Під час автоматичного створення програм - ми стикаємося з низкою результатів розбірливості, оскільки будь-яка розумна мова програмування настільки ж потужна, як і машина Тьюрінга.

6. Нарешті, нетривіальні питання щодо експресивної обчислювальної парадигми, такі як мережі Перті або стільникові автомати, не можна вирішити.

Я написав обширну статтю з цього приводу двадцять років тому, яка була опублікована в розділі " Інженерні програми штучного інтелекту" 12 (1999) 655-659 . Це досить технічно, і ви можете прочитати його повністю на моєму особистому веб-сайті, але ось висновок:

У вищесказаному було показано, що теореми Геделя є нескінченно багато доказових конструкцій - на відміну від єдиної, яка використовувалася в дискусіях про штучний інтелект досі. Хоча всі конструкції, які були фактично розкриті, можуть бути імітовані комп'ютером, очевидно, що є конструкції, які ще не розкриті. Наш аналіз показав, що можуть існувати конструкції, які може виявити лише людина. Це невелике і, безумовно, недоказане "можливо", що залежить від меж людської уяви.

Отже, люди, які сперечаються за математичну еквівалентність людей і машин, повинні врешті покластися на свою віру в обмежений розум, що означає, що їх висновок міститься в їх припущенні. З іншого боку, люди, які виступають за перевагу людей, повинні взяти на себе цю перевагу в своїх математичних аргументах, зрештою лише виводячи висновок, який був присутній у їхній системі міркувань з самого початку.

Отже, неможливо викласти (мета) математично обґрунтовані аргументи щодо відношення людського розуму та машини Тюрінга, не роблячи припущення щодо людського розуму, що є одночасно висновком аргументу. Тому справа не вирішена.

Відмова: Я покинув академію з тих пір, тому не знаю сучасного мислення.

Я знайшов цей документ математиком та філософом Соломоном Феферманом у лекції Гіделя 1951 року Гіббса про певні філософські наслідки теорем про незавершеність , читаючи наступну статтю у Вікіпедії

Філософія штучного інтелекту ,

конспект якого дає нам (як і очікувалося) уявлення про високий рівень того, про що йдеться в тому ж:

Це критичний аналіз першої частини лекції Гьобла 1951 року Гіббса про певні філософські наслідки теорем про незавершеність.

Дискусія Геделя формується з точки зору розрізнення об'єктивної математики та суб'єктивної математики , згідно з якою перша складається з істин математики в абсолютному значенні, а друга складається з усіх людських доказів істин.

Питання в тому, чи збігаються вони; якщо це так, жодна формальна аксіоматична система (або машина Тюрінга ) не може осягнути математичні можливості людської думки, і, якщо ні, виникають абсолютно нерозв'язні математичні проблеми диофантинової форми.

Або ... людський розум ... нескінченно перевершує сили будь-якої кінцевої машини, інакше існують абсолютно нерозв'язні проблеми з діофантином.

що може бути цікавим, принаймні філософсько, дослідженням у ШІ. Боюся, цей документ може бути схожим на статтю, яку ви посилаєтесь щодо філософських "спроб" або аргументів Лукаса та Пенроуза.