З огляду на доведену проблема зупинки для машин Тьюринга , ми можемо зробити висновок , обмеження на здатності сильного штучного інтелекту?
З огляду на доведену проблема зупинки для машин Тьюринга , ми можемо зробити висновок , обмеження на здатності сильного штучного інтелекту?
Відповіді:
Чи передбачає проблема зупинки будь-які обмеження на пізнання людини?
Так, абсолютно - що є фрагменти коду, на які людина може дивитись, і не бути впевненою в тому, чи зупиниться вона за обмежений час. (Звичайно, є фрагменти коду, які людина може дивитись і говорити "так" чи "ні", але ми говоримо про ті, які насправді досить важко проаналізувати.)
Проблема зупинки означає, що існують види аналізу коду, які жоден комп’ютер не міг зробити, оскільки це математично неможливо. Але сфера можливостей все ще досить велика, щоб дозволити сильний штучний інтелект (у розумінні коду, який може зрозуміти себе досить добре, щоб вдосконалитись).
Проблема зупинки - це приклад загального явища, відомого як Нерозбірливість , який показує, що існують проблеми, які жодна машина Тьюрінга не може вирішити за обмежений час. Розглянемо узагальнення, що не можна визначити, чи задовольняє машина Тьюрінга деяку нетривіальну властивість P, що називається теоремою Райса .
По-перше, зауважте, що проблема зупинки застосовується лише в тому випадку, якщо машина Тьюрінга вводить довільно довгий вклад. Якщо вхід обмежений, можна перерахувати всі можливі випадки, і проблема вже не можна визначити. Це все ще може бути неефективним для його обчислення, але тоді ми переходимо до теорії складності, яка має бути окремим питанням.
Теорема Райса передбачає, що інтелект (людина) не може визначити, чи володіє інший інтелект (наприклад, AGI) певною властивістю, наприклад дружнім . Це не означає, що ми не можемо створити Friendly AGI, але це означає, що ми не можемо перевірити, чи довільний AGI дружній. Таким чином, хоча ми можемо створити інтелектуальний інтелект, який гарантовано буде дружнім, ми також повинні переконатися, що ІТ не зможе створити інший ШІ, який є недружнім.