Що мав на увазі Тьюрінг, кажучи, що «машини не можуть викликати сюрпризи» через помилку?

29

Я зіткнувся нижче заяву Алана М. Тьюринга тут :

"Думка, що машини не можуть викликати сюрпризи, я вважаю, через помилковість, якій особливо підлягають філософи та математики. Це припущення, що як тільки факту буде представлено свідомість, всі наслідки цього факту виникають у розум одночасно з ним. Це дуже корисне припущення за багатьох обставин, але занадто легко забувається, що воно помилкове ".

Я не є носієм англійської мови. Хтось може пояснити це простою англійською?

turing-machines computability computation-models

— smwikipedia
джерело

2

можливо, він краще підходить для порталу філософії, а не для важких наук, таких як CS

— Булат,

3

@Bulat Я збирався сказати те саме - і перенаправлятись на учнів англійської мови - але тоді я зрозумів, що є якийсь вміст, пов’язаний з CS, який можна пояснити у відповіді, на який, ймовірно, не піде мова, інші частини обміну стеками.

— Девід Річербі

7

Хорошим прикладом є ітерація перетворення z: = z² + c , де z і c - складні числа. Що станеться, якщо я візьму будь-яку початкову точку на площині z і повторюю, чи буде число переходити до нескінченності чи ні? Звичайний хлопець сказав би, так, це дасть вам два регіони або, можливо, ще декілька, де значення іде до нуля, а для решти - до нескінченності. Відносно не дивно. Потім Мандельброт приходить разом і фактично намічає регіони на площині, визначеній цією простою «машиною». Як результат виходить із дотматричного принтера, ця проста "машина" доводить себе ... дивно.

— Девід Тонхофер

Facebook та інші соціальні медіа - прекрасний приклад цього ... Дуже багато наслідків їхніх алгоритмів - це не те, чого очікували творці (чи хтось насправді).

— aslum

Про це доволі вигадливий індивід звернувся за допомогою вогневої метафори: "Чим більше ви будуєте багаття знань, тим більше темряви відкривається вашому

— враженому

30

Математики та філософи часто припускають, що машини (а тут він, мабуть, означає "комп'ютери") не можуть нас здивувати. Це тому, що вони припускають, що, коли ми дізнаємось якийсь факт, ми відразу розуміємо кожен наслідок цього факту. Це часто корисне припущення, але легко забути, що це помилково.

Він говорить, що системи з простими, обмеженими описами (наприклад, машини Тьюрінга) можуть проявляти дуже складну поведінку, і це дивує деяких людей. Ми можемо легко зрозуміти поняття машин Тьюрінга, але тоді ми зрозуміємо, що вони мають складні наслідки, такі як невирішеність проблеми зупинки тощо. Технічний термін тут полягає в тому, що "знання не закриваються при відрахуванні". Тобто, ми можемо знати деякі факти , але не знаю , навіть якщо має на увазі . $A$ $B$ $A$ $B$

Чесно кажучи, я не впевнений, що аргумент Тьюрінга дуже хороший. Можливо, я маю користь писати майже 70 років після Тьюрінга, і я розумію, що типовий математик знає набагато більше про математичну логіку, ніж вони робили за часів Тьюрінга. Але мені здається, що математики здебільшого досить добре знайомі з ідеєю простих систем, що мають складну поведінку. Наприклад, кожен математик знає визначення групи , яке складається всього з чотирьох простих аксіом. Але ніхто - сьогодні чи тоді - не подумав би: "Ага. Я знаю чотири аксіоми, тому я знаю кожен факт про групи". Так само аксіоми Пеано дають дуже короткий опис натуральних чисел, але ніхто, хто їх читає, не думає: "Правильно, я знаю кожну теорему про натуральні числа. Давайте"

— Девід Річербі
джерело

22

Історично початок 20 століття мав сильну академічну віру в "розв'язання" математики. Напр., Програма Гільберта та програма Whitehead + Russel's Principia Mathematica . Робота Годеля вирішила цей квест негативно, але я гадаю, що академікам знадобився певний час, щоб повністю прийняти це поняття; Навіть повністю визнаючи правильність Годеля, люди все ще пам’ятатимуть грандіозні ідеї Гільберта. Я думаю, що Тьюрінг пише лише через два десятиліття після того, як Годель звернеться до своєї аудиторії з цим контекстом.

— БернсБА

7

Я б запитав, чи знає більшість математиків «набагато більше про математичну логіку», ніж це робив Тьюрінг. Але очевидно, що майже всі сучасні люди мають набагато більш практичний досвід того, що можуть робити машини (і особливо комп'ютери), ніж він.

— alephzero

4

@alephzero Це не те, що я сказав! Я сказав, що середній математик сьогодні знає більше про математичну логіку, ніж середній математик за часів Тьюрінга.

— Девід Річербі

14

Здається, ваш аргумент не в тому, що аргумент Тьюрінга не є гарним, а в тому, що він непотрібний або спрямований на солом’яника. Я сильно підозрюю, що у Тьюрінга справжні люди висловлювали йому подібні аргументи, тому я не думаю, що він робить нічого з соломки. Як в коментарі стверджує дискретна ящірка, Тьюрінг говорить лише про те, що певний аргумент проти машин, які нас дивують, поганий. Ваша відповідь просто говорить про те, що цей аргумент поганий з часом стає ще більш очевидним. Однак, люди (хоча зазвичай і не експерти) все ще доводять аргументи в цьому напрямку.

— Дерек Елкінс

Це відсутність епістемічного закриття.

— Ден Д.

19

Просто приклад - з огляду на шахові правила, кожен повинен одразу визначити найкращу стратегію гри в шахи.

Звичайно, це не працює. Навіть люди не рівні, і комп’ютери можуть перевершити нас завдяки їх кращим можливостям робити висновки з фактів.

— Булат
джерело

1

Не впевнений, що це хороший приклад. Люди ж легко придумати шахові стратегії, як тільки вони правильно зрозуміти правила, і хоча ці стратегії, очевидно , недоліки і не приносять користі проти більш досвідчених гравців і сучасних двигунів, вони б були досить хороший проти ранніх комп'ютерних движків.

— близько

1

Я точно зазначаю, що не тільки люди різні, але й комп’ютери теж різні, тому дурні комп’ютери епохи Тюрінга не означають, що вони завжди будуть дурні. Можливо, вам потрібно буде знати, що Тьюрінг помер задовго до того, як комп’ютери почали грати в шахи.

— Булат

1

Я думаю, що це хороший приклад і відображає суть абзацу Тьюрінга.

— мідь.ха

@leftaroundabout Отже ..., чи є шаховий нічия, коли оптимально грається, чи виграш білим чи чорним? Більше того: відносно недавнє відкриття про те, що надзвичайно довгі ігрові ігри, можливо, призведуть до перегляду правил 50-ти розіграшу - таке відкриття вважатиметься "несподіванкою" в сенсі цитати

— Хаген фон Ейтцен

12

Це ідея виникнення , яка виникає тоді, коли складна поведінка є результатом взаємодії відносно простих правил. Є багато прикладів цього в природі, як це вказує на посилання. Колонії комах, пташині зграї, школи риб і, звичайно, свідомість. У зграї птахів або в школах риб кожна людина в рій приймає рішення лише на основі інших, що їх безпосередньо оточують, але коли ви з’єднаєте купу цих людей разом, дотримуючись цих правил, ви починаєте бачити більш скоординовану поведінку, ніж можна очікувати без плану вищого рівня. Якщо ви переходите на Youtube і дивитеся демонстрації роїв-роботів, ви бачите, що всі вони уникають ударів один одного і працюють в унісон. Дивно, але цього не потрібно робити, маючи єдиний центральний комп'ютер, який координує поведінку кожного окремого робота, але натомість це можна зробити, використовуючи робочу робототехніку, де, як комахи чи птахи чи риби, кожен робот приймає місцеві рішення, що призводить до виникнення координації.

Ще одна цікава демонстрація поведінки, що виникає, - «Гра життя» Конвея . Правила гри надзвичайно прості, але можуть призвести до дуже захоплюючих результатів

Заманливий аргумент проти здатності комп’ютерів отримувати інтелект людини - це сказати, що оскільки вони можуть робити саме те, що їм запрограмовано, вони повинні лише проявляти інтелект, який ми програмуємо. Якби це було правдою, то ми також не очікували, що відносно проста поведінка нейронів породжує інтелект людини. Однак, наскільки ми можемо сказати, це є випадком і свідомість є новою властивістю нейронної обробки. Я впевнений, що Тьюрінг хотів би побачити, що стало можливим сьогодні за допомогою штучних нейронних мереж

— мовчанка
джерело

2

Дякуємо, що згадали про появу. Ви додаєте певного оптимізму моєму песимізму щодо ШІ шляхом обчислень .

— smwikipedia

9

Люди можуть припустити, що якщо я пишу програму, і я повністю розумію алгоритм, і помилок немає, то я повинен знати, яким буде результат цієї програми, і що це не повинно мене дивувати.

Тьюрінг каже (і я згоден), що це не так: результат може бути дивовижним. Рішення проблеми мандрівного продавця може бути дивовижним. Найкращий спосіб побудувати повний суматор може бути дивовижним. Найкращий хід у шаховій грі може бути дивовижним.

— gnasher729
джерело

Це пояснює, чому комп’ютери можуть дивувати, що є першою половиною цитати, але ви не звертаєтесь до тієї частини цитати, яка пояснює, чому конкретний аргумент, який машини не можуть здивувати, є помилковим.

— Дискретна ящірка