Виживання, уява, моральне обґрунтування
Те, що спадає на думку, - це новонароджений, коли ви сказали "найдурніший людина", і він вже має деякі основні "інстинкти виживання". Це дозволить уникнути болю, споживати їжу та швидко навчиться розрізняти «безпечні» та «небезпечні» умови та людей.
У нас є комп’ютерні програми, які можуть вивчити шахи і обчислити оптимальний хід за долю секунди, але грати в шахи трохи безглуздо. Лише можливість грати у настільну гру не має великої цінності з точки зору виживання, виробничої або економічної точки зору.
Є програми, які можуть робити речі, які дуже корисні для сучасного світу, але, наскільки я знаю, у них просто немає інстинктів виживання. Робот самонавчання; залишений у лісі всіма інструментами, необхідними для отримання сили, створення дублікатів, підтримання та захисту свого самоврядування; напевно, не вдалося б навчитися робити це вчасно, щоб забезпечити його виживання. Наші нинішні програми самонавчання повинні мати змогу визначити, коли він досяг успіху чи не зміг покращити шанси на виживання. Дитина двох років може навчитися досить швидко, щоб вижити, якщо в умовах не надто сувора і нетоксична їжа, а поруч є притулок.
Фінансово бідна, незначно освічена людина з нижчим середнім рівнем працездатності працює на фермі чи фабриці, можливо, не зможе добре грати в шахи, але вони, безумовно, зможуть сказати, чи хтось вбиває когось іншого, і знають бігти і шукати влади . Робот, який може грати в шахи, не став би.
Крім того, люди можуть продовжувати вчитися, коли відділяються від проблеми, думаючи про проблему. Можливість побудови довільних моделей та проведення мисленнєвих експериментів наразі унікальна для людей.
Однак, я сподіваюся, що незабаром у нас з’являться програми, які добре копіюють людський розум і демонструють деякі аспекти того, що ми називаємо свідомістю.