Якщо людство може створити штучне життя в машині, то коли б ми визначили це смерть?

Чи можна насправді вбити машину? Ми не тільки маємо проблеми у визначенні життя, ми також маємо проблеми з визначенням смерті. Чи буде це правдою також у штучному житті та штучному інтелекті?

Смерть, як ми це знаємо для природного життя, є кінцевою. Це колись мертве, природне життя не може повернутися (принаймні, в сучасному розумінні та з сучасними технологіями --- деякі люди вірять в інше).

Смерть для ШІ складніша. Можливий лише один сценарій: Глобальне знищення: Екстремальний сценарій, коли все, що підтримує існування ШІ, зникає. Це еквівалентно смерті в природному житті і низькій ймовірності. Це означає, що всі ШІ вмирають відразу (як і ми).

Ми також не знаємо ступінь і форму втілення, необхідні для проведення ІПС. Зараз ми можемо припустити, що апаратне забезпечення замінне на невизначений термін, тим самим "обмежуючи" смерть вищезгаданим крайнім сценарієм. Але «тіло» Агіс може НЕ бути необмежено замінним. Тоді може бути необхідне визначення, близьке до природної життєвої смерті.

Ми бачимо аргументи для двох інших сценаріїв, які я спростовую нижче:

"Статична смерть": AI все ще десь "визначений" або "збережений" (що б це не означало насправді), але він не має права та не може використовувати ресурси. Якщо припустимо, що AI складається з апаратного та програмного забезпечення, це як програма, що зберігається на диску, але без дозволу на запуск.

"Динамічна смерть": Під тією ж характеристикою ШІ, що і апаратне та програмне забезпечення, динамічна смерть - це відключення прогресу, подібного до сильних властивостей життя , де AI потрапляє в нескінченну петлю (або порожнечу петлю) у формі " активна смерть », як те, що відбувається із Сизіфом у грецькій міфології. Це відрізняється від статичної смерті, оскільки ШІ все ще використовує динамічні ресурси, хоча не може досягти прогресу. Продовжуючи ті самі припущення, такий AI можна було "завантажити" в основну пам'ять або заблокувати очікування завершення входів або виходів.

Зауважте, що в цих двох сценаріях можливе переродження , і вони також підкреслюють, що існує організація, яка може вирішити умови для переродження або повністю запобігти цьому. Чи справді ця сутність буде "адміністратором", богом, іншими ШІ чи людиною - це справді інше питання.

Терміни "смерть" та "відродження" тут просто можуть бути змінені на "ув'язнення", де динамічна версія була б подібна до наших людських в'язниць, а статична версія була б схожою на кріогенез SciFi. Це трохи розтягує, але ми можемо побачити еквівалентність, і немає вагомих причин кваліфікувати ці два сценарії як смерть.

На закінчення, смерть для ШІ видається винятковим, єдиним сценарієм, тому AI не може померти на практиці , за винятком випадків, коли ми помиляємось у тому, як думаємо, що можемо зробити АГІ. Однак AI може бути назавжди ув'язнений .

Примітка: Термінологія, наведена вище, повністю розроблена для посади. У мене немає цитат, які б підтверджували деякі претензії, але вони ґрунтуються на читаннях та особистій роботі (включаючи перевірку програмного забезпечення).

Якщо AI виникає в результаті повторюваного виробничого процесу (наприклад, як у сучасних комп'ютерах), то, ймовірно, можна буде зробити знімок стану AI і без помилок повторити його на якомусь іншому механізмі.

Для такої конструкції "смерть" не означає те саме, що зараз для нас м'ясистих органіків: кілька клонів ШІ, можливо, можна було б інстанціювати в будь-який час.

Отже, аналог загибелі, який необхідний, є чимось ближчим до «термодинамічної теплової смерті», в якій ШІ не робить «корисної роботи».

Використовуючи стандартну характеристику сприйняття / дії ШІ, тоді (як зазначено в коментарі під питанням), це питання AI SE дає таке визначення смерті для ШІ: тобто коли він переходить у стан, з якого не отримує більше сприйняття і не вживає жодних дій.

EDIT: Зауважте, що це уявлення про смерть є більш термінальним поняттям для ШІ, ніж "не працює в даний час". В принципі, можна сказати, що програма "жива", хоча лише кожні 10000 років виконувались одні інструкції. Для захоплюючої дискусії з цього питання дивіться «Розмова Хозстадтера з мізком Ейнштейна» .

"Смерть" існує як єдине поняття, оскільки основна реальність, яку вона описує, тісно поєднана, і наше визначення змінилося з нашою здатністю змінювати цю реальність.

Здається більш розумним, що різні речі, які можна вважати "смертю", будуть розбиті на частини, і інше слово буде використано для позначення системи, в якій зараз немає копій, порівняно з системою, яка не має збереженої версії, але можна було б відтворити (оскільки код і випадкове насіння для його генерування все ще існують) проти системи, яка була повністю втрачена. (І я певно пропускаю деякі можливості!)

Я не думаю, що термін "смерть" означатиме щось для ШІ. Я вважаю, що це так: за допомогою AI, що працює (імовірно) на цифровому апаратному забезпеченні, ми можемо просто зробити знімок його стану з пам'яті в будь-який час. І тоді в будь-який довільний час у майбутньому ми можемо відтворити його таким, яким це було з цілковитою вірністю.

Тож навіть якщо ви скасуєте програму, маючи на меті бути "мертвою", ви ніколи не знаєте, чи прийде хтось пізніше і знову її виведе. І, мабуть, до речі, ви можете не знати, чи існує інша копія в іншому місці.

Я ненавиджу використовувати науково-фантастичні посилання, але ця влучна: пам’ятаєте, як у трилогічних програмах The Matrix шукати заслання в The Matrix, щоб уникнути видалення? Можливо, те ж саме станеться і з нашими ШІ ... вони скопіюють себе в інші місця і спробують сховатися, щоб уникнути їх видалення. Тож якщо програма досить розумна, вона зможе уникнути будь-якої спроби припинити її.

Інші відповіді, схоже, стосуються "остаточної смерті" ... тобто стану "кінцевого кінця", з якого AI не може відновитись. Іншими словами, ШІ не може більше функціонувати.

Але я не так визначив смерть. Я б визначив смерть як процес, що припиняється. Не має значення, чи хтось перезапустить той самий процес, оскільки існуючий процес уже мертвий. AI, можливо, щойно створив нову копію, але це лише копія , а не оригінал. Смерть - це лише смерть.

Цей тип "смерті" ми можемо назвати "тимчасовою смертю" ... там, де фізичне тіло вмирає, але існує деяка "психологічна спадкоємність" (наприклад, вихідний код, який використовується для запуску програми), що триває між різними органами .

Цей тип «тимчасової смерті» досліджений у науковій фантастиці. PARANOIA та Eclipse Phase представлені людьми, які досить часто можуть померти, щоб згодом відновитись через "резервну копію пам'яті". Люди можуть бути функціонально безсмертними ... але оригінал все ще мертвий, незалежно від того, які долі зустрічаються в інших примірниках. CGP Grey також зняв відео про телевізорів Star Trek , яке працює, вбиваючи вас, а потім нерестуючи ще одну копію себе в іншій області. Насправді, фентезійні установки також досліджують ідею "тимчасової смерті", де люди можуть померти лише для того, щоб згодом оживати за допомогою магічного заклинання.

Моя рекомендація - грати через філософську гру Staying Alive , яка навчає трьох різних філософських підходів до життя (і коли це життя припиняється):

В основному є три види речей, які можуть знадобитися для подальшого існування вашого "я". Одне - тілесна спадкоємність, яка може фактично вимагати лише існування частин тіла (тобто мозку). Інша - це психологічна спадкоємність, яка вимагає продовження вашої свідомості - під якими розуміються ваші думки, ідеї, спогади, плани, переконання тощо. Третя можливість - це постійне існування якоїсь нематеріальної частини вас, яку можна назвати душею *. Звичайно, може статися так, що для того, щоб вижити, потрібна комбінація одного або декількох типів цієї безперервності.

Інші відповіді передбачають, що життя базується на "психологічній спадкоємності", і дивиться на те, що може порушити цю "наступність". Я припускаю, що життя ґрунтується на «тілесній спадкоємності», яку набагато простіше зірвати - просто вбийте процес ... не має значення, чи поновлюється новий процес ... бо початковий процес все ще мертвий. Граючи через «Залишитися живим» , ви зможете опрацювати своє особисте визначення життя та смерті. Після того, як у вас є власне особисте визначення, просто застосуйте його до цього конкретного випадку, або на стороні "психологічної спадкоємності" (інші відповіді), або "тілесної спадкоємності" (моя власна думка).

_{* Якщо ви припускаєте, що для життя потрібна душа, ну не ясно, що у AI були б душі. Якщо вони цього не роблять (і це здається найбільш розумним припущенням тут), вони, очевидно, не були б живими (і ви не можете померти, якщо не живі). Якщо вони роблять є душі , хоча, то інші відповіді , які передбачають «психологічну безперервність» все ще можуть бути застосовні, як це здається , що існування «душ» залежить від «психологічної безперервності».}

Відмінність алгоритмів / роботів від людини полягає в тому, що коли людський організм перестає функціонувати, людину вважають мертвою.

Навпаки, алгоритм все ще існує, навіть коли він не працює. (Я збирався використовувати "навіть тоді, коли не виконується", але уникав цього з смислових причин;) Алгоритм може залишатися в такому "стаціонарному стані", поки є носій інформації для зберігання інформації.

• Вбити алгоритм легко - видаліть і випорожніть смітник.

По суті, щоб вбити алгоритм, потрібно стерти код, який його містить.

Немає причин ставитись до важких ШІ, відмінних від людей. Деякі люди говорять про те, що ви можете зробити знімок ШІ, але немає причин також не робити знімок людини. У нас немає технологій для цього, але немає жодного магічного бар'єру, який би унеможливив (збережіть всі біологічні дані, а потім надрукуйте свою копію десь в іншому місці. Чому б і ні?).

Про це рано говорити, оскільки ми не розуміємо свого існування (термін смерті для біологічних істот, що постійно змінюються).

Б'юсь об заклад, що в майбутньому ми зробимося з AI, і єдине питання буде, що означає смерть для будь-якого розумного існування.