Чи закони Азімова недоліки дизайну, чи вони здійснені на практиці?

Знамениті " Три закони робототехніки" Ісаака Азимова виникли в контексті науково-фантастичних історій Асімова. У цих історіях три закони слугують заходом безпеки, щоб уникнути несвоєчасних або маніпульованих ситуацій від вибуху в хаосі.

Частіше за все розповіді Асимова знайшли би спосіб їх розбити, змусивши письменника внести кілька змін у закони. Наприклад, у деяких своїх розповідях він змінив Перший закон , додав Четвертий (або Зеротовий) Закон , а то й повністю видалив усі Закони .

Однак легко стверджувати, що в популярній культурі, і навіть у самій дослідженні ШІ, Закони робототехніки сприймаються досить серйозно. Ігноруючи побічну проблему різних, суб'єктивних та взаємовиключних інтерпретацій законів, чи є якісь аргументи, що підтверджують, що самі закони є суттєво хибними у своїй конструкції, або, як альтернатива, достатньо сильними для використання в реальності? Аналогічно, чи розроблений для цього кращий, більш суворий набір евристики безпеки?

Закони Асимова недостатньо сильні, щоб використовувати їх на практиці. Сила навіть не враховує, якщо врахувати, що, оскільки вони написані англійськими словами, спочатку потрібно інтерпретувати суб’єктивно, щоб взагалі мати якесь значення. Ви можете знайти хороше обговорення цього питання тут .

Щоб переписати уривок:

Як ви визначаєте ці речі? Як ви визначаєте "людину", не спершу зайнявшись позицією майже щодо кожного питання. І якщо "людина" виявилася недостатньо важкою, то вам доведеться визначити "шкоду", і у вас знову виникає така ж проблема. Майже будь-які справді однозначні однозначні визначення, які ви даєте для тих слів - які не покладаються на людську інтуїцію - призводять до дивних вигадок філософії, що призводять до того, що ваш AI робить те, чого ви насправді не хочете.

Можна легко уявити, що Асімов був досить розумним, щоб це знати і більше цікавився написанням розповідей, ніж розробкою реальних протоколів управління ІІ.

У романі Neuromancer було висловлено припущення, що ШІ, можливо, можуть служити перевірками один проти одного. Насувається сингулярність Рея Курцвейла або можливість гіперінтелектуальних АГІ в іншому випадку не можуть залишати багато можливості людям взагалі контролювати ШІ, залишаючи рівну регуляцію єдиною можливою можливістю.

Варто зазначити, що Елієзер Юдковський та інші провели експеримент, в якому Юдьковський грав роль суперінтелектуального ШІ, здатного говорити, але немає іншого зв’язку поза замкненою коробкою. Кандидатам було доручено просто за будь-яку ціну тримати AI у скриньці. Юдьковський втік обидва рази.

Асімов склав ці три закони спеціально, щоб довести, що жодних трьох законів недостатньо, якими б розумними вони не здавалися спочатку. Я знаю хлопця, який знав хлопця, і він це підтвердив.

Розглянемо перший закон робототехніки Асімова:

Робот може не травмувати людину або через бездіяльність дозволити людині заподіяти шкоду.

Цей закон вже є проблематичним, якщо брати до уваги автомобілі, що керують автотранспортом.

У чому тут питання, запитаєте ви? Ну, напевно, ви будете знайомі з класичним мислительним експериментом з етики, відомим як проблема візка . Загальна форма проблеми така:

Візок прямує прямо до них. Ви стоїте на деякій відстані у дворі поїзда, поруч із важелем. Якщо ви потягнете цей важіль, візок перейде на інший набір доріжок. Однак ви помічаєте, що на бічній трасі є одна людина. У вас є два варіанти: (1) Не робіть нічого, і візок вбиває п’ятьох людей на головній колії. (2) Потягніть важіль, переводячи візок на бічну колію, де це вб'є одну людину. Який правильний вибір?

джерело: Вікіпедія

Автомобільні автомобілі фактично потребуватимуть реальної зміни в житті щодо проблеми з візками, що в основному означає, що автомобілі, що керують авто, повинні запрограмуватись на вбивство людини .

Звичайно, це не означає, що ВСІХ роботів потрібно буде запрограмувати на вбивство, але автомобілі, що керують автотранспортом, - хороший приклад типу робота, який буде.