Чи може технологічна особливість виникати лише при надінтеллекту?

У розділі 26 книги « Штучний інтелект: сучасний підхід» (3-е видання) підручник обговорює «технологічну особливість». Він цитує IJ Good, який написав у 1965 році:

Нехай ультраінтелигентну машину визначають як машину, яка може значно перевершити всю інтелектуальну діяльність будь-якої людини, наскільки розумною. Оскільки конструкція машин є одним із цих інтелектуальних напрямків, ультра-інтелектуальна машина може спроектувати ще кращі машини; Тоді, безперечно, відбудеться «вибух інтелекту», і інтелект людини залишиться далеко позаду. Таким чином, перша ультра-розумна машина - це останній винахід, який людині потрібно коли-небудь зробити, за умови, що машина достатньо послушна, щоб сказати нам, як тримати її під контролем.

Пізніше у підручнику виникне таке запитання:

26.7 - IJ Good стверджує, що інтелект - це найважливіша якість, і що побудова ультраінтелигентних машин все змінить. Розумний гепард заперечує, що "насправді швидкість важливіша; якби ми могли побудувати надшвидкі машини, це все змінило б", і живий слон стверджує: "Ви обидва помиляєтеся; те, що нам потрібно, - це надзвичайно сильні машини". Що ви думаєте про це аргументи?

Здається, що питання підручника є неявним аргументом проти IJ Good. Добре може сприймати інтелект як цінне, просто тому, що сили людини полягають у тій рисі, яка називається "інтелект". Але натомість інші риси можуть бути однаково оцінені (швидкість або сила), і живі істоти можуть бурхливо спекулювати про те, що їхня бажана риса "максимально" використовується якоюсь машиною чи іншою машиною.

Це змушує мене замислитися, чи могло б виникнути особливість, якби ми побудували машини, які не максимізували інтелект, а натомість максимізували якусь іншу ознаку (машина, яка постійно збільшує свою силу, або машина, яка постійно збільшує свою швидкість). Ці типи машин можуть бути настільки ж трансформативними - надшвидкі машини можуть швидко вирішити проблеми завдяки «грубій силі», а ультрасильні машини можуть використовувати свою сировину для виконання різноманітних фізичних завдань. Можливо, машина ультра-X не може побудувати іншу машину ультра-X (як IJ Good ставився до дизайну машин як до інтелектуальної діяльності), але машина, що постійно вдосконалюється, все одно залишить своїх творців далеко позаду і змусить її творців бути залежно від нього.

Чи обмежені технологічні особливості ультра-інтелегенціями? Чи технологічні особливості викликані машинами, які не є "сильним AI", але все ще є "ультра" -оптимізаторами?

Це було б не швидкістю, ні силою, якщо у вас є надзвичайно сильна сутність, але вона не може досліджувати нові матеріали, вона буде швидко обмежена, те саме для швидкості. В основному, вам потрібно щось поза їх полем для їх покращення, що робить уникнути поліпшення неможливо.

Хоча у нас вже є суперсильні та надшвидкі машини, це машини, вантажні автомобілі, гідравлічні преси, промислові екзоскелети тощо. Але, хоча ми можемо створити кращі за допомогою використання старих, нам все одно потрібно вивчити речі що не може бути покращено старими.

Те, що нам потрібно для особливості, - це поле, коли вдосконалення в ній полегшує подальше вдосконалення. І я не знаю сфери, де це не передбачає інтелекту. Якщо є такий, можливо, там буде особливість, не керована інтелектом.

"Монте-Карло", здається, є найкращим на сьогодні методом алгоритмічної творчості. (тобто машина робить випадковий вибір і бачить, чи призводять вони до чогось корисного.)

Хоча очевидно, що творчі зв'язки, сформовані з розуміння , перевершують ті, що є випадковими, якщо машина досить швидка, вона повинна мати можливість виграти чистою "грубою силою".

тобто Еволюція до настанови людини не базувалася на інтелекті. * Скоріше, еволюція ґрунтувалася на випадкових мутаціях, які є корисними або згубними.

* Застереження полягає в тому, що люди, які створюють алгоритми та змінюють гени (або в лабораторії, або через тваринництво та садівництво), можна сказати, що містять нову форму еволюції, яка фактично вкорінена в людському інтелекті та бажанні.

Це може бути не те, що ви шукали, але технічно так. Хоча не для швидкості та сили. Але ви можете випадковим чином вгадати нові математичні / фізичні / хімічні рішення, щоб стати більш ефективними у випадковому відгадуванні (в основному все, що дозволяє машині швидше обчислювати і, можливо, імітувати ефект цих висновків), таким чином технічно досягаючи чогось подібного до особливості, не маючи при цьому мати взагалі будь-який інтелект (або просто на людському рівні), оскільки ви могли просто змусити всіх.

Це ефективно? Ні, навіть не близький до того, щоб бути яким-небудь можливим. Це працює? Технічно так.

Це була б особливість своєрідності, оскільки вона постійно вдосконалюється, але не потрібно вдосконалювати власний інтелект.

Звичайно, деякі висновки можуть дати можливість стати більш розумними, але, припустимо, він не застосовує ці висновки до себе.