Наскільки важлива свідомість для вироблення передового штучного інтелекту?

Наскільки важливі свідомість і самосвідомість для виготовлення прогресивних ШІ? Наскільки далеко ми робимо таке?

Створюючи, наприклад, нейронну мережу, всередині неї (ймовірно) немає свідомості, а лише математика, але чи потрібні нам ШІ, щоб усвідомити, щоб вирішити більш складні завдання в майбутньому? Крім того, чи є насправді якийсь спосіб, який ми можемо точно знати, чи є щось свідомим, чи це просто підробка? Зробити комп'ютерну програму, яка стверджує, що вона свідома, "легко", але це не означає, що вона є (наприклад, Siri).

І якщо ШІ базуються лише на заздалегідь визначених правилах без свідомості, чи можемо ми навіть назвати це "інтелектом"?

Штучна свідомість є складною теоретичною та інженерною метою. Після того, як ця велика проблема буде досягнута, свідоме усвідомлення комп'ютером себе, ймовірно, буде незначним доповненням, оскільки свідомий комп'ютер - це ще один об'єкт, про який може усвідомлювати його свідомість.

Дитина може дивитися в дзеркало і розпізнавати, що переміщення руками вперед-назад або обличчя призводить до відповідних змін у відображенні. Вони впізнають себе. Згодом вони розуміють, що здійснювати фізичний контроль над власним рухом набагато простіше, ніж здійснювати контроль над руками чи обличчям іншої людини.

Деякі дізнаються, що обмежений контроль обличчя та ручні операції інших можливі, якщо оволодіти певними соціальними та економічними навичками. Вони стають роботодавцями, орендодавцями, інвесторами, активістами, письменниками, режисерами, громадськими діячами чи підприємцями.

Кожен, хто вивчав когнітивні науки або переживав межу між типами думки, тому що є професійним радником або просто глибоким слухачем, знає, що лінії навколо свідомості розмиті. Розглянемо це.

• Слухання мови
• Перегляд сцени
• Орієнтація на гру
• Представлення ідеї
• Миття на роботі
• Керування автомобілем
• Вибір покупки

Будь-яку з цих речей можна зробити з певними видами свідомості, підсвідомості, імпульсу чи звички.

Суб'єктивно люди повідомляють про вихід із машини та не згадуючи, що їхали додому. Можна слухати, як хтось розмовляє, стверджуючи, киваючи, відповідати "Так, я розумію", і навіть повторювати сказане, але, схоже, немає пам’яті про зміст виступу, якщо запитати їх поглиблено. Можна прочитати абзац і дійти до кінця без розуміння.

Навпаки, людина може з розумом вмиватися на роботі, враховуючи важливість гігієни і звертаючи увагу, як хірург, що готується до операції, помічаючи запах мила і навіть хлорування міської води.

Між цими крайностями часткова свідомість виявляється також експериментом та в особистому досвіді. Свідомість, безумовно, вимагає функціональності уваги, яка орієнтовно контролює координацію інших підсистем мозок-тіло.

Як тільки біологічна або штучна система досягає здатності уважно координувати, об'єкти та завдання, щодо яких вони можуть бути узгоджені, можуть бути змінені. Розглянемо це.

• Діалог
• Граючи, щоб виграти
• Виявлення чесності чи нечесності

Тепер розглянемо, наскільки подібними чи різними є ці розумові дії, коли ми порівнюємо увагу, спрямовану на власну чи зовнішню сторону.

• Можна поговорити з собою або поговорити з іншим
• Можна грати в обидві сторони шахової гри або грати проти іншого
• Можна вивчити власні мотиви чи інші

Це ілюстрація того, чому самостійна частина самосвідомості не є викликом у ШІ. Саме уважна (але попередня) координація є складною. Ранні мікропроцесори, розроблені для роботи в системах управління в режимі реального часу, включали (і все ще включають) сигналізацію про винятки, яка спрощено моделює цю орієнтовність. Наприклад, граючи, щоб виграти в грі, можна спробувати запустити діалог із темою. Увага може змінитися, коли для двох видів діяльності потрібні однакові підсистеми.

Ми схильні також вважати це переключенням уваги свідомості. Якщо ми є людиною, яка намагається ініціювати діалог з людиною, яка грає, щоб виграти, ми можемо сказати: "Привіт?" Знак питання полягає в тому, що нам цікаво, чи гравець свідомий.

Якби принизити зміст свідомості до найосновніших критеріїв, можна сказати це.

"Моя нейронна мережа є якоюсь розумною, тому що вона усвідомлює невідповідність між моїми критеріями конвергенції та поточною поведінкою мережі в параметризованому стані, тому це справді приклад штучного інтелекту, хоч і примітивного".

У цьому твердженні немає нічого грубо неправильного. Деякі називали це "вузьким інтелектом". Це дещо неточна характеристика, оскільки може бути астрономічне число можливих застосувань довільно глибокої штучної мережі, яка використовує багато найефективніших методів, наявних у її розробці.

Інша проблема вузькості як характеристики - це висновок про існування розумних систем, які не є вузькими. Кожна інтелектуальна система вузька порівняно з більш розумною системою. Розглянемо цей мислительний експеримент.

Ханна пише доклади про загальний інтелект з досконалістю, як в теоретичному лікуванні, так і в письмовій майстерності. Багато хто це цитує і посилається на це. Зараз Ханна настільки успішна у своїй AI кар'єрі, що у неї є гроші та час для побудови роботизованої системи. Вона базує свій дизайн на своїй відомій нині папері і не витрачає коштів.

На її подив, отриманий робот настільки адаптивний, що його пристосованість перевершує навіть самого себе. Вона називає це Georgia Tech для розваги, оскільки вона живе біля університету.

Грузія стає чудовим другом. Вона вчиться з неймовірною швидкістю і є напрочуд чудовою домогосподаркою, прибираючи краще, ніж Ганна вважала можливим, що може бути буквально правдою.

Джорджія подає заявку на Georgia Tech, що знаходиться внизу автобусної лінії від будинку Ханни і там вивчає штучний інтелект. Після досягнення доктора наук лише через три роки навчання Джорджія сидить з Ханною після добре відвідуваної вечірки з видання тез, яку Ханна люб'язно влаштувала за неї.

Після відходу останнього гостя настає хвилина мовчання, коли Ханна усвідомлює справжній стан свого домашнього господарства. Вона думає: "Чи перевершить мене тепер Джорджія у своїх дослідженнях?" Нарешті, Ханна по-соромітно запитує: "Повністю чесно, Джорджія, ти думаєш, ти зараз такий загальний інтелект, як я?"

Настає пауза. З примусовим поглядом смирення Джорджія відповідає: "За вашим визначенням загального інтелекту, я. Ви більше не є".

Чи стане ця історія справжньою у 2018 році 3018 чи ніколи, принцип зрозумілий. Джорджія так само здатна проаналізувати себе порівняно з Ханною, як і Ханна. У сюжеті Джорджія застосовує визначення, створене в роботі Ханни, тому що Джорджія тепер здатна уявити безліч визначень інтелекту і обирає Ханні як найбільш доречне в контексті розмови.

А тепер уявіть цю зміну історії.

... Вона думає, на якому рівні думає Грузія? Нарешті Ханна по-соромітно запитує: "З повної чесності, Джорджія, ти зараз такий свідомий, як я?"

Джорджія обмірковує пам’ять про всі вживання цього слова, свідомих у своїх минулих дослідженнях - тисячу посилань на когнітивну науку, літературу, право, неврологію, генетику, хірургію мозку, лікування травми мозку та дослідження наркоманії. Вона робить паузу на кілька мікросекунд, щоб все ретельно розглянути, в той же час відчуваючи температуру тіла своїх сусідів по кімнаті, нейрохімічні врівноваження, рухові тенденції м’язів обличчя та мову тіла.

Вона з повагою чекає 3,941701 зайвих секунд, що вона розраховувала як затримку, яка мінімізувала б будь-яке приниження до Ханни, яку вона любить, і відповідає: "Усвідомлюєш що?"

$a, b, \ldots$$C$$s$$\Phi_c$$x$$\Phi_c(C_x(s))$

$\forall \Phi_c(C_a(s)) \;\;\; \exists \;\;\; b, \, \epsilon>0 \;\; \ni \;\; \Phi_c(C_b(s)) + \epsilon > \Phi_c(C_a(s))$

Це математичний спосіб сказати, що завжди може бути хтось або якась річ, більш усвідомлена даним сценарієм, незалежно від того, вона чи він, чи вона створена. Змінюючи критерії оцінки від свідомості до інтелекту, ми маємо таким чином.

$\forall \Phi_i(C_a(s)) \;\;\; \exists \;\;\; b, \, \epsilon>0 \;\; \ni \;\; \Phi_i(C_b(s)) + \epsilon > \Phi_i(C_a(s))$

Можна лише припустити, що документ Ханни визначає загальний інтелект щодо того, що б там не було найрозумнішим, що колись було добре освіченими людьми. Таким чином, визначення інтелекту Ханні є динамічним. Джорджія застосовує ту саму формулу до нової ситуації, коли вона зараз є стандартом, до якого звужується менший інтелект.

Щодо здатності підтверджувати свідомість, насправді це простіше підтвердити, ніж інтелект. Розглянемо цей мислительний експеримент.

Джек грає в шахи з Діланом, використовуючи новий шаховий набір, який Джек придбав. Незважаючи на естетичну красу цього нового набору, з його білими оніксами та чорними шматочками агата, Ділан рухає кожен твір з доблестю та контролерами Джеком. Джек замислюється, чи Ділан розумніший за нього, і запитує, що було б нормальним питанням за тих умов.

"Ділан, друже, як довго ти граєш у шахи?"

Незалежно від відповіді та незалежно від того, чи є Ділан роботом з квантовим процесором прогресивного ШІ чи людиною, інтелект Ділана не може бути надійно оцінений. Однак НЕ ДУБТ, щоб Ділан усвідомлював гру.

У прикладах списків у верхній частині цієї відповіді є певні набори вимог, які можна кваліфікувати як свідомість. У випадку гри Джека та Ділана ОБОВ'ЯЗКОВО працюватиме декілька речей.

1. Візуальне розпізнавання стану ради
2. Моторне управління рукою і рукою для переміщення штук
3. Тактильне виявлення в кінчиках пальця та великого пальця
4. Кординація рук і очей
5. Захоплення координації
6. Модель того, як фізично переміщати шматки дошки
7. Модель правил шахів у пам’яті
8. Модель того, як перемогти, граючи в нього (або астрономічні обчислювальні сили, щоб спробувати все можливе перестановка, яка має будь-який сенс)
9. Внутрішнє представництво держави правління
10. Виконання уваги, візуально та з точки зору мети перемоги
11. Пріоритетність, яка вирішує, не залежно від шансів на виживання чи накопичення активів, чи бити Джека в шахи, робити щось інше чи нічого (не детерміновано, якщо давнє і звичне поняття причинної автономії душі правильне)

Топологія з'єднань така, і їх може бути більше.

1 ⇄ 4 ⇄ 2

3 ⇄ 5 ⇄ 2

4 ⇄ 6 ⇄ 5

7 ⇄ 8 ⇄ 9

6 ⇄ 10 ⇄ 8

10 ⇄ 11

Це одна з багатьох інтеграційних топологій, які підтримують один із багатьох типів речей, до яких може застосовуватися свідомість.

Чи дивляться в дзеркало просто для підготовки до роботи, чи глибоко дивляться, розглядаючи онтологічне запитання "Хто я?" кожна суміш свідомості, підсвідомості, імпульсу та звички вимагає конкретної топології психічних особливостей. Кожна топологія повинна бути узгоджена для формування її конкретного втілення свідомості.

Щоб вирішити деякі інші питання, легко зробити машину, яка стверджує, що вона свідома, цифровий диктофон може бути запрограмований зробити це за п’ять секунд, записавши себе, що це вимовляєш.

Змусивши робота прочитати цю відповідь чи якусь іншу концепцію, подумайте про це, а потім побудуйте речення з знання лексики та умов людського мовлення, щоб сказати вам його висновок - зовсім інше завдання. Розвиток такого робота може зайняти ще 1000 років досліджень ШІ. Може, десять. Можливо, ніколи.

$\Phi_i$$\Phi_c$$\Phi_i$

$\Phi_c$$\Phi_i$

Самосвідомі ШІ важливі, оскільки свідомість - це те, що робить нас людьми. І вчені намагаються розробити ШІ, ближчі до людини та поведінки людини. Мисленнєвий процес людини дуже складний, і його розвиток в ШІ справді міг би замінити нас роботами, які мають свідомість. Єдина причина, що ШІ не займаються роботою, яка передбачає прийняття рішень, тому що вони не мають свідомості.