Чи потрібна свідомість для будь-якого завдання AI?

Свідомість складно визначити , але для цього питання давайте визначимо це як "насправді відчуття сенсорного введення, на відміну від простого введення масиву даних через неживу машину". Люди, звичайно, мають розум; для звичайних комп’ютерів все те, що вони "бачать", - це лише більше даних. Можна альтернативно сказати, що людина розумний , тоді як традиційні комп'ютери - ні.

Відміняючи питання про те, чи можна побудувати розумну машину, чи насправді це має значення, якщо AI чуйний чи ні? Іншими словами, чи існують завдання, які неможливі - не просто складніші - через брак почуття?

Ніхто не знає.

Чому: тому що офіційно неможливо навіть визначити, чи справді ваші побратими є свідомими (натомість вони можуть бути тим, що філософсько називається «зомбі» ). Жоден відомий сучасній фізиці тест не може визначитися. Отже, можливо, ви єдина жива істота, а всі інші - робот.

Отже, ми не можемо визначити, які завдання потребують уважності.

Зауважте, що онтологічний статус зомбі суперечливий: деякі філософи ШІ (наприклад, Даніель Деннетт) стверджують, що зомбі логічно неможливі, тоді як інші, такі як Девід Чалмерс , стверджують, що зомбі змушені стверджувати, що вони зазнають квалії (тобто, живі) навіть якщо вони цього не роблять. Ось дуже читаний документ Фланагана та Полгера, який також пояснює, чому сильнішої неврологічної версії тесту Тьюрінга недостатньо для виявлення зомбі.

EDIT: У відповідь на коментар про те, чи існує об'єктивний тест на відмінність почуття від нечутливості:

Ніхто не знає. Те , що ми дійсно вважаємо , що це вимагало б що - то на додаток до того , що сучасна фізика в даний час може сказати нам. Девід Чалмерс припускав, що квалія повинна бути введена як нова форма фізичної одиниці, ортогональної для інших так само, як електричний заряд ортогональний відстані.

За відсутності об'єктивного тестування, нам доводиться покладатися на варіанти тестів Тьюрінга, які не гарантують більше свідомості в темі, ніж інтелект.

Ні.

Досвід бачення щодо визначення акаузальним. Що-небудь безпричинне не може бути вимогою фізичного процесу; qualia не може дозволити роботові можливість робити щось, чого інакше не могла.

Можливо.

Хоча квалія не потрібна для даного завдання ШІ, це не означає, що будь-який достатньо розвинутий ШІ не тягне за собою квалію. Можливо, для так званих завдань, повних AI, потрібен робот, який, хоча і не використовує qualia, все одно виробляє його.

Так.

Квалія може посилатися на якусь не бажану нефізичну властивість, але вона особлива тим, що ми знаємо, що вона існує і фізично. Те, що я можу свідомо обговорювати свою квалію (або, якщо ви мені не вірите, факт, на який ви здатні), означає, що моя (або ваша) квалія має фізичний вплив.

Цілком очевидно, що якщо ми приймаємо чужі квалії на основі власних, це має бути через фізичну основу нашої власної ¹ . Таким чином, можна стверджувати, що ² будь-який робот, що має еквівалентну фізичну здатність, повинен тягнути за собою квалії.

¹ оскільки суб'єктивне є фізично непричинним, тому не можемо змусити нас нічого прийняти.

^{2 до} тих пір, поки ви не зробите особливо дивне припущення, що квалія якимось чином пов'язана з її прямим фізичним проявом, що в кращому випадку є делікатним, оскільки якби ми розвинулися неправильно, ви все одно будете стверджувати, що воно є правильним з однаковою впевненістю.

Давайте скористаємося простим тестом, заснованим на здоровому глузді: як часто ви бачите, як людина вирішує проблеми, що вимагають використання розуму, коли вони непритомніють? Так, ви можете знайти випадки геніїв, як Рамануджан, що вирішують складну проблему під час або після сновидіння, але вони включають часткову свідомість. Ви не бачите хлопців, як Ейнштейн, придумували теорію відносності, перебуваючи в комі; Батьки-засновники не писали Декларацію незалежності під час прогулянки сном; насправді, ви навіть не можете знайти примірників домогосподарок, які складали список покупок на тиждень під час глибокого сну з дельта-хвилі. Це ґрунтується на жорсткому визначенні інтелекту, що вимагає використання розуму; ніхто не каже: "Та муха розумна" або "що білка розумна" саме тому, що жоден не здатний використовувати розум. Це дуже висока планка для ШІ, але це визначення здорового глузду, яке використовується звичайними людьми як питання практичності, у повсякденному мовленні. Так само на практиці кожен припускає, що свідомість необхідна для здійснення такого виду інтелекту.

І навпаки, ми можемо запропонувати ще один критерій, що ґрунтується на здоровому глузді, для оцінювання заперечень проти цього аргументу, особливо соліпсистського, який базується на 3 елементах: 1) практичність; 2) вплив заперечень на тих, хто їх щиро тримає; і 3) вплив, який дії, засновані на цих переконаннях, мають на інших. Мені знадобиться кілька абзаців, щоб зробити цю справу, але довжина необхідна, якщо я хочу зробити справу цілком, ретельно. Це правда, що ми не можемо довести, що інша людина володіє свідомістю, якщо наш стандарт є абсолютним доказом. Насправді ми не можемо надати абсолютного доказу ні для чого; Завжди є місце для певних заперечень, якими б смішними або дріб'язковими не були. Як зазначають деякі філософи, можливо, вся реальність, як ми знаємо, це лише мрія, або продукт деякої тривалої, пов'язаної змови, як сюжет фільму Джима Керрі «Шоу Трумена». Ключовим фактором для задоволення таких заперечень є те, що вони потребують нескінченного регресу дедалі важкіших заперечень, чия ймовірність занурюється з кожним додатковим кроком, необхідним для виправдання таких необґрунтованих сумнівів; Мені завжди було цікаво, чи можемо ми придумати «Метрику нерозбірливості» для машинного навчання, засновану на кардинальності таких заперечень (або на прискіпливості нечітких множин). Якби ми дозволили критикам засунути ногу у двері з будь-якими необгрунтованими запереченнями, закрити будь-які дебати було б неможливо. Людський рід був би паралізований у бездіяльності, оскільки нічого не було б вирішальним; але як одного разу зазначав рок-гурт Rush, "Якщо ти вирішив не вирішувати, ти все-таки зробив вибір". У якийсь момент ми повинні застосувати тест, щоб вирішити такі речі, навіть за відсутності абсолютного доказу; відмова від застосування тесту також є вибором. Встановлення подібного аргументу схоже на гру китайської гри Go - коли іншого гравця оточують і не залишається більше рухів, щоб зробити, гра закінчена; якщо докази людини розкриваються, і у них більше немає виправдань, то можна зробити висновок, що вони діють необгрунтовано. Люди бігають, які стверджують, що Голокост ніколи не бував, або Товариство Плоскоземців тощо, але їхнє існування не повинно і не перешкоджає нам діяти всупереч їх ідеям. Ми можемо розвінчати заперечення кривошипів, таких як суспільство плоских Землей, поза розумним сумнівом, оскільки врешті-решт вони просто не можуть відповісти на всі наші спростування. Я радий, що квалії та філософські зомбі виховувались тому, що вони цікаві для розмови та їжі для роздумів, але соліпсизм діє так само рідко, як ідеї суспільства плоскоземних саме тому, що ми не доводимо неповних доказів Ми можемо розвінчати заперечення кривошипів, таких як суспільство плоских Землей, поза розумним сумнівом, оскільки врешті-решт вони просто не можуть відповісти на всі наші спростування. Я радий, що квалії та філософські зомбі виховувались тому, що вони цікаві для розмови та їжі для роздумів, але соліпсизм діє так само рідко, як ідеї суспільства плоскоземних саме тому, що ми не доводимо неповних доказів Ми можемо розвінчати заперечення кривошипів, таких як суспільство плоских Землей, поза розумним сумнівом, оскільки врешті-решт вони просто не можуть відповісти на всі наші спростування. Я радий, що квалії та філософські зомбі виховувались тому, що вони цікаві для розмови та їжі для роздумів, але соліпсизм діє так само рідко, як ідеї суспільства плоскоземних саме тому, що ми не доводимо неповних доказівдійсно є протидії цьому.

Як вказує Г. К. Честертон (він же "Апостол здорового глузду") у своєму класичному православ'їрадикальний сумнів у тому вигляді, який проповідували багато філософів-класиків, - це не шлях до мудрості, а до безумства; як тільки ми виходимо за рамки розумного сумніву, ми в кінцевому підсумку діємо нерозумно. Він каже, що за відсутності абсолютних доказів ми можемо опинитися на іншій вторинній формі доказів: чи філософія людини веде людину до Ганвелла, сумнозвісного британського ментального інституту. Честертон робить хороший випадок, що коли люди насправді діють на ідеї на зразок соліпсизму (а не просто обговорюють їх педантично в класі, покриті плющем), вони божеволіють. Аргумент «Філософська зомбі» близький до соліпсизму, який насправді є одним із діагностичних критерії певних форм шизофренії. Дегуманізація, яка виникає, коли до квалії застосовується радикальний сумнів, також тісно пов'язана з соціопатичною поведінкою, Хоча GKC не наводить свого страшного прикладу безпосередньо, Рене Декарт був самим живим доказом. Він був геніальним математиком, який все ще розвеселив сумніви у всіх, окрім власного існування, з відомою максимою "Я думаю, тому я є". Але Декарт також перевозив манекен своєї мертвої сестри з собою до європейських кафе, де його можна було побачити, балакаючи з нею. Суть у всьому цьому полягає в тому, що ми можемо судити про цінність ідеї по тому, як вона впливає на добробут віруючого, або по тому, як вони в свою чергу впливають на інших шляхом етичного вибору, заснованого на цих переконаннях. Коли люди насправді діють на радикальні сумніви, що виражаються в соліпсизмі та запереченні загальної квалії, це часто погано впливає на них та інших людей, з якими вони контактують. Він був геніальним математиком, який все ще розвеселив сумніви у всіх, окрім власного існування, з відомою максимою "Я думаю, тому я є". Але Декарт також перевозив манекен своєї мертвої сестри з собою до європейських кафе, де його можна було побачити, балакаючи з нею. Суть у всьому цьому полягає в тому, що ми можемо судити про цінність ідеї по тому, як вона впливає на добробут віруючого, або по тому, як вони в свою чергу впливають на інших шляхом етичного вибору, заснованого на цих переконаннях. Коли люди насправді діють на радикальні сумніви, що виражаються в соліпсизмі та запереченні загальної квалії, це часто погано впливає на них та інших людей, з якими вони контактують. Він був геніальним математиком, який все ще розвеселив сумніви у всіх, окрім власного існування, з відомою максимою "Я думаю, тому я є". Але Декарт також перевозив манекен своєї мертвої сестри з собою до європейських кафе, де його можна було побачити, балакаючи з нею. Суть у всьому цьому полягає в тому, що ми можемо судити про цінність ідеї по тому, як вона впливає на добробут віруючого, або по тому, як вони в свою чергу впливають на інших шляхом етичного вибору, заснованого на цих переконаннях. Коли люди насправді діють на радикальні сумніви, що виражаються в соліпсизмі та запереченні загальної квалії, це часто погано впливає на них та інших людей, з якими вони контактують. Але Декарт також перевозив манекен своєї померлої сестри з собою до європейських кафе, де його можна було побачити, балакаючи з нею. Суть у всьому цьому полягає в тому, що ми можемо судити про цінність ідеї по тому, як вона впливає на добробут віруючого, або по тому, як вони в свою чергу впливають на інших шляхом етичного вибору, заснованого на цих переконаннях. Коли люди насправді діють на радикальні сумніви, що виражаються в соліпсизмі та запереченні загальної квалії, це часто погано впливає на них та інших людей, з якими вони контактують. Але Декарт також перевозив манекен своєї мертвої сестри з собою до європейських кафе, де його можна було побачити, балакаючи з нею. Суть у всьому цьому полягає в тому, що ми можемо судити про цінність ідеї по тому, як вона впливає на добробут віруючого, або по тому, як вони в свою чергу впливають на інших шляхом етичного вибору, заснованого на цих переконаннях. Коли люди насправді діють на радикальні сумніви, що виражаються в соліпсизмі та запереченні загальної квалії, це часто погано впливає на них та інших людей, з якими вони контактують.

Однозначно, спільнота AI також стикається з досить серйозним ризиком - можливо, постійною спокусою - у тому, щоб зробити протилежну помилку, приписати спільну квалію, свідомість тощо тощо своїм продуктам машинного навчання без відповідних доказів. Нещодавно я почув випадок, зроблений з приголомшливо поганих логічних міркувань шанованими науковцями, що рослини володіють "інтелектом", заснованим на дійсно слабких визначеннях та чіткій плутанині з самоорганізацією. Ми не можемо надати абсолютного підтвердження того, що у скелі немає розуму, що означає стару проблему спростування негативу. На щастя, мало хто з чоловіків насправді діє на такі переконання, адже коли вони це роблять, вони в кінці кінців втрачають розум. Якщо ми сприймемо такі аргументи серйозно, ми можемо побачити закони, прийняті для захисту виду Pet Rocks, які були популярні в " 70-ті роки (я все ще засмучений тим, що міну вкрали LOL). Однак було б набагато простіше зробити таку ж помилку, приписуючи свідомість, інтелект та інші подібні якості найсучаснішій машині, через доброзичливого мислення, примх, високих повноважень винахідників, впливу наукової фантастики та сучасної любовної справи з технологіями. В майбутньому я маю мало сумнівів у тому, що у нас з'явиться Cargo Cult AI - можливо, юридично захищений, як якийсь вид, що перебуває під загрозою зникнення, з громадянськими правами, але не маючи більше свідомості, душі та фактичного інтелекту, ніж скеля. Не цитуйте мене з цього приводу, але я вважаю, що Род Серлінг одного разу написав розповідь про це. інтелект та інші подібні якості до найсучаснішої машини, через бажане мислення, хитрість, піднесені повноваження винахідників, вплив наукової фантастики та сучасну любовну справу з технологіями. В майбутньому я маю мало сумнівів у тому, що у нас з'явиться Cargo Cult AI - можливо, юридично захищений, як якийсь вид, що перебуває під загрозою зникнення, з громадянськими правами, але не маючи більше свідомості, душі та фактичного інтелекту, ніж скеля. Не цитуйте мене з цього приводу, але я вважаю, що Род Серлінг одного разу написав розповідь про це. інтелект та інші подібні якості до найсучаснішої машини, через бажане мислення, хитрість, піднесені повноваження винахідників, вплив наукової фантастики та сучасну любовну справу з технологіями. В майбутньому я маю мало сумнівів у тому, що у нас з'явиться Cargo Cult AI - можливо, юридично захищений, як якийсь вид, що перебуває під загрозою зникнення, з громадянськими правами, але не маючи більше свідомості, душі та фактичного інтелекту, ніж скеля. Не цитуйте мене з цього приводу, але я вважаю, що Род Серлінг одного разу написав розповідь про це. - можливо, юридично захищений, як якийсь вид, що перебуває під загрозою зникнення, з громадянськими правами, але не маючи більше свідомості, душі та фактичного інтелекту, ніж скеля. Не цитуйте мене з цього приводу, але я вважаю, що Род Серлінг одного разу написав розповідь про це. - можливо, юридично захищений, як якийсь вид, що перебуває під загрозою зникнення, з громадянськими правами, але не маючи більше свідомості, душі та фактичного інтелекту, ніж скеля. Не цитуйте мене з цього приводу, але я вважаю, що Род Серлінг одного разу написав розповідь про це.

Найкращий спосіб уникнути цієї долі - це дотримуватися тлумачень здорових глуздів та визначень цих речей, від яких ми великою мірою відмовляємось, оскільки вони ставлять дуже високу планку для ШІ, яку ми ніколи не зможемо перевершити за своє життя. , якщо коли-небудь. Можливо, AI навіть не є логічно можливим на будь-якому рівні технології; Я пригадую кілька доказів, які можна інтерпретувати в цьому сенсі. Цих високих, але розумних стандартів може бути важче дотримуватися, якби Честертон та його колеги на зразок Хілер Беллок та Арнольд Лунн були правильними у своїй оцінці, що використання розуму насправді руйнується у західній цивілізації, принаймні, ще за часів Просвітництва; Книга Луна 1931 року «Політ від розуму» є класикою в цьому плані і її ще не можна буде спростувати. Ця історична течія є широкою темою сама по собі, але достатньо сказати, що заперечення розуму та одержимість технологією є прямим відношенням очевидних шляхів до сфери ШІ Якщо Політ з Розуму все ще триває, то ми все частіше буде спокушатися вдаватися до бездумних, вигадливих заперечень, щоб знизити використання розуму та таких незамінних якостей, як свідомість у наших визначеннях ШІ, але створити все більш слабкі критерії доведення цього; одночасно наша технологія буде продовжувати вдосконалюватися, тим самим підвищуючи "Штучну" сторону Штучного інтелекту. тоді ми все більше будемо спокушатися вдаватися до бездумних, вигадливих заперечень, щоб знизити використання розуму та незамінних якостей, як свідомість у наших визначеннях ШІ, але створити все більш слабкі критерії для його доказування; одночасно наша технологія буде продовжувати вдосконалюватися, тим самим підвищуючи "Штучну" сторону Штучного інтелекту. тоді ми все більше будемо спокушатися вдаватися до бездумних, вигадливих заперечень, щоб знизити використання розуму та незамінних якостей, як свідомість у наших визначеннях ШІ, але створити все більш слабкі критерії для його доказування; водночас, наша технологія буде продовжувати вдосконалюватися, тим самим підвищуючи "Штучну" сторону Штучного інтелекту.

Не зрозумійте мене неправильно: якби я не думав, що ми можемо зробити деякі справді захоплюючі речі з AI, я не був би тут. Але більшості з них можна досягти, не повторюючи реального людського інтелекту, вирішуючи цілі класи тангенціальних проблем, про які людині важко думати, але які не потребують свідомості або використання розуму, який позначає людський інтелект. Наприклад, можливості розпізнавання зображень згорткових нейронних мереж; якщо ми хочемо людського інтелекту, ми завжди можемо виготовити його найпростішим, економічним та перевіреним часом способом, народжуючи дітей. Можливо, цих тангенціальних форм ШІ зараз нам вистачить. Ми не можемо ввести використання розуму в наші машини, якщо ми не володіємо достатньою кількістю, щоб вирішити, чи потрібна причина для ШІ, або навіть для того, щоб помітити, з чого він складається. Ми не можемо спроектувати або знеструмити свідомість для ШІ, поки не усвідомимо її значення. Я б заперечив, щоб усі, хто читав цю тему і зважили розумні відповіді, робили це у свідомому стані. Це саме по собі зараз повинно задовільно відповісти на наше запитання.

Щодо визначення, яке ви надали:

насправді відчувається сенсорне введення, на відміну від просто передачі купу даних через неживу машину.

І комп’ютери, і людина відчувають сенсорний ввід. Ви можете підключити комп’ютер до людського очного яблука і запустити його за тими ж фільтрувальними процедурами, що і людський мозок (усунення розмитості під час переміщення очей, а також з предметів, які не знаходяться у фокусі тощо).

Я б зазначив, що більш точним визначенням свідомості є здатність і схильність до саморефлексії. І комп'ютери, і людський мозок ведуть автономну діяльність. Не тільки механічні, але й наші реакції. Відмінність між несвідомим комп’ютером і усвідомленим людським розумом полягає в тому, що ми також маємо здатність "дивитися" на ці закономірності в собі і розглядати їх.

І так, ні, свідомість не потрібна для жодного завдання AI. Розпізнавання зображення - це завдання ШІ, яке не потребує свідомості ні в людей, ні в іншому випадку. Ваш мозок сортує «миття» кольорів з очей на дискретні предмети значною мірою автономно.

tl; свідомість доктора - це самонаправлення.

Два види завдань потребують свідомості:

1. свідомість

2. Будь-яке завдання, що вимагає надзвичайної динаміки, де для вирішення проблем потрібна аналізація між різними 3D-ситуаціями та попередні знання, як вирішити проблему, мінімальна.

Однак, як тільки знання про те, як вирішити дану проблему, будуть отримані, подальша оптимізація усуне цю потребу у свідомості.

Якщо ви надаєте достатньо конкретики проблемі, ви усунете необхідність у загальному вирішенні. І тоді єдина потреба у свідомості - це заради себе.

У дуже нішевому сенсі я б сказав так.

Єдиними завданнями, які дозволили б почуття, було власне почуття і мислення саме по собі. На даний момент почуття не грає ніякої ролі в жодному із завдань, які ми просимо AI виконати; ми швидко наближаємось до того, що зможемо навчити «мертву» машину робити більшість всього, що може розумний ШІ, у практичному розумінні.

Поняття розмовно часто означає «здатність міркувати, розуміючи, що себе і кожне інше сутність є виразним діючим агентом» чи щось у цьому напрямку. Це буквально означає щось більше уздовж самосвідомості та визначення свідомості, яке ви маєте вище. Я висловлюю думку про те, що ми легко підходимо до точки, коли «мертві» ШІ можуть дуже добре імітувати перший спосіб мислення, просто насправді чудово вивчаючи та інтерпретуючи дані.

                              _{Чи бачить робот об'єднання кісток або істота, яка колись була?}

Таким чином, по-справжньому розумний апарат був би кращим за своїми можливостями (порівняно з справді, справді просунутим «мертвим» ШІ) лише щодо того, що зможе «по-справжньому» пережити інформацію.

Це дуже добре паралельно з так званим "аргументом знань", який по суті дискутує саме цю проблему. Версія його, яку я почув, яка палиця зі мною, - це те, що в кімнаті є дуже розумна дівчина, яка має доступ до всілякої інформації. Їй подобається колір синій. Або так вона думає; вона ніколи насправді не бачила. У неї є вся інформація у світі про кольори та про те, як вони працюють тощо. Але чи дійсно вона знає, що таке синій колір, поки не побачить?

Ще одне велике, історичне затія в цій галузі - знаменита картина:

Підпис перекладається: "Це не труба". І ідея полягає в тому, що це, чесно кажучи, не труба. Наразі це купа пікселів на вашому екрані в певній конфігурації - ми всі можемо "побачити" трубу, але що це насправді означає?

Зрештою, я думаю, що супер-інтелігентний "мертвий" ШІ може практично зробити все, що можна "жити", при цьому останній перевершує і "живу".

Істота без почуття не може страждати. Якби, наприклад, ми хотіли радіти стражданням іншого, достатньо було б лише AI, який був розумним.

Припустимо, у нас були деякі садисти, які не могли бути задоволеними чи продуктивними, якщо їм не принести багато страждань. І кажіть, ми дбали лише про мінімізацію страждань людей і тварин. Що нам знадобиться для цієї роботи - це щось нелюдське та неживельне, що може постраждати. Свідомий ШІ зробив би, несвідомий - ні.

У коментарях було висловлено твердження, що свідомість не може бути доведена, крім хіба що самоаналізу. Але очевидно, що це не проблема, оскільки садисти радіють катувати інших, і ті, хто також не може довести, що вони свідомі.