Чи може ШІ навчитися страждати?


9

Я спочатку мав на увазі це питання на увазі "Чи може страждати на ШІ?". Страждання важливі для людини. Уявіть, що ви пошкоджуєте п'яту. Без болю ви продовжите шкодити цьому. Те саме для ШІ. Але тоді я сказав собі: " Почекай секунду. Це вже існує. Саме помилки та попередження виявляються ". Можна сказати, що він має аналогічне призначення, як страждання. Однак я відчув, що чогось не вистачає. Ми відчуваємо біль. Помилки та помилки - лише дані. Скажімо, робот може використовувати машинне навчання та генетичне програмування для розвитку.

Чи може ШІ навчитися страждати? І не просто знати це як просту інформацію.


Відповіді:


8

На дуже високому рівні, що стосується теорії еволюційних ігор та генетичних алгоритмів, то цілком можливо, що AI міг би розробити стан, аналогічний стражданню, хоча, як ви влучно зазначаєте, це передбачало б умови, які турбує комп'ютер. (Наприклад, це може виробити почуття, аналогічні "засмученню" через неоптимальність в алгоритмічному сенсі, або "розчарування" в рівняннях не складеться, або "невдоволення" цілями, які не були досягнуті.)

Робота, якого мучать маленькі діти в торговому центрі, безумовно, можна сказати, що він "страждає" через те, що діти блокують виконання функції робота, але робот не свідомий і, як можна сказати, страждання вимагають усвідомлення. Однак, навіть не маючи свідомості, цей дуже простий робот може навчитися новій поведінці, завдяки якій він пом’якшує або уникає «страждань», спричинених тим, що не може виконувати свою функцію.

Ви точно хочете заглянути в концепцію страждання у філософському контексті, і Епікур був би дуже корисним місцем для початку.

Епікур безпосередньо має значення в алгоритмічному сенсі, оскільки він використовує термін " атараксія ", що означає спокій, і походить від дієслова " тарассо ", що означає збуджувати або турбувати.

Атараксію можна математично виразити як рівновагу. Тарассо можна математично виразити як нерівновагу.

Це стосується безпосередньо Теорії ігор, оскільки нерівноважність може бути основною вимогою ігор, а AI в цій Теорії ігор може бути сказано, що є коренем усього ШІ.

Атараксію розуміють також у значенні "свободи від страху", що у часовому відношенні цей страх є функцією невизначеності, оскільки стосується майбутнього в прогностичному розумінні і передбачає поточний стан порівняно з можливими, менш оптимальними майбутніми умовами.

Таким чином, страх, який є формою страждання, вкорінюється в обчислювальній непридатності, навіть там, де "комп'ютер" - це людський мозок.

Ранні філософи, такі як Демокріт , особливо корисні, оскільки досліджували критичні, фундаментальні концепції, багато з яких зараз можна виразити за допомогою сучасної математики.

На розум: ви не можете прийти до страждань, поки спочатку не визначите «Добре» та «Погане», що є бінарними відносинами, в яких жоден термін не може означати значення без протилежного. (Математично це можна виразити в найпростішій формі у вигляді кінцевого, одновимірного графіка.) Це розуміння досить давнє.


Варто зазначити, що постійне значення ранніх філософів є частково фактором мудрості, не залежним від обсягу знань, продемонстрований Сократом у думці, що мудрість може бути настільки ж простою, як і те, що ти щось не знаєш.

Древні мудреці не мали переваг потужних інструментів вимірювання, передової математики чи наукового методу, але вони були дуже розумні, а ще важливіше - мудрі.


2
Я ніколи не думав знайти більш проникливу відповідь. Дякую
bmwalide

Інші форми машинного страждання можуть бути аналогічними: "дискомфорту", коли обладнання стає занадто гарячим; "голод", коли недостатній обсяг, потужність обробки, дані; "задуха", що означає відсутність електричної, кінетичної або хімічної енергії, необхідної для обчислення.
DukeZhou

@DukeZhou Remeber, система відстежує постійні коментарі, відповіді ... etc.total пригадує коментар, який ви опублікували з цього питання. Чи міг AI почувати емоції? і це був ваш коментар; "Жоден вчений не може відповісти на це наразі, хоча філософи будуть замислюватися над цим. На мої гроші, чи мріють Андроїди про електричну вівцю?" глибоко стурбований станом людини та природою життя "
квінтумнія

@quintumnia дякую за ваш продуманий коментар. Я підозрюю, що я фактично не опублікував відповіді на загальну тему "емоції" (порівняйте з цією специфікою "страждання"), оскільки на неї так широко відповіли. Більш докладно про електричну вівцю в цій відповіді .
DukeZhou
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.