Чи розумна мета інтелекту? [зачинено]

Здається, в літературі завжди було зосереджено увагу на наближенні компонентів людського розуму, вважаючи, що це найдосконаліший. Якщо інші тварини потрапляли в пейзаж ШІ, це було лише для вивчення приматів способами, які не є практичними для вивчення людини або для моделювання нервової активності слизу, оскільки його нервова система проста.

Можливо, є більш перспективна причина для розгляду використання нижчих форм життя в якості моделі бажаного штучного інтелекту. Я читав, що Є.О. Вілсон та інші мали сказати про спільні здібності інших видів. Є чудові якості в організмах настільки прості та пристосовні, як бактерії. Звичайно, мурахи є типовим видом для співпраці. Медоносні бджоли, мабуть, найбільш ощадливі в будівництві, несучи стійкість способу життя та взаємозв’язки з іншими видами, до форми мистецтва, що набагато вище можливостей людського інтелекту.

Використовуючи спортивні аналогії для характеристики варіантів, інтелект людини більше схожий на передпросвітницький гладіаторський спорт або хоча б хокей на льоду, де травмування опонента вважається розумною стратегією. Що роблять бджоли - це більше схоже на альпінізм, що споруджується з точністю та уважністю.

Те, що роблять мурахи, схоже на естафети, де протилежна команда мало інтересу, оскільки кожна колонія, як і кожна смуга на трасі, є незалежною і смуги розмічені. Мурахи аналогічно позначають свою територію, і територіальні претензії дотримуються, як у кращому варіанті Вестфальської геополітичної держави. Не існує ні дрібних ревнощів, ні змагань виключно заради гордості першості. З мурашками, як і з розумним тренером з легкої атлетики, мета полягає в тому, щоб кожна частина гонки виступила добре проти попереднього найкращого естафета.

Бактерії - бігуни на великі дистанції. Вони обмінюються ДНК між собою і ігнорують усі правила болю і страху. Вони поводяться стійко, що нічого не сприймає як належне і використовує все для виживання. І вони пережили майже весь час існування Землі. Вони, швидше за все, пройдуть близько сотні мільярдів років після того, як людство піде, якщо сонце спочатку не зайде наднову.

Чому ми б хотіли програмувати комп’ютери так, щоб нескінченно поводитися як конкуренти? Чи завантажують люди розумні шахові програми, щоб вони могли неодноразово програвати? Ні, вони завантажують ОС Android, оскільки вона співпрацює і нічого не коштує. Чи не можемо ми знайти неігрові ігри, щоб грати там, де можливі безпрограшні сценарії?

Хіба у нас вже не вистачає зворотного кусання, пліток, гіперкритичних агентів зсередини власного виду? Чому б не відправити ШІ у напрямку інтелекту спільної роботи, як мурахи? Чи не було б краще мати нових штучних друзів, які хотіли б поділити тягар наших щоденних завдань?

Чи не хочемо ми, щоб наші роботи майбутнього будували так, як будує медоносна бджола, в шестикутниках? Або ми хочемо, щоб наші роботи наслідували наш приклад, витрачаючи 70% матеріалів у вертикальній конструкції через ірраціональне наполягання під кутом дев’яносто градусів, як це роблять тільки люди?

Я сприймаю досить неясний погляд на людину як на вид і запропонував зворотний тест Тюрінга, за допомогою якого люди оцінюються на достатню кількість людства ( 仁 ). (просто жартую, але не повністю;)

Люди, очевидно, не найуспішніший вид на землі, якщо ви їдете на біомасі:

Я повністю погоджуюся, що менш складні форми життя є дуже ефективними та варті наслідування для конкретних проблем (див. Алгоритми оптимізації колонії мурашок як приклад.)

Але як виглядає світ, коли керують мурахи? Це світ, у якому ми хочемо жити?

Не тільки конкуренція в природі є абсолютно жорстокою, ця жорстокість є механізмом, завдяки якому види оптимізуються (еволюція).

Люди недосконалі, але ми також досягли великих тріумфів, і те, що може відокремити нас від тварин, - це те, що наші успіхи також можуть потрапити до категорії «тріумфів духу». Там, де є сили егоїзму та жадібності, що керують суспільством в одному напрямку, ми також маємо контрсили, штовхаючи в альтернативних напрямках.

У деяких іграх просто нульова сума, і це не обійдеться, але це не означає, що вони повинні бути "все або нічого" (ми рекомендуємо партизанську судоку через Шахи саме з цієї причини.)

Існує концепція, яку варто розглянути, відому як Pareto Efficiency . Фінансові спекуляції, на яких зараз базується значна частина світової економіки, залежать від принципу "більшого дурня" , коли вигода одного агента повністю залежить від втрати інших агентів. Найгірше з нас, здається, орієнтоване на ці механізми на виключення всіх інших, оскільки це не потребує реального зобов'язання, а лише більш сильного аналізу та / або кращої інформації та ліквідності.

Напевно, найкраще з нас, мабуть, досягається замість Парето Удосконалення, завдяки якому агенти можуть бути покращені, не вимагаючи, щоб інші агенти були гіршими.

Сенс у тому, що для виявлення та визначення цих умов знадобився людський інтелект. (Природа могла б менше піклуватися.) Оптимальність Парето була суперечливою через її походження, але це було раніше, ніж технологічна галузь, яка дуже добре створює нові можливості, і мені здається, вона також може бути використана для збалансування розподілу ресурсів для намагайтеся досягти максимальної соціальної стабільності. (тобто іноді може бути більш оптимальним бути трохи гіршим.)

Мій похмурий погляд на наш вид походить не від того, що він неефективний або, часто, нерозумний, а з ідеї, що на цьому етапі історії ми все ще діємо так, що ми щойно зійшли з дерев, замість цього повернувшись до трибалізму та партизанського конфлікту. співпраці.

Всупереч вашій тезі:

• Я вважаю, що не тільки важливо досягти алгоритмічного інтелекту на рівні людського рівня, але нам належить "гуманізувати" такі алгоритми якомога більше.

Суперінтелект та АГІ все ще на горизонті і цілком теоретичні, але, якщо вони будуть досягнуті, і ці алгоритми є чистим механізмом, позбавленим цінностей, які ми, в кращому випадку, плекаємо, ми можемо в кінцевому підсумку стати просто ще однією жертвою еволюційного процесу , застарілі новими формами штучного життя, ми не маємо шансів протистояти.

У певному сенсі потяг до людського типу можна вважати святом людства, більш витонченим, але не зовсім іншим за духом, ніж Давид Мікеланджело.

Хоча людська природа має багато недоліків, вона, безумовно, є найбільш успішною, доки вона існувала, як вказував @DukeZhou. Про успіх можна повністю і цілком натякнути на те, що у нас дуже добре функціонуючий і здатний мозок. Порівняно з іншими видами, ми фізично (фізичні доблесті) набагато недієздатні. Отже, якщо ми намагаємося створити AI, чи не слід намагатися моделювати власний мозок, найкращу розумну систему навколо?

Єдине, що ви пропустили, це те, що люди набагато мирніші, ніж усі інші тварини. Тварини перебувають у постійній війні за виживання, ми, люди, змогли подолати все це, і ми жили у найспокійніші часи протягом усього тисячоліття. Конфлікти можуть виникати, це, можливо, пояснюється нашими генами. Наші гени походять від наших предків тварин, де вони уявляють багато речей як загрози (включаючи тих самих видів тварин протилежної статі, протилежний процес мислення також може сприйматися як загроза). Таким чином, це обов'язково просочиться в нашій ментальності. Чи можемо ми це змінити? Можливо, ні (можливо, це суперечить законам природи та природного відбору).

Давайте подивимось 2 випадки, коли не було конкуренції:

• Jarawas - Ці люди живуть у самоті на острові (навіть зараз). Як результат, вони все ще ведуть спосіб життя мисливського збирача, що можна пояснити тим, що вони не відчували потреби змінюватись, оскільки не бачили загрози їхньому життю чи становищу. Оскільки ми мудрі, ми не нападаємо на їхні території, знаючи, що вони не триватимуть проти сучасних технологій (також тому, що вони не становлять для нас ніякої загрози).
• Корінні американці : У той час як Європа та Азія воювали, ці люди жили на острові (маючи лише міжусобиці). В результаті їхні технології майже не розвивалися, і вони майже були знищені.

Мурахи та бджоли, які є кооперативом, є для мене неправильним явищем. Це цілком пов'язано з тим, що всі мурахи / бджоли в певній колонії є побратимами (інакше вони жорстоко вбивають інші колонії). Крім того, вони підтримують територіальні межі до тих пір, поки всередині нього є багаті ресурси, інакше йде війна (я не можу навести жодних джерел, але я чув багато мурашок, що вторглися на інші території мурашника).

Бактерії не мають болю чи страху, але сказати, що вони існували довго через співпрацю, не видається мені цілком коректним. Вони, ймовірно, мають ефективний механізм виживання.

Сенс у всьому цьому полягає в тому, що немає райдужної картини тваринного царства, як сказав @Neil Slater.

Підходимо до того, як нам слід створити поведінку ШІ? ШІ зараз не мають генів, тому вони не мають жодного зобов'язання щодо його потомства і не матимуть ревнощів, це означає, що їм не вистачає основних складових біологічного організму (і, отже, не мають до нього жодних зобов'язань / інтересів). Але я вважаю, що конкуренція хороша серед ІІ, інакше як вони навчаться новим стратегіям? Тож конкуренція без ревнощів є найкращим сценарієм для агентів ШІ (можливо, це не так у царстві тварин). якщо немає конкуренції, знання серед ШІ, ймовірно, застоюються.

Я не фахівець з теорії ігор, але якщо два чи більше агента змагаються між собою, вони повинні слідувати Теорії ігор, щоб досягти максимальних результатів (напевно, вказуючи ефективність Парето, як вказував @DukeZhou, або з точки зору фізики енергія не створюється і не знищується , розподіляється лише від системи до системи). Але тут є улов, є кілька життєздатних стратегій, що повністю залежать від середовища . Це була тема, яку досліджували комп'ютерні вчені Аксельрод та Гамільтон, де вони перевіряли численні стратегії. Спрощену версію їхніх експериментів можна знайти в The Selfish GeneГлава книги 12. Їхні експерименти (імітовані на комп’ютері), очевидно, свідчать про те, що приємні хлопці (хлопці, які роблять прихильність безумовно) не завжди програють егоїстичним хлопцям. Це потрібно більше вивчити, якщо ми хочемо фактично створити колонію ШІ.

TL; DR : Несправедливо порівнювати ШІ з царством тварин, оскільки їм не вистачає основної одиниці виживання (гена). Люди, безумовно, найрозумніші та наймиролюбніші серед усього тваринного царства. Конкуренція без ревнощів - це, мабуть, найкращий спосіб дій у будь-якій колонії чи виду.

Деякі характеристики інтелекту людини, безумовно, є частиною основної довгострокової цілі ШІ. Більшість цих характеристик очевидно є властивостями і інших видів. Дійсно важливим питанням є те, як комп'ютер міг сприймати не просто по-людськи, а сприймати взагалі? Символи, що випромінюються цифровими датчиками, не вказують на те, що було почуто. Всі комп'ютери отримують символи, тож як комп'ютер міг би сприймати що-небудь?

Ще одне дійсно важливе питання полягає в тому, що люди та, ймовірно, більшість інших тварин певною мірою мають загальний інтелект - можуть застосовувати те, що було вивчено в минулому, у нових ситуаціях. Для людей існує версія загальної проблеми знання, яка стосується мови, тому це суто людська справа. Але багато тварин явно мають якісь загальні знання. AI ще не створив машину із загальними знаннями. Згубний вплив "крайових випадків" на програмне забезпечення AI, що веде самостійно керування автомобілем, є дуже тривожним доказом. Як отримати загальний інтелект - теж абсолютно фундаментальна проблема.

Отже, підсумовуючи мою відповідь: Наразі інтелект, подібний до людини, не є розумною метою. AI має набагато більш фундаментальні проблеми. Розумна мета в даний час полягає в тому, щоб зрозуміти принципи сприйняття і як їх втілити в комп’ютері (якщо припустити, що це можливо), а також зрозуміти принципи загального інтелекту та способи їх втілення.

Тобто розробити, як тварини знають своє оточення та як вони адекватно реагують на нові ситуації на основі минулого досвіду.