Яке модельоване середовище є досить складним для розвитку загального ШІ?

Уявіть, що намагаєтеся створити симульоване віртуальне середовище, яке є досить складним для створення "загального AI" (який я визначаю як AI, що усвідомлює себе), але є максимально простим. Яким би було таке мінімальне середовище?

тобто середовище, яке було лише шаховою грою, було б занадто простим. Шахова програма не може бути загальним ШІ.

Навколишнє середовище з кількома агентами, які грають у шахи та передають один одному результати. Чи буде це загальним ШІ? (Якщо ви можете сказати, що великий шаховий майстер, який цілий день думає про шахи, має "загальний інтелект"? Під час свого роздуму над шахами він відрізняється від шахового комп'ютера?).

Як щодо 3D-подібного світу. Це здається занадто складним. Зрештою, чому загальний ШІ не може існувати у двомірному світі.

Що може бути прикладом простого середовища, але не надто простого, таким, щоб ШІ могли мати самосвідомість?

Я думаю, що це одне з найкращих питань, пов'язаних з AGI, що я бачу на цьому форумі.

Я пропускаю все тематичне про "що таке AGI", "імітаційна гра", ... Ці теми обговорювались протягом десятиліть, і сьогодні вони, на мою думку, є глухим кутом.

Таким чином, я можу відповісти лише своїм особистим досвідом:

Це основна теорема при обчисленні того, що будь-яка кількість вимірів, включаючи часовий, у просторі кінцевих розмірів може бути зменшена до 1D.

Однак на практичних прикладах 1D-зображення стає важким для аналізу та візуалізації. Це більш практична робота з графіками, яку можна розглядати як проміжну між 1D і 2D. Графіки дозволяють представити всі необхідні факти та відносини.

Наприклад, якщо ми спробуємо розробити AGI, здатний працювати в області математики, будь-який вираз (який ми пишемо у двовимірному поданні з раціоналами, підписниками, інтегралами, ...) може бути представлений як 1D (як вираз написано в програмному джерелі), але цей 1D повинен бути проаналізований, щоб досягти графіка, який можна проаналізувати або виконати. Таким чином, графік, отриманий після розбору виразу, є найбільш практичним поданням.

Ще один приклад, якщо ми хочемо, щоб агент мандрував 3D-світом, цей світ може розглядатися як порожній простір з об'єктами, які мають деякі властивості. Знову ж таки, після початкового етапу аналізу сцени та розпізнавання об’єктів (еквівалент аналізатору в попередньому прикладі), ми дістаємо графік.

Таким чином, щоб по-справжньому працювати в області AGI, я пропоную пропустити проблеми аналізу сцени, розпізнавання об'єктів, розпізнавання мови (Narrow AI) та працювати безпосередньо над репрезентативними графіками.

Я думаю, що найважливіше - це те, що він повинен встигнути якось імітувати час. Подумайте про себе. Тоді, щоб бути «самосвідомим» оточенням, можуть бути дані, які подаються протягом часу, які можна виділити як «я» та «інше». Маючи на увазі, я маю на увазі, що "Я" - це та частина, на яку вона впливає безпосередньо, а "інша" - це та частина, на яку впливають опосередковано або взагалі немає. Крім цього, можливо, він може жити в досить абстрактних середовищах. Причина настільки важлива, що без неї когнітивний алгоритм просто вирішує математичну задачу.

Загальний ШІ може абсолютно існувати у двовимірному світі, тільки що узагальнений ШІ (який тут визначається як "послідовна сила через набір проблем") все ще буде досить відмінним від Штучного загального інтелекту , визначеного як "алгоритм, який може виконувати будь-яке інтелектуальне завдання, яке вміє людина ».

Навіть там визначення AGI нечітке, бо "яка людина?" (Інтелект людини - це спектр, де люди мають різний ступінь здатності вирішувати проблеми в різних контекстах.)

Штучна свідомість : На жаль, самосвідомість / свідомість є важко метафізичним, проблемою, відміною від здатності вирішувати проблеми (інтелект).

Ви обов'язково хочете подивитися " Китайську кімнату " та спростування.

Напевно, варто поглянути на голографічний принцип : "поняття у фізиці, згідно з яким простір розглядається як голограма n-1 вимірів". Безумовно, моделі та ігри можуть бути структуровані таким чином.

Ще одне місце для вивчення - це теорії виникнення надрозвідки в нескінченній грі життя Конвей . (Коротше кажучи, я розумію, що як тільки дослідники з'ясували, як генерувати будь-яке число в стільникових автоматах, можливість виникнення чутливості, що має достатній розмір ігрового поля, принаймні теоретично обгрунтована.)

Серед відповідей поки що найбільш провокаційною була відповідь від @DukeZhou. Наприклад, посилання на критику «Китайська кімната» викликає твердження Серля, що певна форма навмисності може потребувати підтримки у штучному середовищі. Це може означати необхідність системи цінностей або системи болю-задоволення, тобто чогось, коли добрі наслідки можна «пережити» або активно шукати, а поганих наслідків уникнути. Або певний потенціал індивідуального вимирання (смерть чи припинення) може бути визнаний. TheМожливість «его-смерть»може знадобитися високе негативне значення. Це може означати, що штучний світ повинен включати "інших розумів" чи інших агентів, які інтелектуальний агент, що виникає або навчається, міг спостерігати (в деякому сенсі) і "розмірковувати над", тобто визнавати інтелект, як власний. У цьому сенсі декартовий силогізм "Я думаю, що я є таким" перетворюється на: я (а точніше, я як AI) бачу докази того, що інші думають, і "з боку," я "теж можу". Ті "інші" можуть бути або іншими системами навчання (AGI), або деякими контактами з дискретними входами людей, опосередкованих штучним середовищем. У Вікіпедії обговорення "зворотного тесту Тьюрінга"

Згадка про розмірність повинна викликати дискусію про те, якою була б необхідна глибина представлення "фізики" світу, зовнішнього для ШІ. Деяке уявлення про час і простір здавалося б необхідним, тобто деяка розмірна підструктура для просування до досягнення мети. Світ блоків був проблемою ранньої іграшки якої викликало оптимізм у 60–70-х роках минулого століття, що було досягнуто значного прогресу. Мені невідомі будь-які зусилля, щоб запрограмувати будь-який біль чи задоволення в програмі SHRDLU тієї епохи (жодних крапель на пальцях ніг програми), але всі цікаві фантастичні уявлення ШІ мають певне визнання "фізичних" несприятливих наслідків у "реальному світі".

Редагувати: Я збираюся додати потребу в "сутностях з особливостями" в цьому середовищі, які можуть бути "сприйняті" (будь-яким з "інших", які взаємодіють з AGI) як введення даних до зусиль щодо індукції, ідентифікації та висновок про стосунки. Це створює основу для спільного "досвіду".

Хоча гарна відповідь @pasaba por aqui, я погоджуюся з @zooby, що графік може бути занадто спрощеним. Якби люди опинилися в середовищі, де варіанти були потоплені або зробили б 5000 непов'язаних кроків, щоб побудувати човен, ми ніколи б не перетнули жодне море. Я думаю, що будь-який графік, якщо він буде розроблений вручну, не був би досить складним для виклику агента як загального AI. Світ потребує достатньої кількості між ними держав, щоб його більше не найкраще описати як графік, а принаймні багатовимірний простір.

Я думаю, що вам доведеться врахувати 2 пункти. Що таке "просто" і коли ви визнаєте це "загальним ШІ". Я не вважаю себе усвідомленим AI задовільним, оскільки ми не можемо виміряти щось, що називається обізнаністю; ми можемо бачити лише його стан та його взаємодію з навколишнім середовищем.

Для 1. Я б сказав, що світ, у якому ми живемо, насправді досить простий. Існує 4 сили природи, кілька законів збереження та купа типів частинок, які пояснюють більшу частину всього. Просто таких частинок багато, і це призвело до досить складного світу. Звичайно, це імітувати дорого, але ми могли б взяти деякі ярлики. Люди 200 років тому не потребували б усієї квантової механіки для пояснення світу. Якби ми замінили протони, нейтрони та сильну силу атомами в періодичній таблиці, ми здебільшого були б добре. Проблема полягає в тому, що ми замінили ще 3 загальні закони на 100 конкретних примірників. Щоб імітоване середовище було досить складним, я думаю, що ця тенденція повинна дотримуватися.

Що приводить мене до 2. Я думаю, що ми дійсно задоволені лише агентом, що виражає загальний ШІ, коли він може цілеспрямовано взаємодіяти з навколишнім середовищем таким чином, який би нас збивав з пантелику, одночасно виграючи від цього (так не випадково). Зараз це може бути досить важким або зайняти дуже тривалий час, тому більш спокійною умовою було б побудувати інструменти, які ми б очікували, що він створить, демонструючи таким чином майстерність власного оточення. Наприклад, докази човнів були знайдені десь між 100 тис. І 900 тис. Років тому, що приблизно в тій же шкалі часу, коли ранні люди розвивалися. Однак, хоча ми вважаємо себе розумними, я не впевнений, що ми вважатимемо агентом, що виготовляє човен, загальний інтелект, оскільки це здається досить простим винаходом. Але я думаю, що ми були б задоволені після кількох таких винаходів.

Тож я думаю, що нам знадобиться такий собі Сім, як насправді, це набагато складніше, ніж гра. З 1000-ма видами предметів, безліччю екземплярів кожного елемента та достатньою мірою свободи для взаємодії з усім. Я також думаю, що нам потрібно щось, що виглядає звичним, щоб визнати будь-якого агента розумним. Отже, 3D, складний світ, схожий на майнкрафт, був би найпростішим світом, у якому ми могли б визнати появу загального інтелекту.

"Штучний загальний інтелект" - це щось інше від агента, який розумно діє в навколишньому середовищі. Тому що згідно з літературою такі агенти називаються «Вузьким ШІ». Система AGI - це довкілля. Це означає, що останній виклик Micromouse - це система AGI, яка має на меті розробку вузьких систем ШІ.

Розробка AGI дорівнює конкуренції з робототехніки. Він формалізований у книзі правил і виступає як середовище для вивчення, програмування програмного забезпечення та обговорення результатів. У будь-якому випадку система AGI - це соціальна конкуренція, а значить, приваблива для участі команд у змаганнях. AGI не відповідає, як реалізувати інтелект, це тест для його вимірювання. Так звані людські мізки, когнітивна архітектура та загальні вирішення проблем не були розроблені як вузький ШІ для розумної дії, вони були розроблені як тест Тьюринга для розумної машини.

Як ми можемо виміряти за допомогою комп'ютерної програми, якщо інша комп'ютерна програма інтелектуальна? Одна з можливостей - теорія моделювання людини. Це означає, що ми перевіряємо, чи комп’ютерна програма веде себе як людина, і тест Тьюрінга зобов'язаний перевірити короткочасну пам'ять, довгострокову пам'ять та можливість вивчати нові речі. У найпростішій формі тест Тьюрінга можна зробити за допомогою простої форми, яку потрібно заповнити людиною, але також можна вийняти людину з циклу і використовувати комп'ютер для перевірки інтелекту іншого комп'ютера . Саме в цьому і було розроблено SOAR, OpenCog та AIXI.