Які необхідні компоненти роблять AI-агентом здатним самопрограмуватися?

Агенту ШІ часто вважають, що він має "датчики", "пам'ять", "процесори машинного навчання" та "реакцію". Однак машина з ними не обов'язково стає агентом AI самопрограмування. Крім вищезазначених частин, чи є якісь інші елементи або деталі, необхідні для того, щоб зробити машину здатною бути самопрограмувальним агентом AI?

Наприклад, документ у 2011 році заявив, що вирішення проблеми оптимізації максимізації інтелекту є обов'язковою особливістю процесу самопрограмування, як цитується нижче:

Кажуть, що система виконує екземпляр самопрограмування, коли вона проходить навчання щодо якогось елемента своєї "когнітивної інфраструктури", де останній визначається як нечіткий набір "критично-інтелектуальних" особливостей системи; а критичність інтелекту системної характеристики визначається як її "якість якості", розглянута з точки зору вирішення проблеми оптимізації максимізації інтелекту багатофункціональної системи.

Однак цей опис "оптимізації інтелекту" невиразний. Чи може хтось дати чітке визначення або кращий підсумок необхідних компонентів для агентів самопрограмування?

_{Це запитання починається з бета-версії 2014 року, у користувача, що має запит, має UID 23.}

machine-learning computer-programming

— Міфічний
джерело

Ось майже останнє слово про самооптимізацію

— NietzscheanAI

Дякуємо за відродження втраченого та хорошого вмісту втраченої бета-версії. :-)

— peterh

На найвищому рівні все, що потрібно, - це те, щоб різні системи, про які вже говорилося, включали кодові об'єкти. Якщо він може інтерпретувати свій вихідний код / архітектуру моделі з відформатованих текстових об'єктів, на яких лежить в основі, може «зрозуміти» їх з точки зору наявності корисної моделі ML та змінити код з його реакцією, то він може самопрограмуватись.

Тобто, основний цикл, що стоїть за рекурсивно вдосконалюваним інтелектом, простий. Він вивчає себе, пише нову версію, а потім ця нова версія вивчає себе і пише нову версію тощо.

Складний компонент виходить на нижчі рівні. Нам не потрібно вигадувати нову концепцію на кшталт "сенсор", що нам потрібно зробити, це створити дуже, дуже складні датчики, які дорівнюють завданню розуміння коду, достатнього для виявлення та запису вдосконалень.

— Метью Грейвс
джерело

Хоча реакція інформатики на коліна на твердження про системи, які розуміють власний код, часто цитує проблему зупинки, виявляється, що AI-підходи мають щось корисне сказати про це: cs.stackexchange.com/questions/62393/ ...

— NietzscheanAI

Правильно, проблема зупинки - це теорема непридатності для повного розуміння всіх можливих кодів, але не заважає добре розуміти більшість кодів, які ви насправді зустрічаєте.

— Меттью Грейвс

Реально проблема зупинки дійсно стосується лише "вертушних машин", які є чистими математичними конструкціями, які насправді не можуть існувати (для них потрібна, наприклад, нескінченна стрічка для необмеженої пам'яті) і можуть працювати безкінечно. Комп'ютери в реальному світі мають обмежений об'єм пам'яті. Існують способи написання програмного забезпечення, яке можна офіційно перевірити (Idris, Coq). Використання залежних типів. Обмежте розмір масиву (тобто <кількість або таран). Не дозволяючи програмі змінювати себе в пам'яті таким чином, що може порушити формальні докази. Немає нескінченних петель. Немає байтового циклу / ділимо на нуль. І т. Д ...

— Давид К. Єпископ