Навіщо нам потрібен здоровий глузд в ШІ?

Розглянемо цей приклад:

Це день народження Джона, давайте купимо йому змій.

Ми, люди, швидше за все, сказали б, що повітряний змій є подарунком на день народження, якби його запитали, чому його купують; і ми називаємо це міркування здоровим глуздом .

Навіщо нам це потрібно в штучно інтелектуальних агентах? Я думаю, що це може спричинити безліч проблем, оскільки багато наших людських помилок викликані цими невиразними припущеннями.

Уявіть, що AI ігнорує виконання певних речей, оскільки передбачає, що це вже зробив хтось інший (чи інший ШІ), використовуючи здоровий глузд.

Хіба це не призведе до людських помилок у системах ШІ?

Знання здорового глузду - це сукупність приміщень, які кожен у певному контексті (отже, знання про здоровий глузд може бути функцією контексту) приймає як належне. Існувало б багато неполадок між людиною та ШІ, якби ШІ не володіла знаннями про здоровий глузд. Тому знання про здоровий глузд є основоположними для взаємодії людини та ШІ .

Є також приміщення, які кожна людина приймає як належне незалежно від країни, культури чи загалом контексту. Наприклад, кожна людина (майже з моменту народження) має механізм міркувань про наївну фізику, наприклад, простір, час та фізичні взаємодії. Якщо AI не володіє цими знаннями, він не може виконувати завдання, які потребують цих знань.

Будь-яке завдання, яке вимагає, щоб машина володіла знаннями про здоровий глузд ( середньостатистичної людини), вважається, AI-повною , тобто вимагає інтелекту на рівні людини (або загального). Дивіться розділ 3 статті Знання здорового глузду (2009) Крістіана Андріха, Лева Новоселя та Бояна Хрнкаса.

Звичайно, проблеми, які виникають під час спілкування людей через різні припущення чи передумови, можуть виникнути і між людьми та ШІ (які мають здоровий глузд).

Нам потрібні такі знання про здоровий глузд, якщо ми хочемо змусити комп’ютери зрозуміти людську мову. Комп'ютерній програмі легко проаналізувати граматичну структуру прикладу, який ви наводите, але для того, щоб зрозуміти її значення, ми повинні знати можливі контексти, саме тут ви називаєте "здоровий глузд".

На цьому багато наголошували Роджер Шенк та ін. Робота над комп'ютерним розумінням історій, і веде до багатьох досліджень представлення знань, сценаріїв, планів, цілей. Один із прикладів роботи Шенка - Мері була голодна. Вона підхопила керівництво Michelin. - це здається непослідовником: якщо ти голодний, навіщо брати книгу? Поки ви не зрозумієте, що це екскурсовод по ресторану, і що Марія, імовірно, планує сходити в ресторан поїсти. Якщо ви знаєте, що відвідування ресторану - це потенційне рішення проблеми голодування, то у вас немає проблем із розумінням цього фрагмента історії.

Будь-яка історія потребує розуміння здорового глузду, оскільки жодна історія не є повністю явною. Загальні речі "зрозуміли" і прямо не згадуються. Історії стосуються людського досвіду, і історія, яка зробить все явним, ймовірно, читатиметься як комп'ютерна програма. Вам також потрібен здоровий глузд, щоб зрозуміти, як герої в оповіданні поводяться та як на них впливає те, що відбувається. Знову ж таки, це дуже суб’єктивно, але це необхідно. Якийсь здоровий глузд може бути загальноприйнятим, інших його аспектів не буде. Це складне питання, саме тому дослідники борються з ним щонайменше півстоліття досліджень ШІ.

Звичайно, це призведе до "людських помилок" в системі ШІ. Все це дуже суб’єктивно та культурологічно. Поїздка до ресторану в США відрізняється від поїздки до Франції - ось чому поїздка за кордон може бути складним завданням. І моє читання історії, напевно, буде відрізнятися від вашого. Але якщо ви хочете імітувати людський інтелект, ви не можете зробити це без потенційних людських «помилок».

Я відповім на це запитання у кількох частинах:

Чому системи AGI повинні мати здоровий глузд?

Люди в дикій природі і спілкуються, використовуючи здоровий глузд більше, ніж це роблять із суворою логікою, ви можете це побачити, зазначивши, що легше апелювати до чиєїсь емоції, ніж до логіки. Тож будь-яка система, яка прагне повторити людське пізнання (як у AGI), також повинна повторювати цю тенденцію до використання здорового глузду.

Простіше кажучи, ми хотіли б, щоб наша система AGI могла розмовляти з нами на мові здорового глузду, просто тому, що це ми найкраще розуміємо (інакше ми б не зрозуміли наш дружній AGI, чи не так?). Теорія тупості та сувора логіка технічно можуть бути правильними, але не звертаються до нашого розуміння.

Чи не мета AGI - створити найбільш пізнавально просунуту систему? Чому "найдосконаліша" система AGI повинна мати справу з такими недосконалістю та неточністю, що є здоровим глуздом?

По-перше, може здатися, що логіка здорового глузду "нераціональна". Можливо, існує послідовний математичний спосіб моделювання здорового глузду таким чином, щоб усі тонкощі здорового глузду були представлені строго.

По-друге, раннє вивчення штучного інтелекту розпочалося з вивчення когнітивної науки, де дослідники намагалися повторити "алгоритми розуму", а точніше: рішучі процедури, які б тиражували людську думку. Тоді в такому ступені дослідження ШІ не для створення "найвищого когнітивного агента", а лише для тиражування людської думки / поведінки. Після того, як ми можемо повторити поведінку людини, ми можемо спробувати створити щось надлюдське, надавши йому більше обчислювальної сили, але це не гарантується.

Я досі не бачу, чому потрібен здоровий глузд в системах AGI. Хіба AGI не є найбільш інтелектуальною та потужною обчислювальною системою? Чому вона повинна дбати або відповідати межі людського розуміння, що вимагає здорового глузду?

Можливо, тоді у вас є трохи несогласне розуміння того, що тягне за собою AGI. AGI не означає необмежену обчислювальну потужність (фізично неможливу через фізичні обмеження в обчисленні, наприклад , обмеження Бремермана ) або необмежений інтелект (можливо, фізично неможливий через попереднє обмеження). Зазвичай це просто означає штучний "загальний інтелект", загальне значення широке і загальне.

Міркування щодо безмежних агентів більш детально вивчаються в таких галузях, як теоретична інформатика (я вважаю, теорія типів), теорія рішень і, можливо, навіть теорія множин, де ми можемо ставити питання щодо агентів з необмеженою обчислювальною потужністю. Можна сказати, що є питання, навіть система AGI з необмеженою потужністю не може відповісти через проблему зупинки , але лише якщо припущення в цих полях відображають структуру даного AGI, що може бути неправдою.

Для кращого розуміння того, що може спричинити AGI та його цілі, я можу порекомендувати дві книги: Штучний інтелект: Сама ідея Джона Хагеленда для більш прагматичного підходу (настільки прагматичного, як може бути AI-філософія, та про походження об'єктів Брайан Кантуел Сміт за більш філософсько схильний підхід.

Як осторонь, колекція дзен-коану: Ворота без воріт включає наступний уривок: (цитується та редагується з Вікіпедії )

Чернець запитав Чжаочжоу, китайського майстра дзен, "Є собака Будда-природа чи ні?" Чжаочжоу відповів: "Wú"

Wú (無) перекладається на "жоден", "невідповідний" або "нічого", що можна трактувати так, щоб уникнути відповіді "так" або "ні". Цей освічений індивід не прагне чітко відповісти на кожне питання, а просто відповісти таким чином, що має сенс. Насправді не важливо, як змочувати собаку природу Будди чи ні (що б не означало природа Будди), тому майстер за замовчуванням скасує питання, а не вирішує його.

Можливо, це допомогло б навести приклад того, що може піти не так без здорового глузду: На початку роману "Два обличчя завтра" Джеймса Хогана, будівельний наглядач на Місяці подає запит в автоматизовану систему, запитуючи, що конкретний великий предмет будівельної техніки буде доставлений на його майданчик якомога швидше. Система відповідає, що прибуде через двадцять хвилин. Через двадцять хвилин наглядача вбивають, коли обладнання врізається в його будівельний майданчик. Система визначила, що найшвидший спосіб доставити обладнання на цю ділянку - це встановити його на масовий драйвер і запустити його на майданчик. Якби система, про яку йдеться, отримала здоровий глузд, вона поставила б додаткові нестандартні обмеження щодо запиту, наприклад "обладнання повинно надходити неушкодженим". " прихід обладнання не повинен спричиняти пошкодження чи втрати людей 'тощо. (решта роману описує експеримент, покликаний створити нову систему із здоровим глуздом)

Це здоровий глузд, чи це природне розуміння мови?

Кажуть, що розуміння природної мови є одним із найважчих завдань ШІ. Це один із прикладів, що показують, чому. Перша частина речення пов'язана з другою частиною того, як працюють речення.

Тепер відповідне питання полягає в тому, як пов'язані дві частини. Є кілька стандартних відносин, з якими ми стикаємося, наприклад, тимчасовий порядок. У цьому конкретному прикладі характер відносин ближче до причинно-наслідкового.

Цей ефект ви бачите, коли ми вставляємо слово, щоб зробити це відношення явним:

Це день народження Джона, тож давайте купимо йому змія. Або давайте купимо Іоану змійку, бо це його день народження.

Це техніка для людини, щоб зробити ці неявні відносини явними.

Тепер, як зазначає допитливий, вам також потрібні культурні знання, щоб зрозуміти, як дні народження можуть стати приводом для подарунка. Жодна кількість здорового глузду в цьому не допомагає.