Чи варто використовувати антропоморфну ​​мову під час обговорення ШІ?

Англійська мова не дуже підходить для розмови про штучний інтелект, що ускладнює людину спілкуванню один з одним про те, що AI насправді "робить". Таким чином, може бути більше сенсу використовувати «людські» терміни для опису дій машин, навіть коли внутрішні властивості механізму не нагадують внутрішні властивості людства.

Антропоморфна мова багато використовувалася в технології (див. Визначення антропоморфізації в словнику Хакера , яке намагається виправдати використання антропоморфічними термінами комп'ютерними програмістами при описі технології), але оскільки AI продовжує просуватися, може бути корисним врахувати компроміси використання антропоморфної мови для спілкування як з технічною аудиторією, так і з нетехнічною аудиторією. Як ми можемо отримати хорошу ручку на AI, якщо ми навіть не можемо описати, що робимо?

Припустимо, я хочу розробити алгоритм, який відображатиме список пов’язаних статей. Є два способи, за допомогою яких я можу пояснити, як алгоритм працює мирянину:

1. Дуже антропоморфний - алгоритм зчитує всі статті на веб-сайті та відображає статті, дуже схожі на статтю, яку ви переглядаєте.
2. Дуже технічний - алгоритм перетворює кожну статтю в "сумку слів", а потім порівнює "сумку слів" кожної статті, щоб визначити, які статті поділяють найбільш поширені слова. Статті, в яких розміщено найбільше слів у пакетах, - це ті, що відображаються користувачеві.

Очевидно, що №2 може бути "технічно правильнішим", ніж №1. Деталізуючи реалізацію алгоритму, хтось полегшує зрозуміти, як виправити алгоритм, якщо він дає вихід, з яким ми сильно не погоджуємось.

Але №1 є більш читабельним, елегантним та легшим для розуміння. Це дає загальне розуміння того, що алгоритм робить, а не як алгоритм це робить. Абстрагуючи деталі реалізації того, як комп'ютер "читає" статтю, ми можемо зосередитись на використанні алгоритму в реальних сценаріях.

Чи повинен я, отже, вважати за краще використовувати антропоморфну ​​мову, як це наголошується у Заяві №1? Якщо ні, то чому б і ні?

PS: Якщо відповідь залежить від аудиторії, з якою я розмовляю (нетехнічна аудиторія може віддавати перевагу №1, тоді як технічна аудиторія може віддавати перевагу №2), то дайте мені знати також.

Якщо ясність є вашою метою, вам слід спробувати уникнути антропоморфної мови - це робить небезпеку навіть ввести себе в оману щодо можливостей програми.

Це згубна пастка в дослідженні ШІ, з численними випадками, коли навіть досвідчені дослідники приписують програмі більш високу ступінь розуміння, ніж насправді заслуговують.

Дуглас Хофстадтер досить довго описує цю проблему в главі «Незнищенний ефект Елізи та її небезпеки», а також є відомий документ Дрю Макдермота під назвою «Штучний інтелект відповідає природній дурість» .

Отже, загалом слід докладати особливих зусиль, щоб уникнути антропоморфізму при ШІ. Однак, коли висловлюєтеся перед нетехнічною аудиторією, описи "звукозапису" є прийнятними (як і в будь-якій складній дисципліні), якщо ви повідомляєте аудиторію, що отримує спрощену версію .

Проблема, на яку ви посилаєтесь, - це не просто проблема ШІ, а загалом високотехнологічна сфера. Коли ви сумніваєтесь, я завжди рекомендував би використовувати звичайну мову .

Однак є й інша причина, що спільнота ШІ часто уникає антропоморфних конотацій для ШІ. Деякі світильники AI часто люблять попереджати нас про те, що штучний загальний інтелект може поводитися чужими способами, які не піддаються нашим людським очікуванням, що потенційно призводить до апокаліпсису роботів.

Однак ця ідея про злих чужорідних АГІ походить від поширеного непорозуміння в СІ спільноті, яке поєднує два різних поняття загальності:

• Загальна машина Тьюрінга і
• загальність людського домену

Що означають звичайні люди, коли вони говорять про загальність, то пізніше. Навіть офіційне визначення AGI залежить від цього людського контингенту:

... виконувати будь-яке інтелектуальне завдання, яке здатна людина.

Але за цим визначенням узагальнююча поведінка не робить її більш чужою. Узагальнити - це антропоморфізувати. Як сказав Ніцше,

"Де ти бачиш ідеальні речі, я бачу - людські, на жаль! Надто людські речі".

Я думаю, що правильна відповідь - це легка, але непомітна: "Це залежить".

Навіть коли я розмовляю з іншими технічними людьми, я часто використовую антропоморфну ​​мову та метафори. Особливо на початку розмови. "Комп'ютер повинен розібратися .." "Як ми можемо не допустити, щоб комп'ютер заплутався в ..." і т.д. "Нам потрібно змінити алгоритм, щоб зменшити кількість та різноманітність випадків неадекватних даних, які призводять до неточних налаштувань ..." або деяких подібних. Але серед технічних людей ми знаємо, що ми маємо на увазі, і просто простіше використовувати метафоричну мову.

Намагаючись вирішити технічні комп’ютерні проблеми, я часто починаю з неясного, антропоморфного поняття. "Ми повинні скласти список усіх слів у тексті та присвоїти кожному слову вагу, виходячи з того, як часто воно зустрічається. О, але ми повинні ігнорувати короткі, поширені слова типу" the "і" it ". Потім виберемо кілька кількість слів, можливо, десять чи більше, що мають найбільшу вагу ... "Все це далеко від того, як комп'ютер насправді маніпулює даними. Але часто набагато простіше подумати про це по-людськи, а потім зрозуміти, як змусити комп’ютер це зробити.

Розмовляючи з нетехнічною аудиторією, я думаю, що проблема полягає в тому, що антропоморфна мова полегшує розуміння, але також часто створює враження, що комп’ютер набагато більше схожий на людину, ніж є насправді. Потрібно лише переглянути науково-фантастичні фільми, щоб побачити, що, мабуть, багато людей думають, що комп’ютер чи робот думає так само, як людина, за винятком того, що це дуже точно і не має емоцій.