Чи є сингулярність чимось сприймати серйозно?

10

Термін Сингулярність часто використовується в основних засобах масової інформації для опису візіонерських технологій. Він був представлений Реєм Курцвейлом у популярній книзі "Сингулярність поруч: Коли люди перевершують біологію" (2005).

У своїй книзі Курцвейл дає прогноз потенційного майбутнього людства, який включає нанотехнології, комп'ютери, генетичну модифікацію та штучний інтелект. Він стверджує, що закон Мура дозволить комп'ютерам експоненціально зростати, що призводить до надінтеллігентності.

Чи є технологічна особливість чимось серйозним, що розробники AI сприймають серйозно, чи ця теорія є лише завантаженням популярного шуму?

— Бакі Роджерсон
джерело

Дебати навколо Сингулярності є підтемою в так званому русі неолюддітів. Це філософська дискусія щодо прогресу технологій з песимістичним світоглядом. Білл Джой опублікував відомий твір 2000-х років, в якому він заперечує проти технологій. Рух неолюддітів - це якась антиідеологія для сильнішого, швидшого та розумнішого мислення Силіконової долини. Сингулярність - це змішання ідеології про та проти технологій з метою пом'якшення дебатів.

— Мануель Родрігес

2

Я думаю, що вам буде дуже важко знайти будь-які міцні наукові основи, пов'язані з ІІ, які дозволяють припустити, що сингулярність навіть можлива віддалено.

— Андреас Сторвік Страуман

Можливо, вас зацікавить це запитання та відповіді: ai.stackexchange.com/questions/7337/…

— Ніл Слейтер

8

Я можу сказати, що серед дослідників ШІ, з якими я взаємодію, набагато частіше сприймати це як дику спекуляцію, ніж як усталений факт.

Про це свідчать опитування дослідників ШІ , причому 80% мислячих сильних форм ШІ з'являться через "більше 50 років" або "ніколи", і лише кілька відсотків думають, що такі форми ШІ "поруч".

Розробники програмного забезпечення не такі, як дослідники AI, і я вважав, що міф про сингулярність набагато ширший серед розробників. Це приємне дзвінок: Комп'ютери продовжують ставати швидше, в якийсь момент вони будуть швидшими, ніж мізки, і в цей момент ми просто імітуємо мізки. Незабаром ми імітуємо щось краще, ніж мізки.

Я підозрюю, що причини дослідників ШІ менш оптимістичні, коріння в тому, що ми все ще не дуже добре розуміємо людський інтелект, або навіть достатньо розуміння мозку для його моделювання. Наприклад, за останні два тижні ми виявили невідомі раніше типи клітин головного мозку . Це створює (правильне) враження, що навіть якби у нас був досить швидкий комп'ютер, ми зовсім не близькі до того, щоб можна було точно імітувати людський мозок. Ми насправді не знаємо, що таке людський мозок.

Навіть якщо ми це знали, симуляції обов'язково втрачають. Ми можемо не мати хороших методик моделювання. Навіть якщо у нас були хороші методики, ми можемо імітувати мозок і виявити, що наше моделювання не веде себе так, як очікувалося, з причин, які ми не розуміємо. Це дуже ймовірно при моделюванні нових систем. У деякому сенсі прихильники Сингулярності нагадують людей, які передбачають, що контроль за погодою був майже в 40-х роках. Зрештою, ми вже могли тоді імітувати прості схеми погоди та генерувати прогнози. Наскільки складнішим може бути насправді генерувати ідеальні прогнози?

— Джон Дусетт
джерело

2

Це твердження звучить як початок майбутньої ЗІ зими, коли дослідники ШІ відкидають мрії про створення інтелектуальних машин і визнають, що їм нічого запропонувати. Я думаю, що ми можемо описати реальність трохи більш оптимістично. У проекті Блакитного мозку безсмертя - одна з цілей, і її можна досягти за допомогою нанороботів. Вони здатні копіювати розум з одного мозку в інший мозок. За словами футуристів, це стане реальністю у 2030 році. Принаймні Європейський Союз вважає, що це має сенс, і підтримує проект із 1 мільярдом доларів США. Ця сума достатньо серйозна?

— Мануель Родрігес

2

@ManuelRodriguez Я думаю, що це не стільки зима, скільки реалістичний і зрілий погляд на технологію. Ми дійсно можемо і дійсно є зараз вирішувати багато важких завдань з ІІ. Нерозумно переходити з цього до безсмертя, наноботів та копіювання мозку. Можливо, у нас з'являться подібні речі, але ці технології навіть не близькі до функціональних. Підтримка фундаментальних досліджень для них хороша, але це не так, як AI не вистачало фінансування у 50-60-ті роки. Витратити гроші не означає, що у нас буде безсмертя і клонований мозок через 10 років. Ідея смішна.

— Джон Дучет

Я не кажу, що я особисто вірю в безсмертя протягом 10 років. Я хочу лише уточнити, що так звані проекти "Ціла емуляція мозку", такі як Проект людського мозку в ЄС (1 мільярд доларів США), ініціатива BRAIN США (загалом 4,5 мільярда доларів США) та Китайський мозковий проект (200 мільйонів доларів США) мають особливість як їх мета. Уряд не витратить стільки на дослідження, якби вони сумніваються, що можливі наноботи.

— Мануель Родрігес

@ManuelRodriguez Звичайно, вони б. Навіть невдалий проект, який коштував великих грошей, може призвести до дуже цінних досліджень.

— ліс

3

Існує принаймні один дуже важливий і серйозний науковець з ІС, який, очевидно, вірить у створення справжнього штучного загального інтелекту та, можливо, надінтеллігентства: серед багатьох інших важливих внесків Юрген Шмідхубер, який є співавтором LSTM . Насправді він нещодавно заснував NNAISENSE з цією кінцевою метою, тобто для побудови штучного загального інтелекту загального призначення. У своїй розмові, коли творчі машини наздоганяють людину , на TEDxLausanne Шмідхубер розповідає про особливість (також відому як омега ). Дивіться також його веб-статтю Чи збігається історія? Знову? (2012) або папір2006: святкування 75 років ШІ - історія та світогляд: наступні 25 років (2007).

— nbro
джерело

Це правда, але він, безумовно, є меншиною дослідників ШІ з цього приводу. Це правда, що Шмідхубер добре зарекомендував себе, але я не думаю, що більшість дослідників ШІ сприймають його погляд на цей елемент ШІ серйозно.

— Джон Дукетт

1

@JohnDoucette Так, я з вами згоден. Я просто хотів вказати на цей цікавий винятковий випадок.

— nbro

0

Для того, щоб опинитися на одній сторінці, вам слід навести посилання про "технологічну особливість", оскільки вона містить декілька сфер (математика, статистика, філософія науки, гносеологія, соціологія, політика, економіка, якщо згадати декілька).

Як правило, коли ви розглядаєте поняття, пов’язані з adj + ai (де adj = {слабкий, сильний, повний, вузький, ...}), подих спекуляцій є досить великим і по-феєричному , так як розробник (де для розробника я припустимо, ви працюєте над проблемами, що стосуються кодування, а не керівником проекту в google x тощо), я б не хвилювався, якщо ви не будете насолоджуватися чашкою чаю з колегами під час перерви.

— Але
джерело