Які недоліки в рамках ШІ Джеффа Хокінса?


19

У 2004 році Джефф Хокінс , винахідник пальмового пілота, опублікував дуже цікаву книгу під назвою « Інтелект» , в якій він детально розповідає про те, як працює неокортекс людини.

Ця теорія називається рамкою передбачення пам'яті і вона має деякі вражаючі особливості, наприклад, не тільки знизу вгору (подача вперед), але також обробку інформації згори вниз та можливість робити одночасні, але дискретні прогнози різних майбутніх сценаріїв (як описано у цій роботі ).

Обіцянка системи пам’яті-передбачення - це непідконтрольне покоління стійких уявлень про високий рівень майбутніх можливостей. Щось, що може революціонізувати, ймовірно, цілу купу дослідницьких напрямків ШІ.

Хокінс заснував компанію і приступив до втілення своїх ідей. На жаль, більш ніж через десять років обіцянка його ідей все ще не виконана. Поки реалізація використовується лише для виявлення аномалії, яка є якоюсь протилежною тому, що ви насправді хочете зробити. Замість того, щоб витягувати розуміння, ви витяжете екземпляри, які ваша штучна кора не розуміє.

Моє запитання полягає в тому, яким чином Хокінс не відповідає структурі. Які конкретні чи концептуальні проблеми, які поки що заважають його теорії працювати на практиці?

Відповіді:


11

Коротка відповідь полягає в тому, що бачення Хокінса ще належить реалізувати широкодоступним способом, особливо незамінними частинами, що стосуються прогнозування.

Довга відповідь полягає в тому, що я прочитав книгу Хокінса кілька років тому і був схвильований можливостями ієрархічної тимчасової пам'яті (HTM). Я все ще є, незважаючи на те, що у мене є кілька застережень щодо деяких його філософських міркувань щодо смислів свідомості, вільної волі та інших подібних тем. Я не буду детальніше розглянути ці побоювання, оскільки вони не є основною причиною, чому мережі HTM не досягли успіху настільки, як очікувалося на сьогодні: наскільки мені відомо, Numenta реалізував лише усічену версію свого бачення. Вони залишили більшу частину архітектури передбачення, яка відіграє настільки критичну роль у теоріях Хокінса. Як Герод М. Бонхофф виклав її у відмінній тезі 1 про HTM,

Найважливішим проектним рішенням, яке прийняв Numenta, було усунення зворотного зв’язку в межах ієрархії і замість цього вибрати моделювання цієї теоретичної концепції, використовуючи лише алгоритми об'єднання даних для зважування. Це рішення негайно підозрюється та порушує ключові поняття HTM. Зворотній зв'язок, наполягає Хокінс, має життєво важливе значення для коркової функції і є головним для його теорій. Тим не менш, Numenta стверджує, що більшість застосованих HTM проблем можна вирішити, використовуючи алгоритми їх реалізації та власні алгоритми об'єднання ".

Я все ще вивчаю мотузки в цій галузі і не можу сказати, чи Numenta з тих пір відмовив від цього підходу на користь повної реалізації ідей Хокінса, особливо всієї важливої ​​архітектури прогнозування. Навіть якщо вони є, це дизайнерське рішення, ймовірно, затягнуло прийняття на багато років. Це сама по собі не критика; можливо, обчислювальні витрати на відстеження значень прогнозування та оновлення їх на ходу були занадто великими для тогочасних витрат, крім звичайних витрат на обробку нейронних мереж, не залишаючи їм іншого шляху, крім того, щоб спробувати половину заходів, як їх власне об'єднання. механізми. Тим не менш, всі найкращі наукові роботи, які я прочитав з цього часу, вирішили повторно реалізувати алгоритми, а не покладатися на платформу Numenta, як правило, через відсутність функцій прогнозування.Технічний звіт Мальтоні для лабораторії біометричної системи Університету Болоньї 2 . Однак у всіх цих випадках немає доступного програмного забезпечення для негайного використання їх варіантів HTM (наскільки я знаю). Суть у всьому цьому полягає в тому, що як знаменита сентенція Г.К. Честертона про християнство, "HTM не судили і не хотіли; вони були важкими, і вони не перевірялися". Оскільки Numenta відмовився від кроків передбачення, я припускаю, що вони були б основними каменем спотикання, які очікують усіх, хто хоче зашифрувати повне бачення Хокінса щодо того, яким повинен бути HTM.

1 Bonhoff, Gerod M., 2008, Використання ієрархічної тимчасової пам'яті для виявлення аномальної активності в мережі. Представлена ​​в березні 2008 р. В Технологічному інституті ВПС, ВПС Райт-Паттерсон, штат Огайо.

2 Мальтоні, Девіде, 2011, Розпізнавання візерунків ієрархічною тимчасовою пам'яттю. Технічний звіт DEIS, опублікований 13 квітня 2011 р. Лабораторія біометричної системи Університету Болоньї: Болонья, Італія.


1
Чудова відповідь! Хочу додати, що, очевидно, IBM зараз
спрацьовує

1

10 років до виробництва готові?

Давайте поставимо це в перспективі. Персептрон був представлений у 1957 році. Він навіть не почав цвісти як придатну модель до виходу книг PDP в 1986 році. Для тих, хто зберігає бал: 29 років.

З книг PDP ми не бачили, що до останнього десятиліття розвивалися як корисні глибокі мережі. Якщо ви приймаєте завдання розпізнавання котів Ендрю Нг та Джеффа Діна як глибоку мережу, що визначає подію, це 2012 рік. Напевно, більше 25 років до виробництва готові.

https://en.wikipedia.org/wiki/Timeline_of_machine_learning


Це не відповідь на запитання. Крім того, тепер у нас вже є комп'ютери, які є досить швидкими для досягнення дуже вражаючих досягнень ШІ. Але цих досягнень у HTM не відбувається.
BlindKungFuMaster
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.