Чи може машина Больцмана зберігати більше візерунків, ніж сітка Хопфілда?

_{Це із закритої бета-версії для AI, з цим питанням розміщується номер користувача 47. Усі кредити їм.}

За даними Вікіпедії ,

Машини Больцмана можна розглядати як стохастичний, генеративний аналог сіток Hopfield.

Обидва - це періодичні нейронні мережі, які можна навчити вивчати бітові структури. Тоді при поданні з частковим малюнком мережа отримає повний повний візерунок.

Доведено, що мережі Hopfield мають місткість 0,138 (наприклад, приблизно 138 бітових векторів можна відкликати зі сховища на кожні 1000 вузлів, Hertz 1991).

Оскільки машина Больцмана є стохастичною, я розумію, що вона не завжди повинна показувати одну і ту ж картину, коли різниця енергій між однією збереженою схемою та іншою схожа. Але через цю стохастичність, можливо, це дозволяє більш щільне зберігання шаблонів, але без гарантії, що ви завжди отримаєте "найближчий" зразок з точки зору різниці енергії. Це було б правдою? Або мережа Hopfield змогла б зберігати більше візерунків?

Насправді ви зрозуміли, що інтуїція правильна, машина Больцмана здатна утримувати у своїй пам’яті більше, ніж мережа Хопфілда, завдяки своїй стохастичній природі, як досліджено в цій роботі. У роботі вони зазначають, що ємність становить близько 0,6. Після цього співвідношення воно починає руйнуватися і додає набагато більше шуму відкликаним шаблонам.