Що означає "рішення закритої форми"?

82

Я досить часто зустрічаю термін "рішення закритої форми". Що означає рішення закритої форми? Як можна визначити, чи існує розв’язання формальної форми для даної проблеми? Шукаючи в Інтернеті, я знайшов деяку інформацію, але нічого в контексті розробки статистичної чи ймовірнісної моделі / рішення.

Я дуже добре розумію регресію, тому, якщо хтось може пояснити цю концепцію з посиланням на регресію чи підгонку моделі, її буде легко споживати. :)

— arjsgh21
джерело

4

Це питання, здається, було деяким магнітом для відповідей низької якості; Я подумав, що, мабуть, це слід захистити зараз.

— Glen_b

37

"Рівняння, як кажуть, є рішенням закритої форми, якщо воно вирішує задану задачу щодо функцій та математичних операцій із заданого загальноприйнятого набору. Наприклад, нескінченна сума, як правило, не вважається закритою формою. Однак вибір того, що називати закритою формою, а що ні, є досить довільним, оскільки нову функцію "закритої форми" можна просто визначити через нескінченну суму ". --Вольфрам Альфа

і

"У математиці вираз називається виразом закритої форми, якщо його можна виразити аналітично через кінцеву кількість певних" відомих "функцій. Зазвичай ці відомі функції визначаються як елементарні функції - константи, одна змінна x, елементарні операції арифметики (+ - × ÷), n-го коренів, експонента та логарифму (які, таким чином, також включають тригонометричні функції і зворотні тригонометричні функції). виразу закритої форми ". - Вікіпедія

Прикладом рішення закритої форми в лінійній регресії буде найменше квадратне рівняння

\hat{β} = (X^{T} X)^{- 1} X^{T} y

$\hat\beta=(X^TX)^{-1}X^Ty$

Враховуючи, що всі сценарії регресії можуть бути викладені як проблема вирішення системи рівнянь, коли б не було рішення закритої форми? Недобре поставлена або рідкісна проблема потребуватиме орієнтовного рішення, тож чи є той випадок, коли рішення закритої форми не існує? Як щодо того, коли використовується кон'югований спуск градієнта з регуляризацією?

— arjsgh21

Я вважаю цю дискусію корисною - "Вирішення параметрів регресії у закритому вигляді та градієнтному спуску" посилання

— arjsgh21

@ arjsgh21 вам все ж потрібні додаткові роз'яснення, що означає бути рішенням закритої форми? Тому що, як видається, ваше нове запитання стосується того, коли є проблеми закритої форми (чи ні) у проблемах регресії, що є абсолютно новою темою, і на мою думку, його слід задавати як нове питання.

Спасибі BabakP. Я думаю, що я отримую це зараз, з посиланням на регресію, а також інакше.

— arjsgh21

1

Мене бентежить, чому CrossValided - це єдиний "форум обміну ставками", який послідовно підтримує заплутані, але правильні відповіді на відповіді, які забезпечують розуміння. Найкраща відповідь на поточний урожай - це @ Luca's, і він не оцінений. Щоправда, воно лише надає посилання, але чудове посилання, яке легко зрозуміти. Ця надто ерудована відповідь лише допомагає вирішити проблему для людей, які вже знають відповідь. :(

— Майк Вільямсон

17

Більшість процедур оцінювання передбачає пошук параметрів, що мінімізують (або максимізують) деяку об'єктивну функцію. Наприклад, за допомогою OLS ми мінімізуємо суму залишків у квадраті. За допомогою максимальної оцінки ймовірності ми максимізуємо функцію вірогідності журналу. Різниця тривіальна: мінімізація може бути перетворена на максимізацію, використовуючи негатив цільової функції.

Іноді цю проблему можна вирішити алгебраїчно, виробляючи рішення закритої форми. За допомогою OLS ви вирішуєте систему умов першого замовлення та отримуєте звичну формулу (хоча для оцінки відповіді вам все ще потрібен комп'ютер). В інших випадках це математично неможливо, і вам потрібно шукати значення параметрів за допомогою комп'ютера. У цьому випадку більшу роль відіграють комп'ютер та алгоритм. Нелінійні найменші квадрати - один із прикладів. Ви не отримуєте явної формули; все, що ви отримуєте, - це рецепт, який вам потрібно виконати на комп’ютері. Рецепт може починатися з початкової здогадки про те, якими можуть бути параметри та як вони можуть змінюватися. Потім ви спробуєте різні комбінації параметрів і побачите, який з них дає вам найнижче / найвище значення функції. Це підхід грубої сили і займає тривалий час. Наприклад, $10^5$ комбінацій, і це просто ставить вас у сусідство правильної відповіді, якщо вам пощастить. Такий підхід називається пошук сітки.

Або ви можете почати з здогадки та вдосконалити цю здогадку в якомусь напрямку, поки поліпшення цільової функції не будуть меншими, ніж якесь значення. Зазвичай їх називають градієнтними методами (хоча є й інші, які не використовують градієнт для вибору в якому напрямку рухатися, як генетичні алгоритми та імітаційний відпал). Такі проблеми, як ця, гарантують, що ви швидко знайдете правильну відповідь (квадратичні цільові функції). Інші не дають такої гарантії. Ви можете переживати, що ви зациклювались на локальному, а не глобальному, оптимальному, тому ви спробуєте цілий ряд початкових здогадок. Ви можете виявити, що дико різні параметри дають вам однакове значення цільової функції, тому ви не знаєте, який набір вибрати.

Ось приємний спосіб отримати інтуїцію. Припустимо, у вас була проста модель експоненціальної регресії, де єдиним регресором є перехоплення:

E [y] = \exp {α}

$\begin{equation} E[y]=\exp\{\alpha\} \end{equation}$

функцією є

Q_{N} (α) = - \frac{1}{2 N} \sum_{i}^{N} {(y_{i} - \exp {α})}^{2}

$\begin{equation} Q_N(\alpha)=-\frac{1}{2N} \sum_i^N \left( y_i - \exp\{\alpha\} \right)^2 \end{equation}$

З цією простою проблемою можливі обидва підходи. Розв’язок закритої форми, який ви отримуєте, беручи похідну, - . Ви також можете переконатися, що що-небудь інше дає вам більше значення цільової функції, включивши натомість . Якщо у вас були деякі регресори, аналітичне рішення виходить у вікно. $\alpha^* = \ln \bar y$ $\ln (\bar y + k)$

— Мастеров Дмитро Васильович
джерело

Ви неявно порівнювали "аналітичний" із "закритою формою" в останньому реченні?

— whuber

2

Я думав тоді синонімом: mathworld.wolfram.com/Analytic.html

— Мастеров Димитрій Вікторович

Чи бачили ви коментарі розбіжностей у кінці цієї сторінки MathWorld? Проблема полягає в тому, що в нинішньому контексті "аналітичну" можна розумно зрозуміти декількома різними способами. Також "аналітичний" та "аналітичний" не означають абсолютно одне й те саме (як і "історичний" та "історичний" мають різні значення).

— whuber

Я не знаю, що існує різниця між "аналітичним рішенням", "аналітичним рішенням" та "закритою формою". MathWorld не має окремого запису для аналітичного, і він визначає аналітичне рішення проблеми як таке, яке можна записати у «закритому вигляді» з точки зору відомих функцій, констант тощо. MW говорить, що аналітичні та аналітичні варіанти є . Розмежування між історичним та історичним справедливим, але я не дотримуюся того, що стосується цього випадку. Якщо я помиляюся, будь ласка, виправте мене.

— Мастеров Димитрій Вікторович

2

У багатьох математичних контекстах "аналітичний" - це точний мистецький термін, застосований до будь-якої функції, що локально виражається, як силовий ряд із позитивним радіусом конвергенції, тоді як "аналітичний" набагато ширше пов'язаний з декомпозицією на основні частини. Як вказують цитати БабакП, "закрита форма" набуває значення лише в деякому контексті загальноприйнятих процедур поєднання значень (як правило, передбачається, що вони мають елементарну, але не трансцендентну функції).

— whuber

13

Я думаю, що цей веб-сайт пропонує просту інтуїцію, уривок якої:

Рішення закритої форми (або вираз із закритою формою) - це будь-яка формула, яку можна оцінити за допомогою обмеженої кількості стандартних операцій. ... Числове рішення - це будь-яке наближення, яке можна оцінити за допомогою обмеженої кількості стандартних операцій. Рішення закритої форми та числові рішення схожі тим, що їх обидва можна оцінити за допомогою обмеженої кількості стандартних операцій. Вони відрізняються тим, що рішення закритої форми є точним, тоді як числове рішення є лише приблизним.

— Лука Бертінетто
джерело

2

Надаючи лише посилання, це, безумовно, є найбільш корисною відповіддю.

— Майк Вільямсон

2

Включення Уейна цитатою із посилання цілком напевно покращило відповідь.

— Glen_b

2

Більше того, посилання Лука тепер мертвий.

— Нарамсім

-2

Шукаєте терміни мирян чи болісну багатослівність, яка суворо визначає значення? Я припускаю терміни, коли іншого можна знайти скрізь. Скажімо, ви хотіли рішення закритого форми квадратного кореня з 8. Розчин закритої форми дорівнює 2 * (2) ^ 1/2 або вдвічі більше квадратного кореня на два. Це на відміну від розчину незакритої форми 2.8284. (див. квадратний корінь у Вікіпедії 2, щоб побачити, ніж у 69 десяткових знаках це точно в межах 1/10 000) Один абсолютно визначений у математичному вираженні, тоді як інший - ні. Рішення закритої форми дає точну відповідь, і те, що не є закритою формою, є наближенням, але ви можете отримати рішення закритої форми наближене до рішення закритої форми. Звучить суперечливо інтуїтивно, але якщо вам це потрібно точніше, тоді просто розшліфуйте трохи більше обчислень.

— Сирник
джерело

3

Це незвичне вживання терміна "закрита форма". Не могли б ви надати посилання?

— whuber

1

Не впевнений, що я можу достатньо забезпечити рівень супровідної документації, щоб виграти дискусію з цього питання, не маючи більшої роботи, ніж я готовий викласти, але тут йдеться. Подивіться у Вікіпедії на вираз із закритою формою. В останніх двох розділах описано, як рішення закритої форми не обов'язково потрібні, оскільки числові обчислення зазвичай можна успішно використовувати для отримання рішення та наступний розділ, який описує, як деякі математичні програми намагаються генерувати рішення закритої форми з числових значень. Рішення закритої форми є точними (не

— вистачає

5

Вікіпедія чудова як довідник. У цьому випадку, здається, ви, можливо, співвідносили "вираз із закритою формою" з "номером закритої форми". Вони не означають однакових речей.

— whuber

-2

Закрита форма = закрита (функціональна) форма

Закрито означає, що більше нічого не може зайти всередину; тобто немає альтернативи => лише одне рішення => лише одна функція, яка може встановити взаємозв'язок між результатом і прогнозами.

— Вівек Астванш
джерело

3

Це також незвичне вживання терміна. Чи можете ви надати кілька прикладів використання цього контексту? Я в основному здивований, тому що часто чують закриту форму / відсутність закритої форми щодо інтегралів, які насправді не мають результату чи прогнозів.

— Метт Крауз