Еквівалентність визначень Колмогорова-Складність

Існує багато способів визначення Колмогорова-Складності , і зазвичай всі ці визначення вони еквівалентні аж до постійної добавки. Тобто, якщо $K_1$ і $K_2$ є функціями складності колмогорова (визначеними різними мовами або моделями), то існує константа $c$ така, що для кожного рядка $x$ , $|K_1(x) - K_2(x)| < c$ . Я вважаю, це тому, що для кожної функції складності Колмогорова $K$ і для кожного $x$ це виконується $K(x) \le |x| +c$ , для деякої постійної $c$ .

Мене цікавлять наступні визначення для $K$ , засновані на машинах Тьюрінга

кількість станів : Визначте $K_1(x)$ як мінімальне число $q$ таке, що TM із $q$ станами виводить $x$ на порожній рядок.
$K_2(x)$ $x$ $M$ $\langle M \rangle$ $K_2(x) = \min |\langle M \rangle|$ $M$ $x$

Чи еквівалентні та ? Яке відношення між ними, і яке краще розуміє поняття складності Колмогорова, якщо вони не рівнозначні. $K_1$ $K_2$

Особливо, що мене - це швидкість збільшення з , яка, здається, не є надлінійною (або принаймні лінійною при постійній такою, що , а не ). Розглянемо найпростіший TM, який видає - той, що просто кодує як частину його станів і функцій переходів. відразу бачимо, що . Однак кодування тієї ж машини набагато більше, і я отримую тривіальну межу -. $K_2$ $x$ $C>1$ $K_2 < C|x|$ $|x|+c$ $x$ $x$ $K_1(x) \le |x|+1$ $K_2(x) \le |x|\log |x|$

computability kolmogorov-complexity

— Ран Г.
джерело

Існує більше

машин з

станами, а їх середній розмір становить щонайменше

, тому навряд чи вони відрізняються лише постійною добавкою.

2^{n^{2}}

$2^{n^2}$

n

$n$

n^{2}

$n^2$

— Каве

Добре відома межа, що

для деяких фіксованих

не залежно від

. Це тому, що ми можемо кодувати

у мову, що не містить префіксу, просто подвоївши кожен біт

а потім закінчивши

. Це займає

біта для зображення

. Таким чином, оскільки

визначається в термінах універсальної машини без префіксу,

K_{2} (x) \leq c + 2 | x |

$K_2(x) \leq c + 2|x|$

c

$c$

x

$x$

x

$x$

x

$x$

01

$01$

2 | x | + 2

$2|x| + 2$

x

$x$

K_{2}

$K_2$

для деяких фіксованих

. Це можна вдосконалити за допомогою більш розумного способу кодування

у вільну мову префікса.

K_{2} (x) \leq 2 | x | + 2 + c^{'}

$K_2(x) \leq 2|x| + 2 + c'$

c

$c$

x

$x$

— Карл Маммерт

Я не бачу як. Здається, що або

задано як частину кодування (як необроблені дані), або ви повинні побудувати

за допомогою свого стану машини. Перший варіант, здається, обман, і я не бачу, як він може бути порівнянним з другим варіантом (який має на увазі

)

x

$x$

x

$x$

K_{1}

$K_1$

— Ran G.

@Ran G .: Ключовим моментом є теорема інваріантності, описана на en.wikipedia.org/wiki/Invariance_theorem . Якщо я можу описати будь-яку ефективну систему, що має темпи зростання

тоді універсальна машина Тьюрінга (як ви описуєте для

) буде відповідати цьому в межах постійної добавки. Універсальна машина є один , який приймає

є введенням і повертає результат ,

, якщо

привали.

2 | x |

$2|x|$

K_{2}

$K_2$

⟨ M ⟩

$\langle M\rangle$

M

$M$

M

$M$

— Карл Маммерт

Я заздалегідь прошу вибачення за те, що даю занадто багато деталей, але я збираюся суперечити людям.

Про $K(x)≤K'(x)+c$

Той факт, що як правило, походить від перекладача мови опису №2 на мову опису №1, а не з перекладу з програм №2 в програми №1. $K_1(x)≤K_2(x)+c$

Наприклад, і ви отримуєте цю нерівність просто так: $K_\mathtt{C}(x)≤K_\mathtt{Python}(x)+c_\mathtt{py2c}$

void py_run(char * s) {
    // code of your Python interpreter
}

int main(void) {
    py_run("Put here your Python program of size Kpython(x)");
}

Тоді ваша константа буде чимось на зразок де - це кількість біт для цього коду, а - це розмір офіційного інтерпретатора Python, написаний в C. Звичайно, вам потрібно лише інтерпретувати те, що можливо в Ваша мова опису для Python, щоб Ви могли зробити краще, ніж 69 Мб :-) $c_\mathtt{py2c}$ $528+490240688$ $528$ $490240688$

Важливо те, що ви можете записувати програму Python лінійно у свій код C. Наприклад, мова, де потрібно вставити "BANANA" між кожним символом, не є дуже хорошою програмою опису, а властивість тоді не відповідає дійсності. (Якщо мова опису дозволяє вам записувати дані в окремий файл або в блок, ця проблема зникає)

Чому ваш є хибним $K_1(x)=q$

Проблема з вашим визначенням полягає в тому, що вам може знадобитися більше бітів для опису машини Тьюрінга з станами, оскільки вам потрібно кодувати переходи. $K_1$ $q$ $q$

Отже, жоден і , ймовірно, не еквівалентний, але це в основному вина . Я думаю, що ми можемо довести, що для всіх існує така, що . Звичайно, будь-якого достатньо, щоб спростувати той факт, що не є дійсною функцією, оскільки це означатиме, що ми можемо кодувати більше всіх можливих рядків довжини $K_1$ $K_2$ $K_1$ $a>0$ $c_a$ $K_1(x)≤a|x|+c_a$ $a<1$ $K_1$ $2^n$ в біт. $n$ $an+c_a$

Але розмір неймовірно щільно пов'язаний при будівництві машин Тьюрінга. Ідея полягає в тому, що в блоці станів є способів знайти переходи для кожного стану, і це краще, ніж у звичайних способах можна заповнити бітів. Потім ви можете зберігати в кожному блоці біт інформації. (не тому що вам потрібно входити та виходити з блоку так чи інакше) $b$ $b^{2b}$ $2^b$ $b$ $\log_2 b$ $2\log_2 b$

Так, так ... З блоками розміром ви могли б довести . Але я вже занадто багато писав про те, чому кількість станів не є дійсною функцією складності Колмогорова. Якщо ви хочете, щоб я докладно розробив, я. $2^{1/a}$ $K_1(x)≤a|x|+c_a$

Тепер про $K_2$

Наївна описова мова відповідає приблизно (тобто для кожного наступного стану та деталі про запис і завершення). $K_2(x)=q\cdot 2 \cdot (\log_2 q + 2)$ $\log_2q$

Як вам здається, я переконаний, що кращим / шахрайським способом було б дозволити кодувати "дані" в машину Тьюрінга, можливо, додавши бінарний тег мовою опису, який говорить, чи є стан станом даних ( що просто напише трохи і перейде до наступного стану) або якщо він робить щось інше. Таким чином, ви можете зберігати один біт вашого в одному біті вашої мови опису. $x$

Однак якщо ви зберігаєте той самий ви можете скористатися тією ж методикою, яку я використовував у попередній частині, щоб зберегти кілька біт, але я, здається, застряг у (для будь-якого ) .. можливо менше, ніж , навіть, але отримати здається важким. (І я думаю, що це має бути , навіть не $K_2$ $K_2(x)≤a|x|\log|x|+c$ $a>0$ $\log|x|$ $O(|x|)$ $|x|$ .) $O(|x|)$

— jmad
джерело

ви стверджуєте, що

не є функцією складності колгорогова? Це дуже дивно для мене, оскільки

- це фактично визначення, яке використовується в деякому курсі введення в обчислюваність, який я колись брав (не те, що він нічого не говорить про його правильність).

K_{1}

$K_1$

K_{1}

$K_1$

— Ран Г.

Добре той факт, що

досить тривожно. Врахуйте це: є

можливих слів з

бітів, і ви можете їх кодувати за допомогою

K_{1} (x) \leq \frac{1}{2} | x | + c

$K_1(x)≤\frac12|x|+c$

2^{n}

$2^n$

n

$n$

біт? Це означає, що

\frac{1}{2} n + c

$\frac12n+c$

(кодування має бути ін'єктивним)

2^{n} = O (2^{\frac{1}{2} n})

$2^n=O(2^{\frac12n})$

— jmad

Що робити, якщо в програмі python є символи, зарезервовані C?

— PyRulez

Еквівалентність визначень Колмогорова-Складність

Про K(x)≤K′(x)+cK(x)≤K′(x)+cK(x)≤K'(x)+c

Чому ваш є хибнимK1(x)=qK1(x)=qK_1(x)=q

Тепер про K2K2K_2

Про $K(x)≤K'(x)+c$

Чому ваш є хибним $K_1(x)=q$

Тепер про $K_2$