По-перше, "теоретична інформатика" означає різні речі для різних людей. Я думаю, що для більшості користувачів на цьому сайті історична карикатура (яка відображає деякі сучасні соціологічні тенденції) полягає в тому, що існують "Теорія А" і "Теорія В" (при цьому між ними не мається на увазі порядок зв’язку): Теорія А складається з теорії алгоритми, теорія складності, криптографія тощо. Теорія B складається з таких речей, як теорія мов програмування, теорія автоматів і т. Д. Залежно від ваших смаків в математиці ви можете віддавати перевагу одному над іншим (або подобатись обом однаково). Я більше знайомий з "Теорією А", тому дозвольте мені навести там кілька посилань:
Почніть з книги Сіпсера. Це дасть вам хороше ознайомлення з автоматами, машинами Тьюрінга, обчислюваністю, складністю Колмогорова, P vs NP та кількома іншими класами складності. Це дуже добре написано (на мою думку, це одна з найкращих написаних технічних книг коли-небудь )
Щодо алгоритмів, я маю перевагу щодо Кляйнберга-Тардоса, але там є багато хороших вступних книг. Вас може особливо зацікавити обчислювальна геометрія, яка має свій набір чудових книг.
Зважаючи на те, що ви аспірант з математики, основна галузь TCS, якої немає в цих книгах, є теорія алгебраїчної складності, яка часто тісно пов'язана з алгеброю (як комутативною, так і некомутативною), теорією представлення, теорією груп та алгебраїчною геометрією . Тут є канонічний текст, який є Бургіссер-Клаузен-Шоколлахі. Це дещо енциклопедично, тому може бути не найкращим вступом, але я не впевнений, що в цій області є справді вступна книга. Ви також можете ознайомитись з опитуваннями Чена-Каяля-Вігдерсона та Шиплка-Єгудайффа.
Після цього я б запропонував переглянути більш досконалі книги на певні теми, залежно від вашого математичного смаку:
Арора-Барак - це більш сучасна теорія складності (продовжується там, де закінчується книга Сіпсера, так би мовити), що дає вам смак прийомів, що займаються (здебільшого поєднання комбінаторики та алгебри)
Книга Юкни про булеву функціональну складність робить подібну, але більш глибоку, зокрема, для складності булевих ланцюгів (дуже комбінаторний за смаком)
Теорія геометричної складності Дивіться тут або вступ Ландсберга щодо геометрів .
У книзі О'Доннелла Аналіз булевих функцій є більш аналітичний Фур'є.
Криптографія. Більш досконалі математичні аспекти тут, як правило, є теорія чисел та алгебраїчна геометрія. Хоча ці чисті математичні аспекти представляють лише невелику частину криптографії, вони є важливим, який може вам бути цікавим. Не будучи моєю областю, я не впевнений, яка тут хороша стартова книга.
Теорія кодування. Тут математична теорія варіюється від упаковки сфери (див. Книгу Конвея та Слоана) до алгебраїчної геометрії (наприклад, книга Стіхтенота). Знову ж таки, не моя область, тому я не впевнений, чи це найкращі вихідні точки, але перегортаючи їх, ви швидко отримаєте аромат і вирішите, чи хочете ви заглибитися глибше.
І тоді є багато інших математичних тем, які з’являються лише в дослідницькій літературі, як, наприклад, зв'язки з пінами, теорія графів, С * -алгебрами (дозвольте лише вказати на гіпотезу Кадісона-Зінгера ), інваріантну теорію, теорію представлення, квадратури, і на, і на. Дивіться також ці пов'язані питання