Як теоретичні інформатики ставляться до безпеки?

Коли я думаю про програмне забезпечення, яке є небезпечним, я вважаю, що воно "занадто корисне" і зловмисником може бути зловживано. Тож у певному сенсі забезпечення програмного забезпечення - це зробити програмне забезпечення менш корисним. У теоретичній інформатиці ви не працюєте з реальним світом. То чи є проблеми з безпекою при роботі з чистою теорією? Або з іншого боку монети, чи впливає теоретична комп’ютерна наука на реальний світ людей, які отримують злом? Якщо так, то які теми безпеки вважаються теоретичними?

Ваша інтуїція, що "незахищеність" зумовлена ​​"занадто корисним" програмним забезпеченням, є певним чином. Існує велика і зростаюча теоретична література про "диференціальну конфіденційність", яка формалізує вашу інтуїцію. Дивіться, наприклад, тут: research.microsoft.com/en-us/projects/databaseprivacy/dwork.pdf

$\epsilon$$e^\epsilon$

$0$

Кілька способів:

• Криптографія (надзвичайно широке узагальнення інформаційної безпеки, яке варіюється від конфіденційності до шифрування)
• Офіційна перевірка коду (також дивіться проект seL4 )
• Допуск та виправлення помилок
• Теоретичні способи попередження зловмисного програмного забезпечення ( іншого ), включаючи підписання коду
• Тамперне обладнання
• Точкова обфузація (теоретичний підхід до інформації, теоретично захищеної кодовою обробкою)
• Машинне навчання допомагає запобігати та попереджати спроби злому в режимі реального часу (подумайте Active Wards та Spam Filtering ).
• Набагато більше.

Розглянемо приклад конфіденційності провідної еквівалентної системи , яка насправді такого не існує: через бентежно базові теоретичні огляди (pdf), WEP може бути важким за кілька хвилин.

У "Чому комп’ютери небезпечні", - промовив Брюс Шнейер

Техніка безпеки включає програмування комп'ютера Сатани.

І комп'ютер Сатани важко перевірити.

Існує велика кількість реальної мотивації для вивчення потокових алгоритмів, що надходять із виявлення мережевих вторгнень. У статті нижче використовуються алгоритми потокової передачі для емпіричної ентропії для виявлення аномалій у вашому мережевому трафіку.

Ю Гу, Ендрю Маккаллум та Дон Тослі. Виявлення аномалій у мережевому трафіку за допомогою максимальної оцінки ентропії. В IMC '05: Матеріали 5-ї конференції ACM SIGCOMM про Інтернет-вимірювання, сторінки 1–6, 2005

На відміну від інших відповідей, це більше узгоджується з "речами, про які ми повинні турбуватися, коли говоримо, що щось є" очевидно безпечним "", на відміну від місць, де TCS використовується в безпеці. Таким чином, він вирішує перше питання щодо безпеки при роботі з теорією.

Як кажуть хакери, теоретичні результати часто дотичні до безпеки в реальному світі. Такий аргумент був зроблений більш теоретичним, науковим та точним Альфредом Менезесом та Нілом Кобліцом у їхній серії " Інший погляд " (попередження: сайт здається мені трохи конфронтаційним, але я думаю, що основна ідея ставити під сумнів припущення дуже важливо). Вони вказують на слабкі сторони стандартних припущень у криптографії, навіть у семінарських роботах.

Деякі приклади (цитування / перефразовування декількох пунктів з їх сайту):

1. Теорема про безпеку є умовною - вона передбачає незрозумілість якоїсь математичної задачі.

2. Часто припущення про інтрактабельність робиться для складної та надуманої проблеми: в деяких випадках проблема тривіально еквівалентна проблемі криптоаналізу для протоколу, безпека якого "доведена".

3. Іноді доказ має великий проміжок у герметичності, але розміри параметрів все ж рекомендуються так, як ніби вони були чіткими. У таких випадках доказ зазвичай дає марну нижню межу тривалості успішної атаки. Крім того, асимптотичний результат не обов'язково забезпечує гарантію безпеки параметрів у діапазоні, що використовується на практиці.

4. Теорема безпеки використовує певну модель безпеки. Окремі атаки - особливо атаки бічних каналів - дуже важкі для моделювання, а запропоновані моделі, на жаль, неадекватні.

Докази теореми певною мірою використовувались для підтвердження правильності програмного забезпечення, апаратних засобів та протоколів. Дивіться, наприклад, тут чи тут .

Проблема потоку даних небажаними способами через програми (тим самим спричиняючи потенційний витік) теоретично моделюється з використанням поняття (не) втручання; отримати покажчики тут .

Рішучість є головним питанням у вивченні мови програмування. Тобто багато зусиль вкладається в побудову мов програмування, які приймають лише код, який задовольняє певним властивостям. Типові статичні мови дають лише слабкі гарантії, як, наприклад, відхилення програми, якщо певні методи не існують, але уявіть, чи мова також може викинути програми, які, наприклад, неправильно використовують мютекси або намагаються прочитати поза межами регіонів пам'яті. Зрозуміло, що питання щодо вирішення проблем виникають швидко (найпростіший сценарій: уточнюйте, що ваш компілятор повинен приймати лише програми, що припиняються), і, звичайно, є проблеми щодо ефективності (перевірка типу ML має подвійні експоненціальні випадки).

У будь-якому випадку, дослідницьке співтовариство PL дуже зацікавлене у безпеці (чи довіряєте ви своєму браузеру виконувати довільний іноземний код ?!), а їхні запитання призводять до багатьох питань класичної теорії CS.