Наскільки проблема білого шуму для використання в реальному світі DNN?

Я читав, що глибокі нейронні мережі можна порівняно легко обдурити ( посилання ), щоб дати високу впевненість у розпізнаванні синтетичних / штучних образів, які повністю (або принаймні в основному) поза предметом довіри.

Особисто я не бачу великої проблеми з тим, що DNN надає високу впевненість цим синтетичним / штучним зображенням, але я думаю, що надання високої впевненості для білого шуму ( посилання ) може бути проблемою, оскільки це справді природне явище, яке може бачити камера в реальному світі.

Наскільки проблема білого шуму для використання в реальному світі DNN? Чи можна виявити такі помилкові спрацьовування від простого шуму якось запобігти?

Білий шум, який дурить ДНЗ, насправді не білий шум. Це було змінено так само, як і змінені синтетичні неправильно класифіковані зображення. Ви повинні змінити багато вхідних пікселів точно таким чином, щоб ці невеликі зміни не були помітні, а розповсюджувались через мережу, що додають до помилкової класифікації. Це відбудеться не випадково.