З згортанням ви не збираєтеся стикатися з будь-якими проблемами стабільності, оскільки немає рекурсивної фільтрації, тому ви не збираєтеся накопичувати помилки. Іншими словами, у системі всі нулі, ніяких полюсів. Я чув анекдотично, але не підтвердив для себе, що на основі FFT згортання має меншу помилку, ніж згортання часової області, просто тому, що вона має арифметичні операції O (n log n), а не O (n ^ 2).
Як правило, наскільки мені відомо, фільтри Баттерворта реалізуються як рекурсивні (IIR) фільтри, тож це вже інша тема. Фільтри IIR мають полюси, а також нулі, тому на практиці можуть виникнути проблеми зі стабільністю. Крім того, для фільтрів IIR методи, засновані на FFT, не є варіантом, але, в сторону, фільтри IIR, як правило, дуже низькі.
Що стосується проблем стабільності з фільтрами IIR, вони, як правило, мають проблеми при більш високих порядках - я просто викину число і скажу, що приблизно 6-й порядок штовхає його. Натомість вони, як правило, реалізуються як каскадні біквади (секції фільтрів 2-го порядку). Для вашого фільтра 5-го порядку запишіть його як функцію передачі z-домену (це буде раціональна функція 5-го ступеня), а потім розподіліть її на 5 полюсів і 5 нулів. Зберіть складні кон'югати, і у вас буде два біквади та один фільтр першого порядку. Взагалі проблеми стійкості, як правило, вирішуються, коли полюси наближаються до одиничного кола.
Також можуть виникати проблеми із шумовими та обмежувальними циклами у фільтрах IIR, тому існують різні топології фільтрів (тобто пряма форма I, пряма форма II), які мають різні числові властивості, але я б не переосмислював цей момент - просто використовуйте подвійний- точність, і це майже напевно буде досить добре.