Запитання з тегом «floating-point»

У мене велика модель (~ 5000 рядків), написана на C. Це серійна програма, де ніде не утворюється випадкових чисел. Він використовує бібліотеку FFTW для функцій, що використовують FFT - я не знаю деталей реалізації FFTW, але я припускаю, що функції в ньому також детерміновані (виправте мене, якщо я помиляюся). Проблема, …

10 floating-point  precision  computer-arithmetic 

Я це прочитав (1) Погані кондиціоновані операції слід виконувати перед добре кондиціонованими. Як приклад, слід обчислити як оскільки віднімання погано обумовлене, а множення не відбувається.xz−yzxz−yzxz-yz(x−y)z(x−y)z(x-y)z Однак аналіз помилок першого порядку обох алгоритмів виявляє, що вони відрізняються лише коефіцієнтом три (*), і я не бачу, чому можна узагальнити це до твердження …

10 stability  floating-point 

Я бачу дуже мало бібліотек / пакетів обчислень, що не мають плаваючої точки, навколо. Враховуючи різні неточності подання плаваючої точки, виникає питання, чому не існує принаймні деяких полів, де ця підвищена точність може бути вартий тонкощів роботи з фіксованою точкою. Чи існують ОСНОВНІ труднощі у використанні, скажімо, вирішувача власного значення …

10 floating-point  numerics 

У мене є числова функція, що f(x, y)повертає подвійне число з плаваючою комою, яке реалізує певну формулу, і я хочу перевірити, чи правильно воно проти аналітичних виразів для всіх комбінацій параметрів xі yщо мене цікавить. Який правильний спосіб порівняння обчислених та аналітичні числа з плаваючою комою? Скажімо, два числа є …

10 floating-point 

Нещодавно я стикався з химерною проблемою з FORTRAN95. Я ініціалізував змінні X і Y наступним чином: X=1.0 Y=0.1 Пізніше я додаю їх разом і друкую результат: 1.10000000149012 Після вивчення змінних, здається, що 0,1 не представлено у подвійній точності з повною точністю. Чи є спосіб уникнути цього?

10 fortran  floating-point