Запитання з тегом «numeric-precision»

Я знаю, що арифметика з плаваючою комою має проблеми з точністю. Зазвичай я їх долаю, переходячи до фіксованого десяткового представлення числа, або просто нехтуючи помилкою. Однак я не знаю, які причини цієї неточності. Чому існує так багато проблем із округленням з плаваючими числами?

62 floating-point  numeric-precision 

Мови програмування, як схема (R5RS) та Python ( див. Це запитання ), спрямовуються до найближчого парного цілого числа, коли значення точно знаходиться між навколишніми цілими числами. Які міркування за цим? Чи є математична ідея, яка робить наступні обчислення легшими для міркувань? (R5RS згадує стандарт плаваючої крапки IEEE як джерело такої …

44 scheme  numbers  numeric-precision  python-3.x 

Досліджуючи точність чисел з плаваючою комою, я десь бачив вислів, подібний до " float і double" ( призначені для / часто використовуються в ) інженерно-науковому розрахунку " З мого розуміння, сила поплавків і подвійних значень - це об'єм пам'яті, яку вони використовують для своєї (хорошої, але не досконалої) точності. Я …

33 floating-point  numeric-precision 

Комп'ютери мають проблеми зі зберіганням дробових чисел, де знаменник - це щось інше, ніж рішення для 2 ^ x. Це тому, що перша цифра після десяткової варто 1/2, друга 1/4 (або 1 / (2 ^ 1) і 1 / (2 ^ 2)) і т.д. Навіщо мати справу з усілякими помилками …

24 numbers  numeric-precision 

Створюючи додаток, який займається великою кількістю математичних обчислень, я зіткнувся з проблемою, що певні числа викликають помилки округлення. Хоча я розумію, що плаваюча точка не є точною , проблема полягає в тому, як я маю справу з точними числами, щоб переконатися, що коли обчислення попередньо формуються на них, округлення плаваючої …

18 floating-point  numeric-precision 

У числових даних дуже важливо вміти виявляти нестабільні схеми та підвищувати їх стійкість. Як визначити нестабільні обчислення з плаваючою комою? Я працюю над дуже складним моделюванням, коли багато числових схем працюють разом, і я шукаю методику для визначення його слабких частин. Я працюю над фізичною моделлю, що включає диференціальні рівняння. …

15 numbers  numeric-precision 

Я намагаюся подумати над тим, як би я міг робити обчислення на надзвичайно великій кількості (до infinitum - intergers no floats), якщо мовна конструкція не здатна обробляти числа, що перевищують певне значення. Я впевнений, що я не перший і не останній, хто задав це питання, але пошукові терміни, які я …

15 math  variables  numeric-precision 

Переглядаючи реалізацію іншого програміста функції для обчислення нормального CDF розподілу , я запропонував або замінити всю реалізацію на вбудовані функції Python, або використовувати SciPy, загальну наукову бібліотеку. Інший програміст зазначив, що ні в жодних документах, math.erfc()ні scipy.stats.norm.cdf()в їх документації не передбачено жодних гарантій точності. Тому я повинен бути більш обережним …

9 documentation  math  floating-point  numeric-precision