Запитання з тегом «floating-accuracy»

На цей питання є відповіді на Stack Overflow на російському : Вичісленні на кількість з плавальною точкою не працюють Розглянемо наступний код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Чому трапляються ці неточності?

2982 math  language-agnostic  floating-point  floating-accuracy 

Я знаю, UIKitвикористовує CGFloatчерез незалежну систему координат роздільної здатності. Але кожен раз, коли я хочу перевірити, чи frame.origin.xє, наприклад , 0це мені нудно: if (theView.frame.origin.x == 0) { // do important operation } Чи не CGFloatвразлива до помилкових спрацьовувань при порівнянні з ==, <=, >=, <, >? Це плаваюча точка, …

391 objective-c  ios  c  floating-point  floating-accuracy 

Наступний код очевидно помиляється. В чому проблема? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

Відповідно до цієї сторінки java.sun == є оператором порівняння рівності для чисел з плаваючою комою на Java. Однак, коли я набираю цей код: if(sectionID == currentSectionID) у свій редактор і запускаю статичний аналіз, я отримую: "Значення з плаваючою точкою JAVA0078 порівняно з ==" Що не так у використанні ==для порівняння …

177 java  equality  floating-accuracy 

Я знаю, що більшість десяткових знаків не мають точного подання з плаваючою комою ( Чи порушена математика з плаваючою комою? ). Але я не бачу, чому так 4*0.1добре друкується 0.4, але 3*0.1ні, коли обидва значення насправді мають некрасиві десяткові зображення: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Чи можна отримати поділ на 0 (або нескінченність) у наступному прикладі? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } У звичайних випадках це, звичайно, не буде. Але що, якщо aі bдуже близькі, може …

131 floating-point  double  floating-accuracy  ieee-754 

Я намагаюся усікати десяткові числа до десяткових знаків. Щось на зразок цього: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)робить майже правильну річ, але це заокруглює цінність. Мені не потрібно значення, округлене. Сподіваюся, це можливо в javascript.

93 javascript  floating-point  floating-accuracy 

Чи є спосіб програмно отримати подвійний, який є найближчим до 1,0, але насправді не 1,0? Одним із шахрайських способів це було б зробити пам'ять подвійного до цілого числа такого самого розміру, а потім відняти одне. Як працюють формати з плаваючою крапкою IEEE754, це призведе до зменшення показника ступеня на одиницю …

88 c++  floating-point  floating-accuracy 

assert(0.1 + 0.2 != 0.3); // shall be true це моя улюблена перевірка того, що мова використовує власну арифметику з плаваючою комою. C ++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Вихід: 1 http://ideone.com/ErBMd Python print(0.1 + 0.2 != 0.3) Вихід: True http://ideone.com/TuKsd …

75 floating-point  floating-accuracy  d  constantfolding