Програмування floating-point

3

Чому NaN - NaN == 0,0 з компілятором Intel C ++?

Добре відомо, що NaN поширюються в арифметиці, але я не міг знайти жодних демонстрацій, тому я написав невеликий тест: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float …

300 c++ c floating-point ieee-754 icc

13

Зробіть поплавком лише два знаки після коми

Я маю значення 25.00у float, але коли я друкую його на екрані, воно є 25.0000000. Як я можу відобразити значення лише з двома знаками після коми?

296 objective-c formatting floating-point

6

Чому зміна порядку доходу повертає інший результат?

Чому зміна порядку доходу повертає інший результат? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 І Java, і JavaScript дають однакові результати. Я розумію, що через те, як числа з плаваючою комою представлені у двійкових, деякі раціональні числа ( наприклад, 1/3 - 0,333333 ... …

294 java javascript floating-point

2

Чому деякі порівняння з плаваючими <цілими числами в чотири рази повільніше, ніж інші?

Порівнюючи поплавці з цілими числами, для деяких пар значень потрібно набагато більше часу, ніж інші значення аналогічної величини. Наприклад: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Але якщо флоат або ціле число на певну суму зменшиться або збільшиться, порівняння запускається набагато швидше: >>> timeit.timeit("562949953420000.7 …

284 python performance floating-point cpython python-internals

19

Чому десяткові числа не можуть бути представлені точно у двійковій формі?

До СО було поставлено кілька питань щодо представлення з плаваючою комою. Наприклад, десяткове число 0,1 не має точного двійкового зображення, тому для порівняння з іншим числом з плаваючою комою небезпечно використовувати оператор ==. Я розумію принципи, що стоять за поданням з плаваючою комою. Що я не розумію, це те, чому …

284 math floating-point

3

Float vs Decimal в ActiveRecord

Іноді типи даних Activerecord мене бентежать. Помилка, часто. Одне з моїх вічних питань - для даного випадку, Чи варто використовувати :decimalабо :float? Я часто стикався з цим посиланням, ActiveRecord:: decimal vs: float? , але відповіді не досить чіткі, щоб я був певним: Я бачив багато ниток, де люди рекомендують виводити …

283 ruby-on-rails types floating-point decimal rails-activerecord

6

Чому ці числа не рівні?

Наступний код очевидно помиляється. В чому проблема? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

14

Генерація випадкових чисел з поплавком

Як генерувати випадкові поплавці в C ++? Я думав, що можу взяти цілий rand і розділити його на щось, чи це буде достатньо?

271 c++ random floating-point

12

Яке обґрунтування для всіх порівнянь, що повертають помилкові значення IEEE754 NaN?

Чому порівняння значень NaN поводиться по-різному від усіх інших значень? Тобто всі порівняння з операторами ==, <=,> =, <,> де одне або обидва значення NaN повертає помилково, всупереч поведінці всіх інших значень. Я вважаю, що це певним чином спрощує чисельні обчислення, але я не зміг знайти чітко вказану причину, навіть …

267 floating-point comparison nan ieee-754 iec10967

12

Коли я повинен використовувати подвійний замість десяткових?

Я можу назвати три переваги використання double(або float) замість decimal: Використовує менше пам'яті. Швидше, оскільки математичні операції з плаваючою комою підтримуються процесорами. Може представляти більший діапазон чисел. Але ці переваги, здається, застосовуються лише до обчислювальних інтенсивних операцій, таких як ті, які знайдені в програмі моделювання. Звичайно, парні не слід використовувати, …

265 c# types floating-point double decimal

9

Коли я повинен використовувати ключове слово "strictfp" у Java?

Я роздивився, що це робить, але чи справді хтось має приклад, коли ви використовували strictfpключове слово на Java? Хтось насправді знайшов для цього застосування? Чи будуть якісь побічні ефекти просто нанести це на всі мої операції з плаваючою точкою?

258 java floating-point strictfp

9

Який тип даних MySQL слід використовувати для Latitude / Longitude з 8 десятковими знаками?

Я працюю з картографічними даними і Latitude/Longitudeрозширюється на 8 знаків після коми. Наприклад: Latitude 40.71727401 Longitude -74.00898606 Я бачив у документі Google, який використовує: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL однак їх десяткові місця знаходяться лише до 6. Чи слід використовувати FLOAT(10, …

257 mysql types floating-point

7

Чому поділ у Ruby повертає ціле число замість десяткового значення?

Наприклад: 9 / 5 #=> 1 але я очікував 1.8. Як я можу отримати правильний десятковий (не цілий) результат? Чому воно взагалі повертається 1?

256 ruby math floating-point division integer-division

8

Як перетворити рядок у float у JavaScript?

Я намагаюся проаналізувати два значення із сітки даних. Поля є числовими, і коли у них є кома (напр. 554,20), я не можу отримати числа після коми. Я спробував parseIntі parseFloat. Як я можу це зробити?

255 javascript parsing floating-point

22

Отримайте десяткову частину числа за допомогою JavaScript

У мене є плаваючі числа, як 3.2і 1.6. Мені потрібно відокремити число на цілу і десяткову частину. Наприклад, значення 3.2поділиться на два числа, тобто 3і0.2 Отримати частину цілого числа просто: n = Math.floor(n); Але у мене виникають проблеми з отриманням десяткової частини. Я спробував це: remainer = n % 2; …

248 javascript floating-point numbers decimal rounding

Запитання з тегом «floating-point»