Програмування floating-point

30

Що є найефективнішим способом порівняння з поплавком та подвійним порівнянням?

Який був би найефективніший спосіб порівняння двох- doubleдвох floatзначень? Просто робити це не правильно: bool CompareDoubles1 (double A, double B) { return A == B; } Але щось на кшталт: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) && (-diff < EPSILON); …

524 c++ algorithm optimization floating-point

26

Як добре відформатувати плаваючі числа до String без зайвих десятків 0?

64-бітний подвійний може представляти ціле число +/- 2 53 точно Враховуючи цей факт, я обираю використовувати подвійний тип як єдиний тип для всіх моїх типів, оскільки моє найбільше ціле число не підписане 32-бітним. Але тепер я повинен надрукувати ці псевдо цілі числа, але проблема полягає в тому, що вони також …

496 java string floating-point format double

24

Як округлити число в Python?

Ця проблема мене вбиває. Як відбувається одне зіставлення числа UP в Python? Я спробував раунд (число), але це округлення числа вниз. Приклад: round(2.3) = 2.0 and not 3, what I would like Я спробував int (число + .5), але це знову закруглює число! Приклад: int(2.3 + .5) = 2 Потім …

486 python floating-point integer rounding python-2.x

5

Правильний специфікатор формату для подвійного в printf

Для чого правильний специфікатор формату doubleу printf? Це %fчи це %lf? Я вважаю, що це %f, але я не впевнений. Зразок коду #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

480 c floating-point printf double format-specifiers

13

Як відформатувати float у javascript?

Як в JavaScript при перетворенні з поплавця на рядок, як я можу отримати лише 2 цифри після десяткової точки? Наприклад, 0,34 замість 0,3445434.

427 javascript floating-point

12

Яка різниця між поплавком і подвійним?

Я читав про різницю між подвійною точністю та одиничною точністю. Тим НЕ менше, в більшості випадків, floatі , doubleздається, бути взаємозамінними, тобто з допомогою одного або іншого , здається, не впливають на результати. Це справді так? Коли поплавці та двійники взаємозамінні? Які відмінності між ними?

420 c++ c floating-point precision

4

Як отримати випадкове число між діапазоном поплавця?

randrange(start, stop)бере лише цілі аргументи. То як би я отримав випадкове число між двома значеннями поплавця?

414 python random floating-point

15

Як розібрати плаваючий знак з двома десятковими знаками у javascript?

У мене є такий код. Я хотів би мати його таким, що якщо price_result дорівнює цілому числу, скажімо, 10, то я хотів би додати два десяткових знаки. Так 10 буде 10.00. Або якщо вона дорівнює 10,6, це буде 10,60. Не знаєте, як це зробити. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

410 javascript floating-point

11

Наскільки небезпечно порівнювати значення з плаваючою комою?

Я знаю, UIKitвикористовує CGFloatчерез незалежну систему координат роздільної здатності. Але кожен раз, коли я хочу перевірити, чи frame.origin.xє, наприклад , 0це мені нудно: if (theView.frame.origin.x == 0) { // do important operation } Чи не CGFloatвразлива до помилкових спрацьовувань при порівнянні з ==, <=, >=, <, >? Це плаваюча точка, …

391 objective-c ios c floating-point floating-accuracy

6

Як конвертувати float в Int з Java

Я використовував наступний рядок для перетворення float в int, але це не так точно, як хотілося б: float a=8.61f; int b; b=(int)a; Результат: 8(Так і повинно бути 9) Коли a = -7.65f, результат такий: -7(Це повинно бути -8) Який найкращий спосіб це зробити?

342 java floating-point int

11

Як друкувати подвійне значення з повною точністю за допомогою cout?

Тож я отримав відповідь на своє останнє запитання (не знаю, чому я не думав про це). Я друкував doubleвикористання, coutяке було округлене, коли я не очікував цього. Як я можу зробити coutдрук з doubleвикористанням повної точності?

331 c++ floating-point precision iostream cout

15

Який найкращий спосіб порівняти поплавці для майже рівності в Python?

Добре відомо, що порівняння поплавків для рівності трохи хитро пов'язане із питаннями округлення та точності. Наприклад: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Який рекомендований спосіб боротьби з цим у Python? Напевно, є для цього десь стандартна функція бібліотеки?

331 python floating-point

10

JavaScript, що відображає поплавок до 2 знаків після коми

Я хотів відобразити число до 2 знаків після коми. Я думав, що можу використовувати toPrecision(2)в JavaScript. Однак якщо число є 0.05, я отримую 0.0500. Я вважаю за краще, щоб він залишився колишнім. Дивіться це на JSbin . Який найкращий спосіб зробити це? Я можу подумати про кодування кількох рішень, але …

315 javascript floating-point precision

2

Що являє собою константа 0,0039215689?

Я постійно бачу це постійне спливання у різних файлах графічних заголовків 0.0039215689 Здається, це може мати щось спільне з кольором? Ось перший хіт в Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, 8, 8) * 0.0039215689f; …

310 c floating-point constants magic-numbers

6

Подвійний проти BigDecimal?

Я повинен обчислити деякі змінні з плаваючою комою, і мій колега пропонує мені використовувати BigDecimalзамість цього, doubleоскільки це буде більш точним. Але я хочу знати, що це таке, і як із цього зробити найбільше BigDecimal?

303 java floating-point double bigdecimal

Запитання з тегом «floating-point»