Програмування floating-point

21

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Наведений вище код друкує: 11.399999999999 Як я можу змусити це просто надрукувати (або мати можливість використовувати його як) 11.4?

149 java floating-point double precision

12

Як придушити наукові позначення при друкуванні плаваючих значень?

Ось мій код: x = 1.0 y = 100000.0 print x/y Мій показник відображається як 1.00000e-05. Чи є спосіб придушити наукову нотацію і зробити так, щоб вона відображалася як 0.00001? Я буду використовувати результат як рядок.

147 python floating-point

2

Що насправді робить факс-математика gcc?

Я розумію, --ffast-mathпрапор gcc може значно збільшити швидкість для float ops, і виходить за рамки стандартів IEEE, але я не можу знайти інформацію про те, що насправді відбувається, коли він включений. Чи можете будь-хто пояснити будь-яку деталь і, можливо, дати чіткий приклад того, як щось змінилося, якщо прапор був увімкнений …

144 performance math gcc floating-point fast-math

7

Перетворіть число з плаваючою точкою до певної точності, а потім скопіюйте у рядок

Скажімо, у мене номер з плаваючою комою 135.12345678910. Я хочу приєднати це значення до рядка, але хочу лише 135.123456789. З друком я легко це роблю, роблячи щось на кшталт: print "%.9f" % numvar з numvarмоїм оригінальним номером. Чи є простий спосіб це зробити?

144 python string floating-point

11

Відобразить поплавок з двома десятковими знаками в Python

У мене є функція, що приймає плаваючі аргументи (як правило, цілі числа чи десяткові знаки з однією значущою цифрою), і мені потрібно вивести значення в рядку з двома знаками після коми (5 -> 5,00, 5,5 -> 5,50 тощо). Як я можу це зробити в Python?

136 python string programming-languages floating-point

12

Чи можна отримати 0, віднявши два неоднакових числа з плаваючою точкою?

Чи можна отримати поділ на 0 (або нескінченність) у наступному прикладі? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } У звичайних випадках це, звичайно, не буде. Але що, якщо aі bдуже близькі, може …

131 floating-point double floating-accuracy ieee-754

12

Чому C не має підписаних плавців?

Я знаю, питання видається дивним. Програмісти іноді занадто багато думають. Будь ласка, читайте далі ... У CI використання signedі unsignedцілих чисел багато. Мені подобається те, що компілятор попереджає мене, якщо я виконую такі речі, як присвоєння підписаного цілого числа непідписаній змінній. Я отримую попередження, якщо порівню підписані з непідписаними цілими …

131 c types floating-point format unsigned

7

C # Вираз поплавця: дивна поведінка під час передачі результату плаває до int

У мене такий простий код: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1і speed2має мати однакове значення, але насправді я маю: speed1 = 61 speed2 = 62 Я знаю, що, мабуть, я повинен використовувати Math.Round замість кастингу, але я хотів би …

128 c# casting floating-point int expression

10

Як обробляти поплавці та десяткові роздільники за допомогою номера типу введення html5

Я будую веб-додаток, в основному для мобільних браузерів. Я використовую поля введення з типом номера, тому (більшість) мобільних браузерів використовує лише цифрову клавіатуру для кращого користування. Цей веб-додаток використовується в основному в регіонах, де десятковий роздільник є комою, а не крапкою, тому мені потрібно обробляти обидва десяткових роздільника. Як прикрити …

128 javascript jquery mobile floating-point html-input

12

Округніть номер плаваючої точки до найближчого цілого?

Як випливає з назви, я хочу взяти число з плаваючою комою і округлити його до найближчого цілого числа. Однак, якщо це не ціле, Я ЗАВЖДИ хочу округляти змінну, незалежно від того, наскільки вона близька до наступного цілого числа вгору. Чи є спосіб це зробити?

127 python floating-point integer rounding

2

Чому Clang оптимізує пробіг x * 1.0, а НЕ x + 0.0?

Чому Clang оптимізує цикл у цьому коді #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] *= …

125 c++ c optimization floating-point clang

19

здається, що круглий () не відповідає округленню

Документація для функції round () вказує, що ви передаєте їй число, а позиції, що минають через десятковий, до круглого. Таким чином, слід зробити це: n = 5.59 round(n, 1) # 5.6 Але, насправді, добре старе дивацтво з плаваючою комою прокрадається і ви отримуєте: 5.5999999999999996 Для цілей користувальницького інтерфейсу мені потрібно …

123 python floating-point rounding

27

Як отримати числа після десяткової крапки?

Як отримати цифри після десяткових знаків? Наприклад, якщо я маю 5.55, як я можу отримати .55?

123 python floating-point decimal

11

Чому я не можу використовувати значення float як параметр шаблону?

Коли я намагаюся використовувати floatяк параметр шаблону, компілятор кричить за цим кодом, при цьому intпрацює добре. Це тому, що я не можу використовувати floatяк параметр шаблону? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T value; public: GenericClass() { value = defaultValue; } T returnVal() …

120 c++ templates generics floating-point

8

PHP Рядок плаває

Я взагалі не знайомий з PHP і у мене було швидке запитання. У мене є 2 змінні pricePerUnitі InvoicedUnits. Ось код, який встановлює ці значення: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Якщо вивести це, я отримаю правильні значення. Скажімо, 5000виставлені одиниці рахунків і 1.00за ціною Тепер мені потрібно …

120 php string casting floating-point

Запитання з тегом «floating-point»