Запитання з тегом «double»

Тип даних поплавця - це одноточна 32-бітна плаваюча точка IEEE 754, а подвійний тип даних - це 64-розрядна плаваюча точка IEEE 754 з подвоєною точністю. Що це означає? І коли я повинен використовувати float замість подвійного чи навпаки?

220 java  floating-point  double  ieee-754 

Сьогодні я переглянув якийсь код C ++ (написав хтось інший) і знайшов цей розділ: double someValue = ... if (someValue < std::numeric_limits<double>::epsilon() && someValue > -std::numeric_limits<double>::epsilon()) { someValue = 0.0; } Я намагаюся розібратися, чи це навіть має сенс. Документація для epsilon(): Функція повертає різницю між 1 і найменшим значенням, …

214 c++  double 

Нещодавно мені довелося серіалізувати дубль у текст, а потім повернути його назад. Здається, значення не є еквівалентним: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Але згідно з MSDN: Стандартні рядки числового формату , варіант …

185 c#  double  tostring  precision 

Мені потрібно зберігати дубль як рядок. Я знаю, що можу використати, printfякщо хотів його відобразити, але просто хочу зберігати його в рядковій змінній, щоб згодом я міг зберігати її на карті (як значення , а не як ключ ).

171 c++  string  double 

Я намагаюся зробити калькулятор швидкості зростання ( Double), який округлятиме результат до найближчого цілого числа і перераховує звідти, як такий: let firstUsers = 10.0 let growth = 0.1 var users = firstUsers var week = 0 while users < 14 { println("week \(week) has \(users) users") users += users * …

170 swift  int  double  rounding 

Як я відформатую а Doubleдо а Stringв C #, щоб було лише два десяткових знаки? Якщо я використовую String.Format("{0:0.00}%", myDoubleValue)число, то він округляється, і я хочу простий укорочений без будь-якого округлення. Я також хочу, щоб перетворення Stringбуло чутливим до культури.

153 c#  string  double 

Я знаю, що 0.1десяткове число не може бути представлене точно кінцевим двійковим числом ( пояснення ), тому double n = 0.1втратить деяку точність і не буде точно 0.1. З іншого боку 0.5може бути представлена ​​саме тому, що вона є 0.5 = 1/2 = 0.1b. Сказавши, що зрозуміло, що додавання 0.1 …

152 java  floating-point  double  precision 

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Наведений вище код друкує: 11.399999999999 Як я можу змусити це просто надрукувати (або мати можливість використовувати його як) 11.4?

149 java  floating-point  double  precision 

Редагувати: В основному те, що я намагаюся написати, це 1-бітний хеш double. Я хочу скласти карту doubleдо trueабо falseз можливістю 50/50. Для цього я написав код, який підбирає деякі випадкові числа (як приклад, я хочу використовувати це на даних із закономірностями і все-таки отримувати результат 50/50) , перевіряє їх останній …

139 java  random  double  bit-manipulation  probability 

Чи має Java що-небудь представляти нескінченність для кожного числового типу даних? Як це реалізовано так, що я можу робити з ним математичні операції? Напр int myInf = infinity; //However it is done myInf + 5; //returns infinity myInf*(-1); //returns negative infinity Я намагався використовувати дуже велику кількість, але хочу правильне, …

138 java  double  infinity 

Чи можна отримати поділ на 0 (або нескінченність) у наступному прикладі? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } У звичайних випадках це, звичайно, не буде. Але що, якщо aі bдуже близькі, може …

131 floating-point  double  floating-accuracy  ieee-754 

Зараз я пробую це: int a = round(n); де nє, doubleале це не працює. Що я роблю неправильно?

120 java  double  int  rounding 

Чи є функція, яка може обрізати або обводити Double? В один момент мого коду я хотів би, щоб число на зразок: 1.23456789було округлене до1.23

118 scala  double  truncate  rounding 

У мене виникають деякі проблеми з форматуванням десяткових знаків подвійного. Якщо у мене є подвійне значення, наприклад, 4.0, як я відформатую десяткові знаки так, щоб натомість було 4,00?

118 java  formatting  double  decimal 

Мені було цікаво, чи існує спосіб отримати кількість результатів із запиту MySQL і водночас обмежити результати. Те, як працює пагинація (як я це розумію), спочатку я роблю щось подібне query = SELECT COUNT(*) FROM `table` WHERE `some_condition` Після отримання num_rows (запиту) я отримую кількість результатів. Але щоб фактично обмежити свої …

115 mysql  pagination  double