Запитання з тегом «floating-point»

Числа з плаваючою комою - це наближення реальних чисел, які можуть представляти великі діапазони, ніж цілі числа, але використовують той же об'єм пам'яті, ціною меншої точності. Якщо ваше запитання стосується невеликих арифметичних помилок (наприклад, чому 0,2 + 0,1 дорівнює 0,300000001?) Або десяткових помилок перетворення, будь ласка, прочитайте сторінку "інформація", що посилається нижче перед публікацією.

2
Як виконати ділення в Go
Я намагаюся виконати просте ділення в Go. fmt.Println(3/10) При цьому друкується 0 замість 0,3. Це якось дивно. Не могли б хтось поділитися, в чому причина цього? я хочу виконувати різні арифметичні дії в Go. Дякую
9
Як перетворити рядок на число в Perl?
У мене є рядок, який містить десяткове значення, і мені потрібно перетворити цей рядок у змінну з плаваючою комою. Отже, прикладом рядка, який я маю, є "5.45", і я хочу еквівалент з плаваючою комою, щоб я міг додати .1 до нього. Я шукав в Інтернеті, але я бачу лише, як …
3
Подвійна передача до беззнакового int на Win32 зменшується до 2 147 483 688
Компіляція такого коду: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Виходи (MSVC x86): …
8
JavaScript: округлити до числа десяткових знаків, але позбавити зайвих нулів
Ось сценарій: я отримую, .9999999999999999коли мав би отримувати 1.0. Я можу дозволити собі втратити точність після коми, тому я використовую .toFixed(15), який вид роботи працює. Округлення працює, але проблема в тому, що мені дали 1.000000000000000. Чи є спосіб округлити до числа знаків після коми, але позбавити зайвого пробілу? Примітка: .toPrecisionце …
11
Як слід робити порівняння з плаваючою точкою?
На даний момент я пишу код, де у мене є щось на зразок: double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3(); І тоді в інших місцях мені може знадобитися зробити рівність: double a = SomeCalculation3(); double b = SomeCalculation4(); …
12
Як округлити число з плаваючою комою до певного знака після коми?
Припустимо, у мене є 8.8333333333333339, і я хочу перетворити його на 8.84. Як я можу це зробити в Python? round(8.8333333333333339, 2)дає 8.83і ні 8.84. Я новачок у Python чи програмуванні загалом. Я не хочу друкувати його як рядок, і результат буде використаний далі. Щоб отримати докладнішу інформацію про проблему, перегляньте …
2
Використання плаваючої крапки в ядрі Linux
Я читаю "Розробку ядра Linux" Роберта Лава і натрапив на такий уривок: Ні (просте) використання плаваючої крапки Коли в просторі користувача використовуються інструкції з плаваючою крапкою, ядро ​​управляє переходом від цілого числа до режиму з плаваючою точкою. Те, що має робити ядро ​​при використанні інструкцій з плаваючою крапкою, залежить від …
6
Скільки значущих цифр має поплавці та подвійні в Java?
Чи має поплавок 32 двійкові цифри, а подвійний - 64 двійкові цифри? Документація була надто складною, щоб зрозуміти її. Чи всі біти перекладаються на значущі цифри? Або розташування десяткової коми займає деякі біти?
6
Як перетворити ціле число на плаваюче в Java?
У мене є два цілих числа xі y. Мені потрібно розрахувати, x/yі як результат я хотів би отримати плаваючу позицію. Наприклад, як результат 3/2я хотів би мати 1,5. Я думав , що найпростіший (або єдиний) спосіб зробити це , щоб перетворити xі yв тип з плаваючою точкою. На жаль, я …
3
Що таке субнормальне число з плаваючою точкою?
Довідкова сторінка isnormal () повідомляє: Визначає, чи задане число з плаваючою комою arg є нормальним, тобто не є ні нульовим, ні нормальним, нескінченним, ні NaN. Число, яке дорівнює нулю, нескінченному чи NaN, зрозуміло, що воно означає. Але це також говорить про ненормальне. Коли число ненормальне?
17
Перетворення вдвічі в рядок без наукових позначень
Як перетворити подвійне в подання рядка з плаваючою крапкою без наукових позначень у .NET Framework? "Маленькі" зразки (ефективні цифри можуть бути будь-якого розміру, наприклад 1.5E200або 1e-200): 3248971234698200000000000000000000000000000000 0.00000000000000000000000000000000000023897356978234562 Жоден із стандартних форматів чисел не є таким, і власний формат також, здається, не дозволяє мати відкриту кількість цифр після десяткового роздільника. …
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.