Запитання з тегом «floating-point»

Числа з плаваючою комою - це наближення реальних чисел, які можуть представляти великі діапазони, ніж цілі числа, але використовують той же об'єм пам'яті, ціною меншої точності. Якщо ваше запитання стосується невеликих арифметичних помилок (наприклад, чому 0,2 + 0,1 дорівнює 0,300000001?) Або десяткових помилок перетворення, будь ласка, прочитайте сторінку "інформація", що посилається нижче перед публікацією.

30
Чи порушена математика з плаваючою комою?
На цей питання є відповіді на Stack Overflow на російському : Вичісленні на кількість з плавальною точкою не працюють Розглянемо наступний код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Чому трапляються ці неточності?
27
Як розібрати рядок до float чи int?
Як в Python я можу проаналізувати числовий рядок, як "545.2222"його відповідне значення float 545.2222,? Або проаналізувати рядок "31"на ціле число 31,? Я просто хочу знати, як проаналізувати float str до a floatта (окремо) int str to an int.
12
Чому GCC не оптимізує a * a * a * a * a * a to (a * a * a) * (a * a * a)?
Я роблю деяку числову оптимізацію на науковому застосуванні. Одне, що я помітив, - це те, що GCC оптимізує виклик pow(a,2), компілюючи його a*a, але виклик pow(a,6)не оптимізований і фактично викликає функцію бібліотеки pow, що значно уповільнює продуктивність. (На відміну від цього, компілятор Intel C ++ , який виконується icc, усуне …
30
Як перевірити, чи є рядок числом (float)?
Який найкращий спосіб перевірити, чи може рядок представлений як число в Python? Зараз у мене функція: def is_number(s): try: float(s) return True except ValueError: return False Що не тільки некрасиво і повільно, здається незграбним. Однак я не знайшов кращого методу, тому що дзвонити floatв основну функцію ще гірше.
7
Чи існує тип введення з поплавком у HTML5?
За повідомленням html5.org , значення "число" типу "введення", якщо він вказаний і не порожній, повинен мати значення, яке є дійсним номером з плаваючою комою ". Але це просто (в останній версії Chrome, все одно), управління "вниз" цілими числами, а не плаває: <input type="number" id="totalAmt"></input> Виконати фрагмент кодуСховати результатиРозгорніть фрагмент Чи …
30
Число форматування завжди показувати два знаки після коми
Я хотів би відформатувати свої номери, щоб завжди відображалося 2 знаки після коми, закруглення, де це можливо. Приклади: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Я використовую це: parseFloat(num).toFixed(2); Але це відображається 1як 1, а не 1.00.
30
Як використовувати значення крокового значення десяткового діапазону ()?
Чи є спосіб перейти між 0 і 1 на 0,1? Я думав, що можу це зробити так, але це не вдалося: for i in range(0, 1, 0.1): print i Натомість, це говорить, що аргумент кроку не може бути нульовим, чого я не очікував.
11
Як я можу змусити поділ бути плаваючою точкою? Ділення продовжує округлення до 0?
У мене є два цілих значення aі b, але мені потрібно їх співвідношення у плаваючій точці. Я це знаю a < bі хочу обчислити a / b, тому якщо я буду використовувати ціле ділення, я завжди отримуватиму 0 із залишком a. Як я можу змусити cбути числом з плаваючою комою …
14
Перетворити десятковий у подвійний
Я хочу використовувати a, Track-Barщоб змінити Formнепрозорість. Це мій код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Коли я будую додаток, він видає таку помилку: Неможливо неявно перетворити тип decimalуdouble Я спробував з допомогою transі , doubleале тоді Controlне працює. Цей код добре працював у минулому проекті VB.NET.
30
Як боротися з точністю числа з плаваючою комою в JavaScript?
У мене є такий сценарій фіктивного тестування: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Виконати фрагмент кодуСховати результатиРозгорніть фрагмент Це надрукує результат, 0.020000000000000004тоді як він повинен просто надрукувати 0.02(якщо ви використовуєте калькулятор). Наскільки я зрозумів, це пов'язано з помилками в точності множення плаваючої точки. Хтось …
5
Чому Math.round (0.49999999999999994) повертає 1?
У наступній програмі ви бачите, що кожне значення трохи менше, ніж .5округлене, за винятком 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while (Math.round(x) …
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.