Запитання з тегом «floating-point»

Числа з плаваючою комою - це наближення реальних чисел, які можуть представляти великі діапазони, ніж цілі числа, але використовують той же об'єм пам'яті, ціною меншої точності. Якщо ваше запитання стосується невеликих арифметичних помилок (наприклад, чому 0,2 + 0,1 дорівнює 0,300000001?) Або десяткових помилок перетворення, будь ласка, прочитайте сторінку "інформація", що посилається нижче перед публікацією.

10
Додайте значення плаваючої точки до ресурсів / значень для Android
Я намагаюся додати трохи простору між рядками в моїй TextViews , використовуючи android:lineSpacingMultiplier з документації : Додатковий інтервал між рядками тексту, як множник. Повинно бути значенням з плаваючою комою, наприклад, "1,2". Оскільки я використовую це в кількох різних TextViews, я хотів би додати до своїх ресурсів глобальний вимір / значення, …
18
Як я можу використовувати поділ з плаваючою комою в баші?
Я намагаюся розділити дві ширини зображення в Bash-скрипті, але bash дає мені 0результат: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Я вивчив посібник Bash, і я знаю, що мені слід користуватися bcу всіх прикладах в Інтернеті, якими вони користуються bc. В echoЯ намагався поставити таку ж річ в моїй , SCALEале це не спрацювало. Ось приклад, …
16
Python JSON серіалізує об'єкт Decimal
У мене є Decimal('3.9')частина об'єкта, і я хочу його кодувати до рядка JSON, який повинен виглядати так {'x': 3.9}. Мене не хвилює точність на стороні клієнта, тому поплавок чудово. Чи є хороший спосіб серіалізувати це? JSONDecoder не приймає об'єкти Decimal, і перетворення на поплавок заздалегідь дає вихід, {'x': 3.8999999999999999}що неправильно, …
21
круглий () для плавання в C ++
Мені потрібна проста функція округлення з плаваючою комою, таким чином: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Я можу знайти ceil()і floor()в math.h - але ні round(). Він присутній у стандартній бібліотеці C ++ під іншою назвою, або він відсутній ??
10
Перетворити поплавці в ints в Pandas?
Я працював з даними, імпортованими з CSV. Панди змінили деякі стовпці на плаваючі, тому тепер цифри в цих стовпцях відображаються як плаваючі точки! Однак мені потрібно, щоб вони відображалися як цілі числа, або без коми. Чи є спосіб перетворити їх на цілі числа чи не відобразити кому?
10
Відформатуйте "Плаваючий" до п яти знаків після коми
Мені потрібно відформатувати поплавок на "n" десяткових знаків. намагався BigDecimal, але значення повернення не є правильним ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is correct …
9
Плаваючий та подвійний тип даних на Java
Тип даних поплавця - це одноточна 32-бітна плаваюча точка IEEE 754, а подвійний тип даних - це 64-розрядна плаваюча точка IEEE 754 з подвоєною точністю. Що це означає? І коли я повинен використовувати float замість подвійного чи навпаки?
7
Форматування поплавця до 2 знаків після коми
Наразі будую модуль продажу для веб-сайту клієнтів. Поки що у мене продажна ціна була ідеально підрахована, але там, де я застрягла, - це форматування результатів у 2 десяткові коми. В даний час я називаю це змінною, щоб я міг дані прив'язувати результати до перегляду списку. Sale = float.Parse(((x.Sale_Price - (x.Sale_Price …
6
Чому числа з плаваючою комою є неточними?
Чому деякі числа втрачають точність, зберігаючи їх як числа з плаваючою комою? Наприклад, десяткове число 9.2можна виразити точно як відношення двох десяткових цілих чисел ( 92/10), обидва з яких можна виразити точно у двійковій ( 0b1011100/0b1010). Однак те саме співвідношення, яке зберігається як число з плаваючою комою, ніколи точно не …
6
Використовуючи побітне значення АБО 0, щоб передати число
Моя колега натрапила на метод перекрити плаваючі числа за допомогою побітових або: var a = 13.6 | 0; //a == 13 Ми говорили про це і цікавились декілька речей. Як це працює? Наша теорія полягала в тому, що за допомогою такого оператора кідає число до цілого числа, тим самим видаляючи …
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.