Запитання з тегом «decimal»

У чому різниця між decimal, floatі doubleв .NET? Коли хтось скористався б одним із них?

2085 .net  floating-point  double  decimal 

Мені б хотілося - це метод перетворення подвійного рядка в рядок, який округляється методом напівперевершення, тобто, якщо десятковий закруглення дорівнює 5, він завжди округляється до наступного числа. Це стандартний метод округлення, який більшість людей очікує в більшості ситуацій. Я також хотів би, щоб відображалися лише значні цифри - тобто не …

1259 java  decimal  rounding  digits 

Я хочу використовувати a, Track-Barщоб змінити Formнепрозорість. Це мій код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Коли я будую додаток, він видає таку помилку: Неможливо неявно перетворити тип decimalуdouble Я спробував з допомогою transі , doubleале тоді Controlне працює. Цей код добре працював у минулому проекті VB.NET.

672 c#  floating-point  type-conversion  double  decimal 

Відображаючи значення десяткової в даний час з .ToString(), це точно подобається 15 знаків після коми, і оскільки я використовую його для представлення доларів і центів, я хочу лише, щоб вихід був 2 знаками після коми. Чи використовую .ToString()для цього варіацію ?

649 c#  .net  decimal  rounding 

Я хочу це зробити за допомогою Math.Roundфункції

380 c#  decimal  rounding  bankers-rounding 

Для роботи з десятковими типами даних я повинен це зробити із ініціалізацією змінної: decimal aValue = 50.0M; Що означає частина М?

311 c#  decimal  literals 

Іноді типи даних Activerecord мене бентежать. Помилка, часто. Одне з моїх вічних питань - для даного випадку, Чи варто використовувати :decimalабо :float? Я часто стикався з цим посиланням, ActiveRecord:: decimal vs: float? , але відповіді не досить чіткі, щоб я був певним: Я бачив багато ниток, де люди рекомендують виводити …

283 ruby-on-rails  types  floating-point  decimal  rails-activerecord 

Я намагаюся з'ясувати десятковий тип даних стовпця на SQL сервері. Мені потрібно вміти зберігати такі значення, як 15,5, 26,9, 24,7, 9,8 тощо Я призначив decimal(18, 0)тип даних стовпців, але це не дозволяє мені зберігати ці значення. Який правильний спосіб це зробити?

272 sql  sql-server  types  decimal 

Я можу назвати три переваги використання double(або float) замість decimal: Використовує менше пам'яті. Швидше, оскільки математичні операції з плаваючою комою підтримуються процесорами. Може представляти більший діапазон чисел. Але ці переваги, здається, застосовуються лише до обчислювальних інтенсивних операцій, таких як ті, які знайдені в програмі моделювання. Звичайно, парні не слід використовувати, …

265 c#  types  floating-point  double  decimal 

У мене є плаваючі числа, як 3.2і 1.6. Мені потрібно відокремити число на цілу і десяткову частину. Наприклад, значення 3.2поділиться на два числа, тобто 3і0.2 Отримати частину цілого числа просто: n = Math.floor(n); Але у мене виникають проблеми з отриманням десяткової частини. Я спробував це: remainer = n % 2; …

248 javascript  floating-point  numbers  decimal  rounding 

У базі даних вказаний наступний стовпець: десятковий (5,2) Як трактує це хтось? Відповідно до властивостей стовпця, що їх переглядають у студії управління SQL Server, я бачу, що це означає: десятковий (числова точність, числова шкала). Що означають точність та масштабність у реальному виразі? Було б легко інтерпретувати це як десятковий знак …

245 sql  database  decimal  scale  precision 

У мене є Decimal('3.9')частина об'єкта, і я хочу його кодувати до рядка JSON, який повинен виглядати так {'x': 3.9}. Мене не хвилює точність на стороні клієнта, тому поплавок чудово. Чи є хороший спосіб серіалізувати це? JSONDecoder не приймає об'єкти Decimal, і перетворення на поплавок заздалегідь дає вихід, {'x': 3.8999999999999999}що неправильно, …

242 python  json  floating-point  decimal 

Намагаються видалити всі літери та символи, які не мають 0-9 та періоду. Я використовую, Character.isDigit()але він також видаляє десятковий, як я можу також зберігати десяткову?

237 java  string  character  decimal 

Я експериментую з цим першим кодовим підходом, але зараз з’ясовую, що властивість типу System.Decimal потрапляє у таблицю sql типу десяткових (18, 0). Як встановити точність стовпця бази даних?

230 c#  .net  entity-framework  ef-code-first  decimal 

Як перетворити десятковий знак в цілий?

227 c#  .net  int  decimal