Запитання з тегом «floating-point»

Часто в своєму досвіді програмування мені потрібно приймати рішення, чи слід використовувати float або double для моїх реальних цифр. Іноді я ходжу за поплавком, іноді йду на подвійний, але справді це відчувається більш суб’єктивно. Якби я зіткнувся із захистом свого рішення, я, мабуть, не надавав обґрунтованих причин. Коли ви використовуєте …

194 c++  c  floating-point  numbers 

У кожному місці, куди я дивився, написано, що doubleце floatмайже у всіх сенсах. floatбув застарілий doubleв Java, так чому він досі використовується? Я багато програмую з Libgdx, і вони змушують вас використовувати float(deltaTime тощо), але мені здається, що doubleпросто просто працювати з точки зору пам’яті та пам’яті. Я також читав …

84 java  memory  floating-point  numbers 

Мене бентежить питання, чому ми дбаємо про різні уявлення про позитивний та негативний нуль. Я туманно згадую читання тверджень про те, що наявність негативного нульового представлення є надзвичайно важливим у програмуванні, яке включає складні числа. У мене ніколи не було можливості писати код із складними числами, тому я трохи не …

64 math  floating-point 

Я знаю, що арифметика з плаваючою комою має проблеми з точністю. Зазвичай я їх долаю, переходячи до фіксованого десяткового представлення числа, або просто нехтуючи помилкою. Однак я не знаю, які причини цієї неточності. Чому існує так багато проблем із округленням з плаваючими числами?

62 floating-point  numeric-precision 

C#має decimalтип, який використовується для чисел, які потребують точного подання в базі 10. Наприклад, 0.1не може бути представлений у базі 2 (наприклад, floatта double) і завжди буде наближенням, коли зберігається у змінних, що мають ці типи. Мені було цікаво, чи можливий і зворотний факт. Чи є номери, які не можуть …

42 c#  numbers  floating-point 

Чи є альтернатива бітам як найменшій одиниці даних? Щось, що не буде лише 0 або 1, але насправді містить багато можливих станів між ними? Хіба не було б природніше зберігати такі поплавці?

42 data  binary  floating-point  byte  bit 

Досліджуючи точність чисел з плаваючою комою, я десь бачив вислів, подібний до " float і double" ( призначені для / часто використовуються в ) інженерно-науковому розрахунку " З мого розуміння, сила поплавків і подвійних значень - це об'єм пам'яті, яку вони використовують для своєї (хорошої, але не досконалої) точності. Я …

33 floating-point  numeric-precision 

Наприклад, я хочу показати список кнопок від 0,0,5, ... 5, який переходить на кожні 0,5. Для цього я використовую цикл і мають інший колір на кнопці STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } У цьому випадку не повинно бути помилок округлення, оскільки кожне …

31 javascript  coding-style  floating-point 

Я дивився http://www.joelonsoftware.com/items/2011/06/27.html і сміявся з жарту Джона Скета, що приблизно 0,3 не було 0,3. У мене особисто ніколи не було проблем з поплавцями / десятковими знаками / парними, але тоді я пам’ятаю, що я навчився 6502 дуже рано і ніколи не потребував плавців у більшості моїх програм. Єдиний раз, …

29 floating-point 

Коли я перейшов до частини, я читав статтю від Microsoft про розширювані конверсії та обмеження параметрів Такі конверсії можуть втратити точність: Цілий до одинакового Довгий до одинарного або подвійного Десяткові до одинарних або подвійних Однак ці перетворення не втрачають інформації чи масштабів. .. але згідно з іншою статтею щодо типів …

27 vb.net  floating-point 

Це не повторне запитання, коли я читав попереднє запитання. Хто-небудь може мені допомогти в розумінні how float values are stored in the memory. Я сумніваюсь, тут знаки float містять ' .'( for example 3.45), як '.'буде представлена ​​пам'ять у пам'яті? Може хто-небудь, будь ласка, уточнив мене діаграмою?

20 c  memory  floating-point 

Створюючи додаток, який займається великою кількістю математичних обчислень, я зіткнувся з проблемою, що певні числа викликають помилки округлення. Хоча я розумію, що плаваюча точка не є точною , проблема полягає в тому, як я маю справу з точними числами, щоб переконатися, що коли обчислення попередньо формуються на них, округлення плаваючої …

18 floating-point  numeric-precision 

Скажімо, у нас є наступний клас Python (проблема в Java існує точно так само, як equalsі hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees де degreesтемпература в Кельвіні як поплавок. Тепер я хотів би здійснити перевірку рівності і хешування для Temperatureтаким чином , що порівнює поплавці до epsilon різниці …

15 java  python  hashing  floating-point 

Наскільки я пам'ятаю себе програмуванням, мене навчали не порівнювати числа з плаваючою комою для рівності. Тепер, читаючи Програмування в Луї про numberтип Луа , я виявив наступне: Тип числа представляє реальні числа з плаваючою комою з подвійною точністю. Lua не має цілого типу, оскільки він не потребує. Існує широко поширене …

11 lua  floating-point 

Переглядаючи реалізацію іншого програміста функції для обчислення нормального CDF розподілу , я запропонував або замінити всю реалізацію на вбудовані функції Python, або використовувати SciPy, загальну наукову бібліотеку. Інший програміст зазначив, що ні в жодних документах, math.erfc()ні scipy.stats.norm.cdf()в їх документації не передбачено жодних гарантій точності. Тому я повинен бути більш обережним …

9 documentation  math  floating-point  numeric-precision