Запитання з тегом «precision»

Існує опція R, щоб отримати контроль над цифровим відображенням. Наприклад: options(digits=10) повинен дати результати обчислення в 10 цифрах до кінця R сесії. У довідковому файлі R визначення параметра цифр таке: цифр: керує кількістю цифр для друку під час друку числових значень. Це лише пропозиція. Дійсні значення - 1 ... 22, …

110 r  precision  digits  r-faq  output-formatting 

Це питання мені було задано під час мого недавнього інтерв'ю, і я хочу знати (я насправді не пам'ятаю теорію чисельного аналізу, тому будь ласка, допоможіть мені :) Якщо у нас є якась функція, яка акумулює числа з плаваючою комою: std::accumulate(v.begin(), v.end(), 0.0); vє std::vector<float>, наприклад. Чи було б краще сортувати …

105 c++  floating-point  precision 

Я знаю, що ти не можеш покладатися на рівність між подвійними або десятковими значеннями типу, але мені цікаво, чи 0 є особливим випадком. Хоча я можу зрозуміти неточності між 0,00000000000001 та 0,00000000000002, 0 сам по собі здається досить важким зіпсувати, оскільки це просто нічого. Якщо ви ні до чого не …

100 c#  .net  floating-point  precision  zero 

Я просто зіткнувся з якоюсь несподіваною поведінкою з DateTime.UtcNow, виконуючи деякі модульні тести. Схоже, що коли ви швидко викликаєте DateTime.Now/UtcNow, здається, це повертає вам одне і те ж значення на більш тривалий час, ніж очікувалося, замість того, щоб отримувати більш точні кроки в мілісекундах. Я знаю, що існує клас Секундомір, …

97 c#  .net  datetime  precision  time-precision 

Це те, що мені запам’яталось роками, але я ніколи раніше не знайшов часу, щоб запитати. Багато генераторів випадкових чисел (псевдо) генерують випадкове число від 0,0 до 1,0. Математично в цьому діапазоні є нескінченні числа, але doubleце число з плаваючою комою і, отже, має кінцеву точність. Тож питання такі: Скільки всього …

94 random  floating-point  double  precision 

Це не питання, оскільки це більше про те, щоб бути в курсі. Я оновив додаток, який використовує json_encode()PHP7.1.1, і я бачив проблему зі зміною поплавків, які іноді розширювали 17 цифр. Згідно з документацією, PHP 7.1.x почав використовувати serialize_precisionзамість точності при кодуванні подвійних значень. Я здогадуюсь, це спричинило приклад значення 472,185 …

93 php  json  precision  php-7.1 

У мене деякі клієнти отримують дивні рахунки. Мені вдалося виділити основну проблему: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS …

84 sql-server  tsql  precision  sql-server-2016  sqldatatypes 

Закрито . Це питання має бути більш сфокусованим . Наразі відповіді не приймаються. Хочете покращити це питання? Оновіть питання, щоб воно зосереджувалось на одній проблемі, лише відредагувавши цю публікацію . Закрито 2 місяці тому . Удосконалюйте це питання Чи існують типи даних з кращою точністю, ніж float?

83 python  types  precision 

Я трохи знаю про те, як представлені числа з плаваючою комою, але, боюся, недостатньо. Загальне питання: Для заданої точності (для моїх цілей кількість точних десяткових знаків у базі 10), який діапазон чисел може бути представлений для 16-, 32- та 64-розрядних систем IEEE-754? Зокрема, мене цікавить лише діапазон 16-розрядних та 32-розрядних …

76 floating-point  precision  numerical  ieee-754 

Це питання виникло з чогось дивного, що я помітив після подальшого розслідування цього питання ... Я завжди розумів, що змінні MATLAB за замовчуванням мають подвійну точність . Отже, якби я зробив щось на зразок оголошення змінної з 20 цифрами після десяткової коми: >> num = 2.71828182845904553488; >> class(num) % Display …

74 variables  matlab  floating-point  precision 

Я часто опиняюся в ситуаціях, коли потрібно перевірити, чи отримана різниця вище машинної точності. Схоже , що для цієї мети R має зручну змінну: .Machine$double.eps. Однак, коли я звертаюсь до вихідного коду R для отримання рекомендацій щодо використання цього значення, я бачу безліч різних шаблонів. Приклади Ось кілька прикладів з …

36 r  floating-point  rounding  precision 

Припустимо, ми беремо np.dotдва 'float32'2D масиви: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Числа. Крім того, вони можуть змінювати: СЛУЧАЙ 1 : скибочкаa np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in range(1, len(a)): …

15 python  c  arrays  numpy  precision 

У мене досить довгий список позитивних чисел з плаваючою комою ( std::vector<float>, розмір ~ 1000). Числа сортуються у порядку зменшення. Якщо я підсумую їх у порядку: for (auto v : vec) { sum += v; } Я думаю, у мене може виникнути проблема чисельної стабільності, оскільки близько до кінця вектора …

12 c++  floating-point  precision