Запитання з тегом «floating-point»

Числа з плаваючою комою - це наближення реальних чисел, які можуть представляти великі діапазони, ніж цілі числа, але використовують той же об'єм пам'яті, ціною меншої точності. Якщо ваше запитання стосується невеликих арифметичних помилок (наприклад, чому 0,2 + 0,1 дорівнює 0,300000001?) Або десяткових помилок перетворення, будь ласка, прочитайте сторінку "інформація", що посилається нижче перед публікацією.

4
Objective-C - перевірка плаваючості на нан
У мене є змінна ( float slope), яка іноді матиме значення nan при роздрукуванні, оскільки іноді відбувається поділ на 0. Я намагаюся зробити інше, якщо це трапиться. Як я можу це зробити? if (slope == nan)здається, не працює.
7
Поділ з плаваючою точкою проти множення з плаваючою точкою
Чи є якісь (не мікрооптимізаційні) підвищення продуктивності за допомогою кодування float f1 = 200f / 2 у порівнянні з float f2 = 200f * 0.5 Мій професор сказав мені кілька років тому, що поділи з плаваючою точкою повільніші, ніж множення з плаваючою точкою, не пояснюючи причини. Чи відповідає це твердження …
7
Як знайти максимальне значення для Double and Float в Swift
Поточне навчання Swift, є способи знайти максимальне та мінімальне значення для різних типів цілих чисел, таких як Int.maxі Int.min. Чи можна знайти максимальне значення для Double і Float? Більше того, до якого документа мені слід звернутися для такого роду запитань? Зараз я читаю програму Apple Swift Language Programming .
7
Який діапазон чисел можна представити в 16-, 32- та 64-розрядних системах IEEE-754?
Я трохи знаю про те, як представлені числа з плаваючою комою, але, боюся, недостатньо. Загальне питання: Для заданої точності (для моїх цілей кількість точних десяткових знаків у базі 10), який діапазон чисел може бути представлений для 16-, 32- та 64-розрядних систем IEEE-754? Зокрема, мене цікавить лише діапазон 16-розрядних та 32-розрядних …
3
Як мені ввести в python літерал з нескінченністю з плаваючою комою
Як ввести в python літерал нескінченності з плаваючою комою? я чув inf = float('inf') є не портативним. Таким чином, я рекомендував наступне: inf = 1e400 Це стандартний чи портативний? Що є найкращою практикою?
4
Зробіть літерали з плаваючою комою C плаваючими (а не подвійними)
Добре відомо, що в C літерали з плаваючою комою (наприклад 1.23) мають тип double. Як наслідок, будь-який розрахунок, який їх включає, підвищується вдвічі. Я працюю над вбудованою системою реального часу, яка має одиницю з плаваючою комою, яка підтримує лише одиничні floatчисла точності ( ). Усі мої змінні є float, і …
7
ValueError: не вдалося перетворити рядок у float: id
Я запускаю такий сценарій python: #!/usr/bin/python import os,sys from scipy import stats import numpy as np f=open('data2.txt', 'r').readlines() N=len(f)-1 for i in range(0,N): w=f[i].split() l1=w[1:8] l2=w[8:15] list1=[float(x) for x in l1] list2=[float(x) for x in l2] result=stats.ttest_ind(list1,list2) print result[1] Однак я отримав такі помилки, як: ValueError: could not convert string …
3
Чому 0,1 + 0,2 == 0,3 дюйма?
assert(0.1 + 0.2 != 0.3); // shall be true це моя улюблена перевірка того, що мова використовує власну арифметику з плаваючою комою. C ++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Вихід: 1 http://ideone.com/ErBMd Python print(0.1 + 0.2 != 0.3) Вихід: True http://ideone.com/TuKsd …
2
Чи справді змінні в MATLAB дійсно подвійні за точністю?
Це питання виникло з чогось дивного, що я помітив після подальшого розслідування цього питання ... Я завжди розумів, що змінні MATLAB за замовчуванням мають подвійну точність . Отже, якби я зробив щось на зразок оголошення змінної з 20 цифрами після десяткової коми: >> num = 2.71828182845904553488; >> class(num) % Display …
2
Який правильний / стандартний спосіб перевірити, чи різниця менша від точності машини?
Я часто опиняюся в ситуаціях, коли потрібно перевірити, чи отримана різниця вище машинної точності. Схоже , що для цієї мети R має зручну змінну: .Machine$double.eps. Однак, коли я звертаюсь до вихідного коду R для отримання рекомендацій щодо використання цього значення, я бачу безліч різних шаблонів. Приклади Ось кілька прикладів з …
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.