Запитання з тегом «floating-point»

Я намагався перевірити свої фільтри на DEM- растрі на предмет розпізнавання шаблонів, і це завжди призводить до відсутності останніх рядків і стовпців (наприклад, 20) . Я спробував з бібліотекою PIL, завантаженням зображення. Потім з нумером. Вихід той самий. Я подумав, що з моїми циклами щось не так, під час перевірки …

26 python  raster  gdal  numpy  floating-point 

Чи є базове або вступне дослідження, яке вивчає та порівнює точність просторових даних під час роботи з різною точністю введення даних, наприклад, маючи 1, 2, ... десяткових знаків? з різними реалізаціями плаваючих точок (float, double)? з даними біля екватора порівняно з даними біля полюсів? з географічними відстанями, обчисленими з тунельною …

22 gps  distance  wgs84  accuracy  floating-point 

Я випадково виявив, як ArcMap відображає користувачеві спеціальні значення з плаваючою комою. + ∞ (позитивна нескінченність) відображається як 1.#INF –∞ (негативна нескінченність) нібито відображатиметься як -1.#INF- я цього не підтвердив. NaN (не число) відображається як вирівнювання праворуч <Null>- не плутати з вирівнюванням ліворуч <Null>, що позначає NULL (відсутні значення): ( …

10 arcgis-desktop  arcmap  arcobjects  definition-query  floating-point