Запитання з тегом «numbers»

Часто в своєму досвіді програмування мені потрібно приймати рішення, чи слід використовувати float або double для моїх реальних цифр. Іноді я ходжу за поплавком, іноді йду на подвійний, але справді це відчувається більш суб’єктивно. Якби я зіткнувся із захистом свого рішення, я, мабуть, не надавав обґрунтованих причин. Коли ви використовуєте …

194 c++  c  floating-point  numbers 

У кожному місці, куди я дивився, написано, що doubleце floatмайже у всіх сенсах. floatбув застарілий doubleв Java, так чому він досі використовується? Я багато програмую з Libgdx, і вони змушують вас використовувати float(deltaTime тощо), але мені здається, що doubleпросто просто працювати з точки зору пам’яті та пам’яті. Я також читав …

84 java  memory  floating-point  numbers 

Одному моєму другові було задано це питання інтерв'ю - "Існує постійний потік чисел, що надходять з якогось нескінченного списку чисел, з яких вам потрібно підтримувати структуру даних, щоб повернути топ-100 найвищих чисел у будь-який момент часу. Припустимо, що всі числа є лише цілими числами." Це просто, вам потрібно вести відсортований …

53 numbers  big-o  puzzles 

Гаразд, мені це дурно задавати питання - але в статті Джеффа: Правильне отримання екрана телефону для інтерв'ю і спочатку зазначено в 5 найважливіших питаннях на екрані телефону : Вони не повинні тупо дивитись на вас, коли ви запитуєте з 2 ^ 16 є. Це спеціальне число. Вони повинні це знати. …

48 numbers  binary 

Мови програмування, як схема (R5RS) та Python ( див. Це запитання ), спрямовуються до найближчого парного цілого числа, коли значення точно знаходиться між навколишніми цілими числами. Які міркування за цим? Чи є математична ідея, яка робить наступні обчислення легшими для міркувань? (R5RS згадує стандарт плаваючої крапки IEEE як джерело такої …

44 scheme  numbers  numeric-precision  python-3.x 

C#має decimalтип, який використовується для чисел, які потребують точного подання в базі 10. Наприклад, 0.1не може бути представлений у базі 2 (наприклад, floatта double) і завжди буде наближенням, коли зберігається у змінних, що мають ці типи. Мені було цікаво, чи можливий і зворотний факт. Чи є номери, які не можуть …

42 c#  numbers  floating-point 

У новинах з'явилася історія про людину, на рахунок якої в Paypal випадково було зараховано 92,233,720,368,547,800 доларів. Звідки ця цифра? Яка помилка програмування може призвести до цього числа?

36 errors  numbers  payment 

Нещодавно викладаючи про битву Великий проти Малого Ендіана, студент запитав, чи це було врегульовано, і я зрозумів, що не знаю. Переглядаючи статтю Wikipedia , здається, що найпопулярніші поточні пари ОС / архітектури використовують Little Endian, але Інтернет-протокол визначає Big Endian для передачі числових значень у заголовках пакетів. Це буде гарним …

34 standards  protocol  computer-architecture  numbers  endianness 

Це питання стосується того, скільки бітів потрібно для зберігання діапазону. Або кажучи іншим способом, для заданої кількості біт, який максимальний діапазон, який можна зберігати і як? Уявіть, що ми хочемо зберігати піддіапазон у межах 0-255. Так, наприклад, 45-74. Ми можемо зберігати приклад вище як два неподписані байти, але мені вражає, …

29 data-structures  numbers  compression 

Комп'ютери мають проблеми зі зберіганням дробових чисел, де знаменник - це щось інше, ніж рішення для 2 ^ x. Це тому, що перша цифра після десяткової варто 1/2, друга 1/4 (або 1 / (2 ^ 1) і 1 / (2 ^ 2)) і т.д. Навіщо мати справу з усілякими помилками …

24 numbers  numeric-precision 

Це запитання було перенесено із переповнення стека, оскільки на нього можна відповісти на Exchange Stack Exchange. Мігрували 8 років тому . Я просто розмірковував над rand()функцією php і думав про те, як би я міг її переробити, і я прийшов зовсім ошелешений. Як працюють генератори випадкових чисел?

23 random  numbers 

Нещодавно я розробив модуль часових рядів, де мій часовий ряд по суті є SortedDictionnary<DateTime, double>. Тепер я хотів би створити одиничні тести, щоб переконатися, що цей модуль працює завжди і дає очікуваний результат. Поширеною операцією є обчислення продуктивності між точками у часовому ряду. Тож я хочу створити часовий ряд із, …

20 .net  unit-testing  numbers 

У Java є примітивні типи для byte, short, intі longі те ж саме для floatі double. Чому потрібно, щоб людина встановила, скільки байтів слід використовувати для примітивного значення? Не вдалося розмір просто визначити динамічно залежно від того, наскільки велике було передане число? Я думаю про дві причини: Динамічне встановлення розміру …

20 java  language-design  data-types  numbers 

У числових даних дуже важливо вміти виявляти нестабільні схеми та підвищувати їх стійкість. Як визначити нестабільні обчислення з плаваючою комою? Я працюю над дуже складним моделюванням, коли багато числових схем працюють разом, і я шукаю методику для визначення його слабких частин. Я працюю над фізичною моделлю, що включає диференціальні рівняння. …

15 numbers  numeric-precision 

Який найшвидший спосіб знайти перше (найменше) ціле число, яке не існує в заданому списку несортованих цілих чисел (а це більше, ніж найменше значення списку)? Мій примітивний підхід сортує їх і переглядає список, чи є кращий спосіб?

14 algorithms  search  list  numbers