Запитання з тегом «arithmetic»

Ми всі знаємо, що 0/0це Undefinedі повертає помилку, якби я ставлю її до калькулятора, і якби я створив програму (принаймні на C), ОС би припинила її, коли я намагаюся розділити на нуль. Але мені цікаво, чи комп’ютер навіть намагається розділити на нуль , чи він просто "вбудований у захист", так …

59 math  error-handling  arithmetic 

2¹⁶-1 & 2⁵ = 2⁵ (або? Очевидно?) Сьогодні розробник запитав мене, що таке побітове значення 65535 & 32, тобто 2¹⁶-1 & 2⁵ =? Спочатку я подумав спонтанно 32, але здавалося легко, після чого я подумав кілька хвилин, а потім відповів 32. 32 здається, це була правильна відповідь, але як? 65535 …

11 numbers  binary  bitwise-operators  32-bit  arithmetic 

Для не британців серед аудиторії є сегмент денного ігрового шоу, де учасники мають набір з 6 чисел та випадково генероване цільове число. Вони повинні досягти цільового числа, використовуючи будь-який (але не обов'язково всі) із 6 чисел, використовуючи лише арифметичні оператори. Усі обчислення повинні приводити до натуральних чисел. Приклад: Youtube: Зворотний …

10 algorithms  arithmetic 

Проходячи через модульну операцію (проспект, в який я входив, вивчаючи різницю між remіmod ), я натрапив: У математиці результатом модульної операції є залишок поділу Евкліда. Однак можливі й інші конвенції. Комп'ютери та калькулятори мають різні способи зберігання та представлення номерів; таким чином, їх визначення модульної роботи залежить від мови програмування …

9 programming-languages  language-design  math  arithmetic  design-decisions