Запитання з тегом «number-formats»

Я розглядав математику, яка перетворюється з будь-якої бази на будь-яку базу. Це скоріше про підтвердження моїх результатів, ніж будь-що. Я знайшов свою відповідь на mathforum.org, але я все ще не впевнений, чи правильно я це маю. У мене перетворення з більшої бази на меншу базу вниз нормально, тому що це …

36 algorithms  arithmetic  number-formats 

Розглянемо зображення фіксованої точки, яке може розглядатися як вироджений випадок плаваючого числа. Цілком можливо використовувати доповнення 2 для від’ємних чисел. Але чому біт знаків необхідний для чисел з плаваючою точкою, не слід, щоб біти мантіси використовували доповнення 2? Крім того, чому біти експонента використовують зміщення замість представленої величини (як аналогічно …

20 computer-architecture  floating-point  number-formats 

Струм з плаваючою комою (ANSI C з плаваючою точкою, подвійний) дозволяють уявити наближення дійсного числа. Чи є спосіб представити реальні числа без помилок ? Ось у мене виникла ідея, яка є все, але не ідеальною. Наприклад, 1/3 - це 0,33333333 ... (база 10) або o101010101 ... (база 2), але також …

10 binary-arithmetic  arithmetic  floating-point  real-numbers  number-formats