Запитання з тегом «dc»

3
Як відформатувати число з плаваючою комою з точно двома значущими цифрами в bash?
Я хочу надрукувати число з плаваючою комою з точно двома значущими цифрами в bash (можливо, використовуючи звичайний інструмент, як awk, bc, dc, perl тощо). Приклади: 76543 має бути надруковано як 76000 0,0076543 має бути надруковано як 0,0076 В обох випадках значущі цифри - 7 та 6. Я прочитав відповіді на …
17 bash  awk  bc  floating-point  dc 

3
Втрата точності за допомогою постійного струму
Я хочу використовувати dcдля обробки деяких базових 16 чисел із шістнадцятковими точками, але у мене виникають проблеми з точністю. Наприклад, нижче я множачи F423F.FDна 100, як шестигранник. Очікувана відповідь F423FFD, натомість вона дає F423FFA.E1, близьку, але недостатньо точну навіть після округлення. $ dc 16 d i o F423F.FD 100 * …
12 dc 
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.