Що таке фактично найнижчий можливий позитивний РЕАЛЬНИЙ номер


11

MSDN каже, що діапазон чисел REAL становить - 3,40Е + 38 до -1,18E - 38, 0 і 1,18E - 38 до 3,40E + 38. Мабуть, справжня нижня межа набагато нижча. Наступний скрипт заповнює стовпець РЕАЛЬНИЙ з 1.401298E-45:

CREATE TABLE a
  (
    r1 REAL NULL ,
    r2 REAL NULL ,
    r3 REAL NULL
  ) ;
GO
INSERT  INTO a
        ( r1, r2 )
VALUES  ( 1.18E-37, 10 ) ;
GO
DECLARE @i INT ;
SET @i = 1 ;

WHILE @i < 20 
  BEGIN ;

    UPDATE  a
    SET     r1 = r1 / r2 ;

    SELECT  r1 ,
            r2
    FROM    a ;

    SET @i = @i + 1 ;

  END ;
GO
DROP TABLE a ;

r1            r2
------------- -------------
1.18E-38      10

(snip)

r1            r2
------------- -------------
1.401298E-45  10

Хто-небудь може сказати мені, що є фактично найнижчим можливим позитивним числом?


1
З цим типом напевно є якась дивна поведінка. Найменший скалярний літерал, який я зміг подати і вибрати, був 1.1754944E-38, який повернувся як 1.175494E-38 (відмітьте пропущене 4 в кінці) - якщо ви спробуєте подати 1.175494E-38 безпосередньо, ви отримаєте нуль назад.
Джон Сейгель

Відповіді:


13

Мінімальне позитивне (субнормальне) одноточне значення з плаваючою комою становить 2 −149 ≈ 1,4 × 10 −45 . Мінімальне позитивне нормальне значення - 2 −126 ≈ 1,18 × 10 38 ( посилання ).

DECLARE
    @r1 real = POWER(2e0, -126),
    @r2 real = POWER(2e0, -23)

SELECT
    @r1,
    @r2,
    @r1 * @r2,
    CONVERT(binary(4), @r1 * @r2);

Для подвійної точності мінімальний позитивний субнормальний :

DECLARE @r1 float = POWER(2e0, -1075);

SELECT @r1, CONVERT(binary(8), @r1);
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.