Чому цикл Java на 4 мільярди ітерації займає лише 2 мс?

У мене наступний код Java на ноутбуці з 2,7 ГГц Intel Core i7. Я мав намір дозволити йому виміряти, скільки часу потрібно, щоб закінчити цикл з 2 ^ 32 ітераціями, які, як я очікував, становитимуть приблизно 1,48 секунди (4 / 2,7 = 1,48).

Але насправді це займає всього 2 мілісекунди, а не 1,48 с. Мені цікаво, чи це результат будь-якої оптимізації JVM під ним?

public static void main(String[] args)
{
    long start = System.nanoTime();

    for (int i = Integer.MIN_VALUE; i < Integer.MAX_VALUE; i++){
    }
    long finish = System.nanoTime();
    long d = (finish - start) / 1000000;

    System.out.println("Used " + d);
}

Тут діє одна з двох можливостей:

1. Компілятор зрозумів, що цикл є зайвим і нічого не робить, тому оптимізував його.

2. JIT (щойно вчасно встановлений компілятор) зрозумів, що цикл є зайвим і нічого не робить, тому оптимізував його.

Сучасні компілятори дуже розумні; вони можуть бачити, коли код марний. Спробуйте ввести порожній цикл у GodBolt і подивіться на результат, а потім увімкніть -O2оптимізацію, ви побачите, що вихід є чимось уздовж лінії

main():
    xor eax, eax
    ret

Я хотів би щось уточнити, в Java більшість оптимізацій проводиться JIT. В деяких інших мовах (наприклад, C / C ++) більшість оптимізацій проводиться першим компілятором.

Схоже, це було оптимізовано компілятором JIT. Коли я вимикаю його ( -Djava.compiler=NONE), код працює набагато повільніше:

$ javac MyClass.java
$ java MyClass
Used 4
$ java -Djava.compiler=NONE MyClass
Used 40409

Я ставлю код OP всередині class MyClass.

Я просто констатую очевидне - що це оптимізація JVM, яка відбувається, цикл просто буде видалений зовсім. Ось невеликий тест, який показує, яка величезна різниця у тому, що JITвін увімкнено / увімкнено лише для C1 Compilerта відключений.

Відмова від відповідальності: не пишіть такі тести - це лише для того, щоб довести, що фактичне видалення циклу відбувається у C2 Compiler:

@Benchmark
@Fork(1)
public void full() {
    long result = 0;
    for (int i = Integer.MIN_VALUE; i < Integer.MAX_VALUE; i++) {
        ++result;
    }
}

@Benchmark
@Fork(1)
public void minusOne() {
    long result = 0;
    for (int i = Integer.MIN_VALUE; i < Integer.MAX_VALUE - 1; i++) {
        ++result;
    }
}

@Benchmark
@Fork(value = 1, jvmArgsAppend = { "-XX:TieredStopAtLevel=1" })
public void withoutC2() {
    long result = 0;
    for (int i = Integer.MIN_VALUE; i < Integer.MAX_VALUE - 1; i++) {
        ++result;
    }
}

@Benchmark
@Fork(value = 1, jvmArgsAppend = { "-Xint" })
public void withoutAll() {
    long result = 0;
    for (int i = Integer.MIN_VALUE; i < Integer.MAX_VALUE - 1; i++) {
        ++result;
    }
}

Результати показують, що залежно від того, яку частину JITвключено, метод стає швидшим (настільки швидше, що схоже, що він робить "нічого" - видалення циклу, що, здається, відбувається в C2 Compiler- який максимальний рівень):

 Benchmark                Mode  Cnt      Score   Error  Units
 Loop.full        avgt    2     ≈ 10⁻⁷          ms/op
 Loop.minusOne    avgt    2     ≈ 10⁻⁶          ms/op
 Loop.withoutAll  avgt    2  51782.751          ms/op
 Loop.withoutC2   avgt    2   1699.137          ms/op 

Як уже зазначалося, компілятор JIT (щойно встигає) може оптимізувати порожній цикл, щоб видалити непотрібні ітерації. Але як?

Насправді є два компілятори JIT: C1 & C2 . Спочатку код складається з C1. C1 збирає статистику та допомагає JVM виявити, що в 100% випадків наш порожній цикл нічого не змінює і є марним. У цій ситуації С2 виходить на сцену. Коли код викликається дуже часто, його можна оптимізувати та компілювати за допомогою C2 за допомогою зібраної статистики.

Як приклад, я протестую наступний фрагмент коду (мій JDK встановлений для 9-внутрішнього уповільнення помилок ):

public class Demo {
    private static void run() {
        for (int i = Integer.MIN_VALUE; i < Integer.MAX_VALUE; i++) {
        }
        System.out.println("Done!");
    }
}

За допомогою наступних параметрів командного рядка:

-XX:+UnlockDiagnosticVMOptions -XX:CompileCommand=print,*Demo.run

І існують різні версії мого методу запуску , складені відповідним чином за допомогою C1 та C2. Для мене кінцевий варіант (С2) виглядає приблизно так:

...

; B1: # B3 B2 <- BLOCK HEAD IS JUNK  Freq: 1
0x00000000125461b0: mov   dword ptr [rsp+0ffffffffffff7000h], eax
0x00000000125461b7: push  rbp
0x00000000125461b8: sub   rsp, 40h
0x00000000125461bc: mov   ebp, dword ptr [rdx]
0x00000000125461be: mov   rcx, rdx
0x00000000125461c1: mov   r10, 57fbc220h
0x00000000125461cb: call  indirect r10    ; *iload_1

0x00000000125461ce: cmp   ebp, 7fffffffh  ; 7fffffff => 2147483647
0x00000000125461d4: jnl   125461dbh       ; jump if not less

; B2: # B3 <- B1  Freq: 0.999999
0x00000000125461d6: mov   ebp, 7fffffffh  ; *if_icmpge

; B3: # N44 <- B1 B2  Freq: 1       
0x00000000125461db: mov   edx, 0ffffff5dh
0x0000000012837d60: nop
0x0000000012837d61: nop
0x0000000012837d62: nop
0x0000000012837d63: call  0ae86fa0h

...

Це трохи безладно, але якщо придивитись уважніше, ви можете помітити, що тут довгий цикл не працює. Існує 3 блоки: B1, B2 і B3, і кроки виконання можуть бути B1 -> B2 -> B3або B1 -> B3. Де Freq: 1- нормалізована передбачувана частота виконання блоку.

Ви вимірюєте час, необхідний для виявлення циклу, нічого не робить, компілюйте код у фонову нитку та усуньте код.

for (int t = 0; t < 5; t++) {
    long start = System.nanoTime();
    for (int i = Integer.MIN_VALUE; i < Integer.MAX_VALUE; i++) {
    }
    long time = System.nanoTime() - start;

    String s = String.format("%d: Took %.6f ms", t, time / 1e6);
    Thread.sleep(50);
    System.out.println(s);
    Thread.sleep(50);
}

Якщо запустити це, -XX:+PrintCompilationви побачите, що код був складений у фоновому режимі до рівня 3 або C1 компілятора, а через кілька циклів - до рівня 4 C4.

    129   34 %     3       A::main @ 15 (93 bytes)
    130   35       3       A::main (93 bytes)
    130   36 %     4       A::main @ 15 (93 bytes)
    131   34 %     3       A::main @ -2 (93 bytes)   made not entrant
    131   36 %     4       A::main @ -2 (93 bytes)   made not entrant
0: Took 2.510408 ms
    268   75 %     3       A::main @ 15 (93 bytes)
    271   76 %     4       A::main @ 15 (93 bytes)
    274   75 %     3       A::main @ -2 (93 bytes)   made not entrant
1: Took 5.629456 ms
2: Took 0.000000 ms
3: Took 0.000364 ms
4: Took 0.000365 ms

Якщо ви зміните цикл на використання, longвін не буде оптимізованим.

    for (long i = Integer.MIN_VALUE; i < Integer.MAX_VALUE; i++) {
    }

натомість ви отримуєте

0: Took 1579.267321 ms
1: Took 1674.148662 ms
2: Took 1885.692166 ms
3: Took 1709.870567 ms
4: Took 1754.005112 ms

Ви розглядаєте час початку і закінчення в наносекунді і ділите на 10 ^ 6 для обчислення затримки

long d = (finish - start) / 1000000

це має бути 10^9тому, що 1друге = 10^9наносекунда.