Що є правильним способом затиснути шум від гусениць?

При зменшенні глибини кольору і затуманенні з 2-бітовим шумом (з n =] 0,5,1,5 [і вихід = підлога (вхід * (2 ^ біт-1) + n)), кінці діапазону значень (входи 0,0 і 1,0 ) галасливі. Хочеться, щоб вони були суцільним кольором.

Приклад: https://www.shadertoy.com/view/llsfz4

(вище - скріншот шадертої, що зображає градієнт і обидва кінці, які мають бути суцільно білими та чорними відповідно, але натомість шумно)

Звичайно, проблему можна вирішити, просто стиснувши діапазон значень, щоб кінці завжди були округлені до одиничних значень. Однак це відчуває злом, і мені цікаво, чи є спосіб реалізувати це "правильно"?

TL; DR: 2 * 1LSB трикутне-pdf відмирання в обрізних краях на 0 і 1 за рахунок затискання. Рішення полягає в тому, щоб лерпувати до 1-бітної рівномірної дистрибуції в цих крайових шарах.

Я додаю другу відповідь, бачачи, як це виявилося трохи складніше, ніж я спочатку думав. Здається, ця проблема була "TODO: потребує затискання?" у моєму коді, оскільки я перейшов з нормалізованого на трикутне забарвлення ... у 2012 році. Добре, нарешті, перегляньте його: Повний код для рішення / зображень, які використовуються у публікації: https://www.shadertoy.com/view/llXfzS

Перш за все, ось проблема, яку ми розглядаємо, під час кількісного визначення сигналу на 3 біти з тригранним двостороннім розширенням у форматі pdf:

- по суті те, що показала гаряча мультимедіа.

Зростаючий контраст, ефект, описаний у запитанні, стає очевидним: Вихід не має середнього до чорного / білого в крайових шафах (а насправді виходить за межі 0/1 перед цим).

Перегляд графіку дає трохи більше розуміння:

(сірі лінії позначають 0/1, також сірим кольором є сигнал, який ми намагаємося виводити, жовта лінія - це середній розмірний / квантований вихід, червоний - помилка (середній сигнал)).

Цікаво, що середня потужність не лише 0/1 в межах, вона також не є лінійною (ймовірно, через трикутного pdf шуму). Дивлячись на нижній кінець, має інтуїтивний сенс, чому вихід розходиться: Коли розрядний сигнал починає включати негативні значення, затискаючий-вихідний змінює значення нижніх зрізаних частин виходу (тобто негативних значень), тим самим збільшення значення середнього. Ілюстрація, здається, в порядку (рівномірна, симетрична нітра 2LSB, середня все ще жовта):

Тепер, якщо ми просто використовуємо нормалізовану дибуру на 1LSB, у крайових випадків проблем взагалі немає, але, звичайно, ми втрачаємо приємні властивості трикутного відшарування (див., Наприклад, цю презентацію ).

Тож (прагматичне, емпіричне) рішення (хак) - повернутись до [-0,5; 0,5 [рівномірне забарвлення для крайового шару:

float dithertri = (rnd.x + rnd.y - 1.0); //note: symmetric, triangular dither, [-1;1[
float dithernorm = rnd.x - 0.5; //note: symmetric, uniform dither [-0.5;0.5[

float sizt_lo = clamp( v/(0.5/7.0), 0.0, 1.0 );
float sizt_hi = 1.0 - clamp( (v-6.5/7.0)/(1.0-6.5/7.0), 0.0, 1.0 );

dither = lerp( dithernorm, dithertri, min(sizt_lo, sizt_hi) );

Який фіксує крайові шафи, зберігаючи трикутну обмацування недоторканою для решти діапазону:

Тож, щоб не відповісти на ваше запитання: я не знаю, чи є більш математично обґрунтоване рішення, і я однаково прагну знати, що зробили Masters of Past :) До того часу, принаймні, у нас є цей жахливий хак, щоб підтримувати наш код.

EDIT
Я, мабуть, повинен висвітлити попереджувальну пропозицію, подану в запитанні, щодо простого стиснення сигналу. Оскільки середнє значення не є лінійним у крайових шарах, просто стискання вхідного сигналу не дає ідеального результату - хоча це фіксує кінцеві точки:

Список літератури

• https://www.shadertoy.com/view/llXfzS
• http://loopit.dk/rendering_inside.pdf
• http://loopit.dk/banding_in_games.pdf
• http://32ipi028l5q82yhj72224m8j-wpengine.netdna-ssl.com/wp-content/uploads/2016/03/GdcVdrLottes.pdf

Я не впевнений, що зможу повністю відповісти на ваше запитання, але я додам кілька думок, і, можливо, ми зможемо дійти відповіді разом :)

По-перше, основа питання для мене трохи незрозуміла: Чому ви вважаєте бажаним мати чистий чорний / білий, коли кожен інший колір має шум? Ідеальний результат після затухання - ваш оригінальний сигнал з цілком рівномірним шумом. Якщо чорно-білі різняться, ваш шум стає залежним від сигналу (що, можливо, буде добре, оскільки трапляється там, де кольори все-таки затискаються).

Однак, є ситуації, коли виникнення шуму ні в білих, ні в чорношкірих не викликає проблем (я не знаю про випадки використання, які вимагають, щоб і чорний і білий колір були одночасно "чистими"). текстуру, ви не хочете, щоб шум додався у всьому квадраті, як це було б показано і поза текстурою. Одне рішення - компенсувати шум, а не додавати [-0,5; 1,5 [ви додаєте [-2,0; 0,0 [(тобто віднімаєте 2 біти шуму). Це досить емпіричне рішення, але я не знаю більш правильного підходу. Думаючи про це, ви, ймовірно, також захочете посилити свій сигнал, щоб компенсувати втрачену інтенсивність ...

Трохи пов'язаний, Тимофі Лоттс говорив про GDC про формування шуму в частинах спектру, де це найбільше потрібно, зменшуючи шум у світлому кінці спектру: http://32ipi028l5q82yhj72224m8j-wpengine.netdna-ssl.com/wp- content / uploads / 2016/03 / GdcVdrLottes.pdf

Я спростив ідею Міккела Джойола про те, щоб збити трикутний шум до простої функції, яка потребує лише одного дзвінка RNG. Я позбавив усіх непотрібних шматочків, тому це повинно бути досить читабельним і зрозумілим, що відбувається:

// Dithers and quantizes color value c in [0, 1] to the given color depth.
// It's expected that rng contains a uniform random variable on [0, 1].
uint dither_quantize(float c, uint depth, float rng) {
    float cmax = float(depth) - 1.0;
    float ci = c * cmax;

    float d;
    if (ci < 0.5 || ci >= cmax - 0.5) {
        // Uniform distribution on [-0.5, 0.5] for edges.
        d = rng - 0.5;
    } else {
        // Symmetric triangular distribution on [-1, 1].
        d = (rng < 0.5) ? sqrt(2.0 * rng) - 1.0 : 1.0 - sqrt(2.0 - 2.0*rng);
    }

    return uint(clamp(ci + d + 0.5, 0.0, cmax));
}

Щодо ідеї та контексту, я посилаюсь на відповідь Міккеля Джойола.