Як я можу замінити символи Unicode, що не друкуються, у Java?

Наступне замінить символи керування ASCII (скорочення для [\x00-\x1F\x7F]):

my_string.replaceAll("\\p{Cntrl}", "?");

Далі буде замінено всі недруковані символи ASCII (скорочення для [\p{Graph}\x20]), включаючи символи з наголосом:

my_string.replaceAll("[^\\p{Print}]", "?");

Однак жоден з них не працює для рядків Unicode. Хтось має хороший спосіб видалити символи, що не друкуються, із рядка Unicode?

my_string.replaceAll("\\p{C}", "?");

Докладніше про регулярний вираз Unicode . java.util.regexPattern/ String.replaceAllпідтримує їх.

Оп Де Циркель переважно має рацію. Його пропозиція спрацює в більшості випадків:

myString.replaceAll("\\p{C}", "?");

Але якщо вони myStringможуть містити кодові точки, які не є BMP, то це складніше. \p{C}містить сурогатні кодові точки \p{Cs}. Наведений вище метод заміни призведе до пошкодження кодових точок, що не належать до BMP, іноді замінюючи лише половину сурогатної пари. Можливо, це помилка Java, а не передбачувана поведінка.

Варіант використання інших складових категорій:

myString.replaceAll("[\\p{Cc}\\p{Cf}\\p{Co}\\p{Cn}]", "?");

Однак поодинокі сурогатні символи, що не є частиною пари (кожному сурогатному символу присвоєна кодова точка), не видалятимуться. Нерегулярний підхід - це єдиний спосіб, яким я знаю, як правильно обробляти \p{C}:

StringBuilder newString = new StringBuilder(myString.length());
for (int offset = 0; offset < myString.length();)
{
    int codePoint = myString.codePointAt(offset);
    offset += Character.charCount(codePoint);

    // Replace invisible control characters and unused code points
    switch (Character.getType(codePoint))
    {
        case Character.CONTROL:     // \p{Cc}
        case Character.FORMAT:      // \p{Cf}
        case Character.PRIVATE_USE: // \p{Co}
        case Character.SURROGATE:   // \p{Cs}
        case Character.UNASSIGNED:  // \p{Cn}
            newString.append('?');
            break;
        default:
            newString.append(Character.toChars(codePoint));
            break;
    }
}

Можливо, вас зацікавлять категорії Unicode "Інше, Керування" та, можливо, "Інше, Формат" (на жаль, останні, здається, містять як символи, що не друкуються, так і для друку).

У регулярних виразах Java ви можете перевірити їх за допомогою \p{Cc}і \p{Cf}відповідно.

методи в удар для вашої мети

public static String removeNonAscii(String str)
{
    return str.replaceAll("[^\\x00-\\x7F]", "");
}

public static String removeNonPrintable(String str) // All Control Char
{
    return str.replaceAll("[\\p{C}]", "");
}

public static String removeSomeControlChar(String str) // Some Control Char
{
    return str.replaceAll("[\\p{Cntrl}\\p{Cc}\\p{Cf}\\p{Co}\\p{Cn}]", "");
}

public static String removeFullControlChar(String str)
{
    return removeNonPrintable(str).replaceAll("[\\r\\n\\t]", "");
} 

Для цього я використав цю просту функцію:

private static Pattern pattern = Pattern.compile("[^ -~]");
private static String cleanTheText(String text) {
    Matcher matcher = pattern.matcher(text);
    if ( matcher.find() ) {
        text = text.replace(matcher.group(0), "");
    }
    return text;
}

Сподіваюся, це корисно.

На основі відповідей Op De Cirkel та noackjr , для загального очищення рядків я роблю наступне: 1. обрізання пробілів, що ведуть або закінчуються, 2. dos2unix, 3. mac2unix, 4. видалення всіх "невидимих ​​символів Unicode", крім пробілів:

myString.trim.replaceAll("\r\n", "\n").replaceAll("\r", "\n").replaceAll("[\\p{Cc}\\p{Cf}\\p{Co}\\p{Cn}&&[^\\s]]", "")

Випробувано Scala REPL.

Я пропоную йому видалити символи, що не друкуються, як показано нижче, замість того, щоб замінити їх

private String removeNonBMPCharacters(final String input) {
    StringBuilder strBuilder = new StringBuilder();
    input.codePoints().forEach((i) -> {
        if (Character.isSupplementaryCodePoint(i)) {
            strBuilder.append("?");
        } else {
            strBuilder.append(Character.toChars(i));
        }
    });
    return strBuilder.toString();
}

Я переробив код для телефонних номерів +9 (987) 124124 Витяг цифр із рядка на Java

 public static String stripNonDigitsV2( CharSequence input ) {
    if (input == null)
        return null;
    if ( input.length() == 0 )
        return "";

    char[] result = new char[input.length()];
    int cursor = 0;
    CharBuffer buffer = CharBuffer.wrap( input );
    int i=0;
    while ( i< buffer.length()  ) { //buffer.hasRemaining()
        char chr = buffer.get(i);
        if (chr=='u'){
            i=i+5;
            chr=buffer.get(i);
        }

        if ( chr > 39 && chr < 58 )
            result[cursor++] = chr;
        i=i+1;
    }

    return new String( result, 0, cursor );
}