Як перетворити рядки в і з UTF8 байтових масивів на Java

У Java у мене є String, і я хочу кодувати його як байтовий масив (в UTF8 або іншому кодуванні). Крім того, у мене є байтовий масив (в якомусь відомому кодуванні), і я хочу його перетворити в рядок Java. Як зробити ці перетворення?

Перетворити з рядка в байт []:

String s = "some text here";
byte[] b = s.getBytes(StandardCharsets.UTF_8);

Перетворити з байта [] в рядок:

byte[] b = {(byte) 99, (byte)97, (byte)116};
String s = new String(b, StandardCharsets.US_ASCII);

Звичайно, слід використовувати правильне ім'я кодування. У моїх прикладах використовуються US-ASCII і UTF-8, два найпоширеніші кодування.

Ось рішення, яке дозволяє уникати пошуку Charset для кожної конверсії:

import java.nio.charset.Charset;

private final Charset UTF8_CHARSET = Charset.forName("UTF-8");

String decodeUTF8(byte[] bytes) {
    return new String(bytes, UTF8_CHARSET);
}

byte[] encodeUTF8(String string) {
    return string.getBytes(UTF8_CHARSET);
}

String original = "hello world";
byte[] utf8Bytes = original.getBytes("UTF-8");

Ви можете конвертувати безпосередньо за допомогою конструктора String (байт [], String) та метод getBytes (String). Java розкриває доступні набори символів через клас Charset . Документація JDK перелічує підтримувані кодування .

У 90% часу такі перетворення виконуються в потоках, тому ви використовуєте класи Reader / Writer . Ви б не поступово розшифровували за допомогою методів String у довільних потоках байтів - ви залишатимете себе відкритими для помилок із залученням багатобайтових символів.

Моя реалізація tomcat7 приймає рядки як ISO-8859-1; незважаючи на тип вмісту запиту HTTP. Наступне рішення працювало для мене при спробі правильно інтерпретувати символи типу "é".

byte[] b1 = szP1.getBytes("ISO-8859-1");
System.out.println(b1.toString());

String szUT8 = new String(b1, "UTF-8");
System.out.println(szUT8);

При спробі інтерпретувати рядок як US-ASCII, інформація про байт була неправильно інтерпретована.

b1 = szP1.getBytes("US-ASCII");
System.out.println(b1.toString());

В якості альтернативи можна використовувати StringUtils від Apache Commons.

 byte[] bytes = {(byte) 1};
 String convertedString = StringUtils.newStringUtf8(bytes);

або

 String myString = "example";
 byte[] convertedBytes = StringUtils.getBytesUtf8(myString);

Якщо у вас нестандартна карта , ви можете використовувати getBytesUncked () або newString () відповідно.

Для декодування серії байтів до звичайного рядкового повідомлення я нарешті змусив його працювати з кодуванням UTF-8 з цим кодом:

/* Convert a list of UTF-8 numbers to a normal String
 * Usefull for decoding a jms message that is delivered as a sequence of bytes instead of plain text
 */
public String convertUtf8NumbersToString(String[] numbers){
    int length = numbers.length;
    byte[] data = new byte[length];

    for(int i = 0; i< length; i++){
        data[i] = Byte.parseByte(numbers[i]);
    }
    return new String(data, Charset.forName("UTF-8"));
}

Якщо ви використовуєте 7-бітний ASCII або ISO-8859-1 (надзвичайно поширений формат), вам взагалі не потрібно створювати новий java.lang.String . Набагато набагато ефективніше просто закинути байт у char:

Повний робочий приклад:

for (byte b : new byte[] { 43, 45, (byte) 215, (byte) 247 }) {
    char c = (char) b;
    System.out.print(c);
}

Якщо ви не використовуєте розширені символи на зразок Ä, Æ, Å, Ç, Ï, Ê і можете бути впевнені, що єдині передані значення є першими 128 символами Unicode, то цей код також буде працювати для UTF-8 та розширеного ASCII (наприклад, cp-1252).

Я не можу коментувати, але не хочу запускати нову тему. Але це не працює. Простий туди і назад:

byte[] b = new byte[]{ 0, 0, 0, -127 };  // 0x00000081
String s = new String(b,StandardCharsets.UTF_8); // UTF8 = 0x0000, 0x0000,  0x0000, 0xfffd
b = s.getBytes(StandardCharsets.UTF_8); // [0, 0, 0, -17, -65, -67] 0x000000efbfbd != 0x00000081

Мені знадобиться b [] той самий масив до і після кодування, який не є (це стосується першої відповіді).

//query is your json   

 DefaultHttpClient httpClient = new DefaultHttpClient();
 HttpPost postRequest = new HttpPost("http://my.site/test/v1/product/search?qy=");

 StringEntity input = new StringEntity(query, "UTF-8");
 input.setContentType("application/json");
 postRequest.setEntity(input);   
 HttpResponse response=response = httpClient.execute(postRequest);

Charset UTF8_CHARSET = Charset.forName("UTF-8");
String strISO = "{\"name\":\"א\"}";
System.out.println(strISO);
byte[] b = strISO.getBytes();
for (byte c: b) {
    System.out.print("[" + c + "]");
}
String str = new String(b, UTF8_CHARSET);
System.out.println(str);

Reader reader = new BufferedReader(
    new InputStreamReader(
        new ByteArrayInputStream(
            string.getBytes(StandardCharsets.UTF_8)), StandardCharsets.UTF_8));

страшно пізно, але я щойно стикався з цим питанням, і це моє виправлення:

private static String removeNonUtf8CompliantCharacters( final String inString ) {
    if (null == inString ) return null;
    byte[] byteArr = inString.getBytes();
    for ( int i=0; i < byteArr.length; i++ ) {
        byte ch= byteArr[i]; 
        // remove any characters outside the valid UTF-8 range as well as all control characters
        // except tabs and new lines
        if ( !( (ch > 31 && ch < 253 ) || ch == '\t' || ch == '\n' || ch == '\r') ) {
            byteArr[i]=' ';
        }
    }
    return new String( byteArr );
}