База даних Android SQLite: повільне вставлення

Мені потрібно проаналізувати досить великий XML-файл (коливається від ста кілобайт до кількох сотень кілобайт), якими я і користуюся Xml#parse(String, ContentHandler). В даний час я тестую це за допомогою файлу 152 КБ.

Під час розбору, я також вставка даних в базі даних SQLite , використовуючи виклики , подібні до наступного: getWritableDatabase().insert(TABLE_NAME, "_id", values). Все це разом займає близько 80 секунд для тестового файлу 152 КБ (який зводиться до вставки приблизно 200 рядків).

Коли я коментую всі оператори вставки (але залишаю все інше, наприклад, створення ContentValuesтощо), той самий файл займає лише 23 секунди.

Чи нормально для операцій з базою даних такі великі накладні витрати? Чи можу я щось з цим зробити?

Ви повинні робити пакетні вставки.

Псевдокод:

db.beginTransaction();
for (entry : listOfEntries) {
    db.insert(entry);
}
db.setTransactionSuccessful();
db.endTransaction();

Це надзвичайно збільшило швидкість вставок у мої програми.

Оновлення:
@Yuku надав дуже цікавий допис у блозі: Android використовує inserthelper для швидшого вставлення в базу даних sqlite

Оскільки InsertHelper, згаданий Юку та Бреттом, зараз застарілий (рівень API 17), здається, правильною альтернативою, рекомендованою Google, є використання SQLiteStatement .

Я використовував метод вставки бази даних таким чином:

database.insert(table, null, values);

Після того, як я також зіткнувся з деякими серйозними проблемами з продуктивністю, наступний код пришвидшив мої 500 вставок з 14,5 сек до лише 270 мс , дивно!

Ось як я використовував SQLiteStatement:

private void insertTestData() {
    String sql = "insert into producttable (name, description, price, stock_available) values (?, ?, ?, ?);";

    dbHandler.getWritableDatabase();
    database.beginTransaction();
    SQLiteStatement stmt = database.compileStatement(sql);

    for (int i = 0; i < NUMBER_OF_ROWS; i++) {
        //generate some values

        stmt.bindString(1, randomName);
        stmt.bindString(2, randomDescription);
        stmt.bindDouble(3, randomPrice);
        stmt.bindLong(4, randomNumber);

        long entryID = stmt.executeInsert();
        stmt.clearBindings();
    }

    database.setTransactionSuccessful();
    database.endTransaction();

    dbHandler.close();
}

Компіляція вставки sql допомагає пришвидшити процес. Це також може зажадати більше зусиль, щоб укріпити все і запобігти можливому впорскуванню, оскільки це все на ваших плечах.

Іншим підходом, який також може пришвидшити ситуацію, є недостатньо задокументований клас android.database.DatabaseUtils.InsertHelper. Я розумію, що він насправді обгортає скомпільовані оператори вставки. Перехід від некомпільованих транзакційних вкладишів до скомпільованих транзакційних вкладишів збільшив швидкість у 3 рази (2 мс на вставку до .6 мс на вставку) для моїх великих (200 тис. Записів), але простих вкладок SQLite.

Зразок коду:

SQLiteDatabse db = getWriteableDatabase();

//use the db you would normally use for db.insert, and the "table_name"
//is the same one you would use in db.insert()
InsertHelper iHelp = new InsertHelper(db, "table_name");

//Get the indices you need to bind data to
//Similar to Cursor.getColumnIndex("col_name");                 
int first_index = iHelp.getColumnIndex("first");
int last_index = iHelp.getColumnIndex("last");

try
{
   db.beginTransaction();
   for(int i=0 ; i<num_things ; ++i)
   {
       //need to tell the helper you are inserting (rather than replacing)
       iHelp.prepareForInsert();

       //do the equivalent of ContentValues.put("field","value") here
       iHelp.bind(first_index, thing_1);
       iHelp.bind(last_index, thing_2);

       //the db.insert() equilvalent
       iHelp.execute();
   }
   db.setTransactionSuccessful();
}
finally
{
    db.endTransaction();
}
db.close();

Якщо в таблиці є індекс, спробуйте скинути його перед тим, як вставляти записи, а потім додавати назад після того, як ви записали записи.

Якщо ви використовуєте ContentProvider:

@Override
public int bulkInsert(Uri uri, ContentValues[] bulkinsertvalues) {

    int QueryType = sUriMatcher.match(uri);
    int returnValue=0;
    SQLiteDatabase db = mOpenHelper.getWritableDatabase();

     switch (QueryType) {

         case SOME_URI_IM_LOOKING_FOR: //replace this with your real URI

            db.beginTransaction();

            for (int i = 0; i < bulkinsertvalues.length; i++) {
                //get an individual result from the array of ContentValues
                ContentValues values = bulkinsertvalues[i];
                //insert this record into the local SQLite database using a private function you create, "insertIndividualRecord" (replace with a better function name)
                insertIndividualRecord(uri, values);    
            }

            db.setTransactionSuccessful();
            db.endTransaction();                 

            break;  

         default:
             throw new IllegalArgumentException("Unknown URI " + uri);

     }    

    return returnValue;

}

Потім приватна функція для виконання вставки (все ще всередині вашого постачальника вмісту):

       private Uri insertIndividualRecord(Uri uri, ContentValues values){

            //see content provider documentation if this is confusing
            if (sUriMatcher.match(uri) != THE_CONSTANT_IM_LOOKING_FOR) {
                throw new IllegalArgumentException("Unknown URI " + uri);
            }

            //example validation if you have a field called "name" in your database
            if (values.containsKey(YOUR_CONSTANT_FOR_NAME) == false) {
                values.put(YOUR_CONSTANT_FOR_NAME, "");
            }

            //******add all your other validations

            //**********

           //time to insert records into your local SQLite database
           SQLiteDatabase db = mOpenHelper.getWritableDatabase();
           long rowId = db.insert(YOUR_TABLE_NAME, null, values);           

           if (rowId > 0) {
               Uri myUri = ContentUris.withAppendedId(MY_INSERT_URI, rowId);
               getContext().getContentResolver().notifyChange(myUri, null);

               return myUri;
           }


           throw new SQLException("Failed to insert row into " + uri);


    }