Чи можливо mysqldump підмножину бази даних, необхідну для відтворення запиту?

Фон

Я хотів би надати підмножину моєї бази даних, необхідну для відтворення selectзапиту. Моя мета - зробити свій обчислювальний робочий процес відтворюваним (як у відтворюваних дослідженнях ).

Питання

Чи є спосіб я включити цей оператор select у сценарій, який скидає запитувані дані в нову базу даних, таким чином, щоб база даних могла бути встановлена ​​на новому сервері mysql, а заява працюватиме з новою базою даних. Нова база даних не повинна містити записів на додаток до тих, які були використані в запиті.

Оновлення: Для уточнення мене не цікавить csv дамп результатів запитів. Що мені потрібно зробити, це скинути підмножину бази даних, щоб її можна було встановити на іншій машині, а потім сам запит можна відтворити (і змінити стосовно того ж набору даних).

Приклад

Наприклад, мій аналіз може запитати підмножину даних, яка потребує записів з декількох (у цьому прикладі 3) таблиць:

select table1.id, table1.level, table2.name, table2.level 
       from table1 join table2 on table1.id = table2.table1_id 
       join table3 on table3.id = table2.table3_id
       where table3.name in ('fee', 'fi', 'fo', 'fum'); 

mysqldump має варіант --where виконати пункт WHERE для даної таблиці.

Хоча неможливо виконати mysqldump запиту приєднання, ви можете експортувати конкретні рядки з кожної таблиці, щоб згодом кожен рядок, отриманий з кожної таблиці, був долучений до об'єднання.

Для даного запиту вам потрібно буде тричі mysqldump:

По-перше, mysqldump всі рядки table3 з назвою в ('комісія', 'fi', 'fo', 'fum'):

mysqldump -u... -p... --where="name in ('fee','fi','fo','fum')" mydb table3 > table3.sql

Далі, mysqldump всі рядки table2, які мають відповідні значення table3_id з першого mysqldump:

mysqldump -u... -p... --lock-all-tables --where="table3_id in (select id from table3 where name in ('fee','fi','fo','fum'))" mydb table2 > table2.sql

Потім, mysqldump всі рядки table1, які мають відповідні значення table1_id, з другого mysqldump:

mysqldump -u... -p... --lock-all-tables --where="id in (select table1_id from table2 where table3_id in (select id from table3 where name in ('fee','fi','fo','fum')))" mydb table1 > table1.sql

Примітка: Оскільки для другої та третьої mysqldumps потрібне використання більше однієї таблиці, необхідно використовувати --lock-all-table .

Створіть свою нову базу даних:

mysqladmin -u... -p... mysqladmin create newdb

Нарешті, завантажте три mysqldumps в іншу базу даних і спробуйте приєднатися до неї в новій базі даних.

mysql -u... -p... -D newdb < table1.sql
mysql -u... -p... -D newdb < table2.sql
mysql -u... -p... -D newdb < table3.sql

У клієнті mysql запустіть запит на приєднання

mysql> use newdb
mysql> select table1.id, table1.level, table2.name, table2.level 
       from table1 join table2 on table1.id = table2.table1_id 
       join table3 on table3.id = table2.table3_id
       where table3.name in ('fee', 'fi', 'fo', 'fum'); 

Спробувати !!!

ПОПЕРЕДЖЕННЯ. Якщо неправильно проіндексовано, друга та третя mysqldumps можуть зайняти назавжди !!!

Про всяк випадок індексуйте наступні стовпці:

ALTER TABLE table2 ADD INDEX (table1_id);
ALTER TABLE table2 ADD INDEX (table3_id);
ALTER TABLE table3 ADD INDEX (name,id);

Я припускаю, що id є первинним ключем table3.

Я б вирішив використовувати 'outfile' як частину вашого SELECT замість mysqldump для вирішення цієї проблеми. Ви можете створити будь-який оператор SELECT, який ви хочете, а потім додати "INTO OUTFILE" /path/to/outfile.csv '... "в кінці з відповідною конфігурацією для виведення стилю CSV. Тоді ви можете просто використати щось на зразок синтаксису " ЗАВАНТАЖИТИ ДАНІ INFILE ..." для завантаження даних у нове місце схеми.

Наприклад, використовуючи свій SQL:

select table1.id, table1.level, table2.name, table2.level 
       from table1 join table2 on table1.id = table2.table1_id 
       join table3 on table3.id = table2.table3_id
       where table3.name in ('fee', 'fi', 'fo', 'fum')
INTO OUTFILE '/tmp/fee-fi-fo-fum.csv'
FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
LINES TERMINATED BY '\n'
; 

Майте на увазі, що вам знадобиться достатньо вільного місця на розділі цільового диска.

Утиліта mysqldump має опцію --tables, яка дозволяє вам вказати, які таблиці потрібно скидати. Це дозволяє вказати список таблиць.

Я не знаю жодного простішого (автоматизованого) способу.

Що для мене було корисним було щось на кшталт:

mysqldump -u db_user -p db_name table_name --no_create_info \
--lock-all-tables --where 'id in (SELECT tn.id FROM table_name AS tn \
JOIN related_table AS rt ON tn.related_table_id = rt.id \
WHERE rt.some_field = 1)' > data.sql

Від http://krosinski.blogspot.com/2012/12/using-table-join-with-mysqldump.html

Ви спробували функцію цитування в mysql?

SELECT CONCAT("insert into table4(id,level,name,levelt2) VALUES(",   quote(table1.id),   ",",    quote(table1.level),   ",",    quote(table2.name),   ",",    quote(table2.level),    ");") as q
       from table1 join table2 on table1.id = table2.table1_id 
       join table3 on table3.id = table2.table3_id
       where table3.name in ('fee', 'fi', 'fo', 'fum'); 

збережіть вище, як query.sql

cat query.sql|mysql --skip-column-names --raw > table4.sql

У MySQL:

SHOW CREATE TABLE table1; -- use these two create statements
SHOW CREATE TABLE table2; -- to design table4's create statement
CREATE TABLE table4( .... );
INSERT INTO table4(id,level,name,levelt2)
SELECT table1.id, table1.level, table2.name, table2.level 
   from table1 join table2 on table1.id = table2.table1_id 
   join table3 on table3.id = table2.table3_id
   where table3.name in ('fee', 'fi', 'fo', 'fum'); 

У командному рядку:

mysqldump mydb table4 |gzip > table4.sql.gz

На сервері призначення встановіть ~ / .my.cnf

[client]
default-character-set=utf8

Імпорт на сервер призначення

zcat table4.sql.gz | mysql

я написав невеликий сценарій для подібної проблеми, ось він: https://github.com/digitalist/mysql_slice

include ('queryDumper.php');


$exampleQuery="select * from information_schema.columns c1 
left join information_schema.columns c2 on 1=1 limit 1";

//define credentials
$exampleMysqli = new mysqli($host, $user, $password, $database);
$exampleResult=$exampleMysqli->query($exampleQuery);

//if  mysqlnd (native driver installed), otherwise use wrapper
$exampleData=fetchAll($exampleResult);
$exampleMeta=$exampleResult->fetch_fields();

/*
 * field content removal options
 * column name => function name in queryDumper.php, namespace QueryDumperHelpers
 * 
 * */

$forbiddenFields=array(
'password'=>'replacePassword', //change password -> md5("password")
'login'=>'replaceLogin', //change login vasya@mail.ru -> vasya@example.com
'comment'=>'sanitizeComment' //lorem ipsum or 
);


//get tables dump
$dump=(\queryDumper\dump($exampleData, $exampleMeta, $forbiddenFields));



$dropDatabase=true; //default false
$dropTable=true; //default false

$dbAndTablesCreationDump=\QueryDumperDatabaseAndTables\dump($exampleMysqli,$exampleMeta, $dropDatabase, $dropTable);

$databases=$dbAndTablesCreationDump['databases'];
$tables=$dbAndTablesCreationDump['tables'];
$eol=";\n\n";
echo implode($eol, $databases)."\n";
echo implode($eol, $tables).";\n";
echo "\n";

//consider using array_unique($dump) before imploding
echo implode("\n\n", $dump);
echo "\n";
?>

тобто у вас є цей запит :

SELECT * FROM employees.employees e1 
LEFT JOIN employees.employees e2 ON 1=1 
LIMIT 1; 

у вас є цей смітник :

DROP DATABASE `employees`;

CREATE DATABASE `employees`;
CREATE TABLE `employees` ( /* creation code */ ) ENGINE=InnoDB DEFAULT CHARSET=latin1;

INSERT IGNORE INTO `employees`.`employees` VALUES ("10001","1953-09-02","Georgi","Facello","M","1986-06-26");

INSERT IGNORE INTO `employees`.`employees` VALUES ("10001","1953-09-02","Georgi","Facello","M","1986-06-26");