sql >> Databasteknik >  >> RDS >> Mysql

Snabba in att infoga stora datamängder från txt-fil till mySQL med python

Två alternativ att överväga:

1) det enklaste är att inkludera flera rader med värden på en infogning. Det här är mycket, mycket snabbare än att göra flera insatser.

Inställt för att göra INSERT INTO tbl ( cols ) VALUES ( vals ) , gör något som INSERT INTO tbl ( cols ) VALUES ( vals ), ( vals ), ( vals )

Mängden rader du kan infoga på en gång beror på den maximala paketstorleken för mysql-servern, men du kan förmodligen göra 100, 1000, kanske 10000 rader säkert och det borde ge dig en prestandaökning i en storleksordning eller mer.

Se http://dev.mysql.com/doc/ refman/5.5/en/insert-speed.html

2) LADDA DATAINFIL är lite annorlunda, kräver mer arbete och har sina egna krav, men är väldigt väldigt snabb.



  1. Samma indexnamn för två tabeller

  2. Hur ställer man in frågeparametrar i MySQL Query Browser?

  3. Heroku MySQL Auto Increment

  4. Vilka är svagheterna med denna användarautentiseringsmetod?