MySQL – Backup of Big MyISAM Tables

If you ever dealt with backup of MySQL tables, you probably used mysqldump utility, which allows you to dump all data into some mytables.sql file, which you can backup somewhere, import to other MySQL server etc. I used this procedure for a thousands times so far, and generally it goes as follows:

export:

mysqldump -udinke -pmojpass -hhostname.of.server1 dbname table1 table2 tableN > dump_file.sql
mysql -udinke -pmojpass -hhostname.of.server2 dbname  < dump_file.sql

Sometimes there is a problem when you move data from new version of MySQL to old, and in that case you have to specify proper compability flag when running mysql dump (--compatible=name where name can be mysql323, mysql40, postgresql, oracle etc.).

Anyway, few days ago in order to move data from one MySQL to another, I had to dump some ... let say big mysql tables (about 10 tables, where each contained about 10 millions of records). After long lasted procedure (dump to file, gzip, scp to other server) I finally started import. However, after 3 hours (yes, three hours) instead of Linux prompt I got this:

[dinke@um-917 ~/public_html]$ mysql -udinke -p325ewfwt23rasf
keyword_discovery < es_miner_data.sql
ERROR 1582 (23000) at line 163833: Duplicate entry '1167548' for key
'PRIMARY'

WTF? I moved data from old server to new, which means import should run without compability problems. It could be indexes on old table were damaged, but instead to wait like 2 more hours in order to complete check & repair procedure, I've decided to create dump file, this time with ignore option, so all insert queries in dump file are "insert ignore", so in case of error like previous one, errors will be ignored. Not very smart, but those data are not really high sensitive, and I can afford to lose few records but can't afford to lose 10 hours for import!

So, dump, gzip, scp, import again ... which lasted long... loooooong .... so fucking long that after 3 hours after I started import I started to think about other solutions. And solution was dumb but effective. We simple moved all MySQL data files (*.MYI, *.MYD i *.frm) from one server to another, and then we run myisamchk in order to fix those tables because ... we didn't shutdown MySQL server during copy procedure which generally could cause some problems with data.

All in all, this procedure went very fast (the longest was actual copy from one host to another), and in less than half hour I got everything settled down.

At the end I came with conclusion that in case of really big tables, using tool like mysqldump is unaccepted as backup solution because it takes literally hours to complete. One of solution to that problem can be to copy MySQL data files like I did. That shouldn't be a problem, because tables are "platform safe" meaning, binary file created on one platform (ie *.MYI file on Linux) will work without problem when moved to other problem (ie. on Windows). The only one real problem is that if you copy data wihout MySQL shutdown, table files there are in some kind of "state of flux" which can be a problem, especialy if they are highly used in moment when you do copy. That's why you need to do myisamchk on it.

Na Wimbledonu ništa novo …

Što će reći, kiša gotovo svakodnevno, Federer ponovo tuče Nadala u finalu, a Venus diže pehar po n-ti put (ko sme da se kladi da neće biti ovako :). Dobro, nešto je ipak drugačije nego pre… naši ovaj put 3 polufinala (Ana, Nole, Zimonjić), JJ doduše malo razočarala, Tipsarević konačno onaj pravi.

Novakov današnji meč protiv Bagdatisa gotovo je oborio sve rekorde po trajanju (4 sata i 59 minuta). No, osim što je u stanju da igra 5 sati, Nole je i sjajan šouman. Nakon pevanja u Rolland Garrosu, prešao je na travnate terene gde je pokazao i svoje glumačke kvalitete. Na videu su redom Rodick, Hewit, Nadal i Šarapova 🙂

Nadam se da Nadal ovo nije video, jer se u protivnom Noletu crno piše u sutrašnjem polufinalu.

Red Hot u Inđijapolisu

Dođoh, videh, pokisoh… tako bi se ukratko mogao opisati doživljaj koncerta RHCP-a sinoć u Inđiji. No, krenimo redom.

Na koncert sam krenuo iz Starih Banovaca (iskoristio priliku da posetim svoje rođake), tako da smo se nacrtali ispred “arene” oko 6pm. To je bilo dovoljno kasno da ne uspemo da uđemo u vip deo ispred same bine (navodno je tamo upalo samo prvih 5k ljudi), a opet dovoljno rano da se bar 2 sata šetamo unaokolo i smislimo neki način da prekratimo vreme. Iako sam u komentarima posle koncerta na b92.net pročitao sve najgore o organizaciji, ja lično nisam stekao takav utisak. Mini barova sa hranom i pićem bilo je svuda unaokolo (čik pogodite koje pivo se služi na “Tuborg Green Festu” :)), portable toaleta bilo je i više nego dovoljno, a na ulazu su delili lepe Telenor jastučiće za sedenje, tako da ste mogli da zalegnete na ugaženu travuzemlju i pritom se ne isprljate. Sve u svemu, nakon što smo izvidili situaciju, zaseli smo na travu i cirkali nes kafu, pivo, … sve dok nije došlo vreme da se stacioniramo na mesto na kome ćemo provesti ostatak koncerta.

Nase mesto na koncertu

Negde oko 7:30pm zauzeli smo poziciju nešto iza prvog štanda hitne pomoći (bilo ih je više) na nekih 150 metara od bine rekao bih. U svakom slučaju u prvoj trećini onog drugog dela publike koji nije bio neposredno ispred bine. U međuvremenu svirale su razne predgrupe, ali na njih manje više niko nije obraćao previše pažnje, jednostavno, 90% ljudi tamo su zbog RHCP-a, i to je to.

Sam koncert počeo je tek u 21:45. Bina je izlgledala odlično, sa 3 ogromna video bima na samoj bini, kao i 2 manja sa strane, definitivno najbolji stage ikada vićen na koncertima u Srbiji. Što se same svirke tiče, Peppersi su svirali dosta stvari sa poslednjeg albuma, par stvari sa pretposlednjeg, i tek jednu ili dve sa nešto starijih albuma. Svirali su i stvari od Abbe, pomalo Clasha (London Calling ako se ne varam) i tako. Svirka je bila mlaka, delovali su umorno, bez ikakve komunikacije sa publikom, sa dosta soliranja i pauza između stvari, … i posle sat i po zbrisali su. Došli, odradili preko one stvari nekih sat i po svirke, i to je bilo to. Verovatno i nisu plaćeni za više, a iz aviona se videlo da ih 100k fanova nije nimalo inspirisalo. Naravno, to se nije previše svidelo fanovima od kojih su mnogi nakon koncerta pokušavali zvižducima da pokažu svoje nezadovoljstvo razvojem situacije, a nakon koncerta momci koji su sređivali stage bili su obasuti plastičnim flašama (nadam se da niko u tom metežu nije stradao).

E sad, pravi sex nastupio je neposredno nakon završetka koncerta. Prava provala oblaka, sa hladnim vetrom, onako znojave posle koncerta totalno nas je presekla. Imao sam sreću da nas je moj burazer pokupio posle koncerta relativno brzo, ali smo svejedno bili mokri do gole kože (iz majice koja je bila na meni bukvalno sam iscedio litar vode), smrznuti, sjebani. Oni “srećnici” koji su parkirali kola na parkingu kod arene, imali su nesreću da ostanu u istim celu noć, pošto je nakon koncerta nastupio totalni kolaps, koji se rasčistio tek oko 04am.

Sve u svemu, ne mogu da kažem da sam razočaran koncertom, ali su utisci definitivno mlaki, ništa crveno i vruće 🙁

Edit
Evo, uploadovao sam par videa na youtube, a takodje i par sličica na moj flickr account.

100k ljudi oko nas!

Can’t stop …

Dani California