Jag tror att din MySQL-installation är en 64-bitars (som Windows), eller hur?
Ruby är 32bitar, så du kan inte länka 32bitar mot 64bitar .
Jag har lagt upp en artikel som täcker installationsstegen på min blogg:
http://blog.mmediasys.com/2011/07/07/installing-mysql-on-windows-7-x64-and-using-ruby-with-it/
Dessa steg använder MySQL Connector/C för att kringgå 32-bitars kontra 64-bitars-problemen.
Båda mysql eller mysql2 gem borde fungera med detta.