Jag hade exakt samma problem som du har rapporterat. Min ODBC-anslutning använde MySQL ODBC 5.3 Unicode-drivrutinen (/usr/local/lib/libmyodbc5w.so) Även om jag kunde ansluta till iSQL, returnerade faktiska SQL-kommandon skräp.
Jag försökte ändra min odbc.ini för att använda ANSI-drivrutinen istället (/usr/local/lib/libmyodbc5a.so). Det fungerade och nu kan RODBC ansluta till min MySQL-databas.