Från lite googling och den här reddit-tråden , jag bestämde att du måste ställa in standardspråket.
Så kommandot som fungerade för mig var:
mysqldump --default-character-set=latin1 --lock-tables=false --single-transaction=TRUE --host=$HOST --user=$USER --password=$PASSWORD $DB
Jag använde både låsningstabeller och enstaka transaktioner eftersom jag har en blandning av myisam- och innodb-tabeller.