Jag tror inte att det kan bli renare än så här:
ORDER BY priority=0, priority
SQLFiddle Demo
Observera att till skillnad från alla andra lösningar kommer den här att dra fördel av index på priority och kommer att vara snabb om antalet poster är stort.