Du kan använda ett uttryck i en ORDER BY. Prova detta:
SELECT *
FROM comments
ORDER BY IF(ParentId = 0, Id, ParentId), Id
Detta kommer först att sortera efter Id, om ParentId =0, eller efter ParentId annars. Det andra sorteringskriteriet är ID, för att säkerställa att svaren returneras i ordning.