Med din ursprungliga SQL som bas (om du vill sortera först efter id och sedan efter sub_id):
$sql="select * from gallery group by sub_id order by id desc, subid desc limit 0,4";
Om det inte är avsett att eliminera "dubbletter", kan följande sql användas istället för ovanstående:
$sql="select * from gallery order by id desc, subid desc limit 0,4";