Om jag förstår dig rätt vill du först beställa familjerna efter namnet på innehavaren, sedan efter namnen på de anhöriga. Följande gör det.
with family_order as (
select idfamily, rownum r from (
select idfamily from costumer where relation = 'H' order by name
)
)
select c.* from costumer c
inner join family_order fo on c.idfamily = fo.idfamily
order by fo.r, relation desc, name