Se ho capito bene, vuoi prima ordinare le famiglie per nome del titolare, poi per nome delle persone a carico. Quanto segue lo fa.
with family_order as (
select idfamily, rownum r from (
select idfamily from costumer where relation = 'H' order by name
)
)
select c.* from costumer c
inner join family_order fo on c.idfamily = fo.idfamily
order by fo.r, relation desc, name