MODIFICATO
Apparentemente il raggruppamento nel database MySQL farebbe al caso tuo.
Le colonne del database sono main_id, sub_id, sub_main_id, sub_data
SELECT *
FROM tblmain
inner join sub on sub.sub_main_id = main_id
group by main_id;
senza il gruppo ho questi record:
1, 1, 1, 'test 1'
1, 2, 1, 'test 2'
2, 3, 2, 'test 3'
3, 4, 3, 'test 4'
2, 5, 2, 'test 5'
dopo il raggruppamento, ottengo questo risultato:
1, 1, 1, 'test 1'
2, 3, 2, 'test 3'
3, 4, 3, 'test 4'