Ordina non lavorando su colonne calcolate se order by applicato su più colonne

Rimuovi quelle parentesi attorno alle colonne per group by :

Select *, CASE WHEN age>18 then 'Adult' ELSE 'MINOR' end  as category 
from student 
order by category, name;

Esempio online:https://rextester.com/BHQ36816