Un case l'espressione può restituire un solo valore, quindi hai bisogno di due case espressioni. Inoltre, usa un singolo case espressione per ciascuno invece di annidarne due uno dentro l'altro:
SELECT * FROM Classes
GROUP BY
CASE
WHEN (1) THEN
Department_Code
WHEN (2) THEN
Department_Code
ELSE
Class_ID
END,
CASE
WHEN (2) THEN
Course_Code
ELSE
1
END