Se vuoi applicare la clausola WHERE al risultato dell'UNION, devi incorporare l'UNION nella clausola FROM:
SELECT *
FROM (SELECT * FROM TableA
UNION
SELECT * FROM TableB
) AS U
WHERE U.Col1 = ...
Presumo che TableA e TableB siano compatibili con l'unione. Ovviamente potresti anche applicare una clausola WHERE a ciascuna delle singole dichiarazioni SELECT nell'UNION.