Prova questo:
ALTER TABLE mytabe ALTER COLUMN mycolumn DROP DEFAULT;
ALTER TABLE mytabe ALTER mycolumn TYPE bool USING CASE WHEN mycolumn=0 THEN FALSE ELSE TRUE END;
ALTER TABLE mytabe ALTER COLUMN mycolumn SET DEFAULT FALSE;
Devi prima rimuovere il vincolo (poiché non è un valore booleano) e in secondo luogo il tuo CASE
l'istruzione era sintatticamente errata.