L'unico modo affidabile per farlo sarà usare una tabella temporanea, ma non sarà molto SQL:
select * into #tmp from bad_table
truncate table bad_table
alter bad_table alter column silly_column int
insert bad_table
select cast(silly_column as int), other_columns
from #tmp
drop table #tmp
