La conversione in UTF8 non dovrebbe danneggiare i tuoi dati poiché (credo) tutti i caratteri in SQL_ASCII esistono anche in utf8; hanno solo codici byte diversi.
La soluzione migliore è ricostruire il database. Cioè scaricalo, crea un database utf8 quindi ripristina il dump su quel nuovo database.
postgres pg_dump --encoding utf8 main -f main.sql
createdb -E utf8 newMain
psql -f main.sql -d newMain
Ovviamente puoi quindi rinominare i database una volta che sei felice che il nuovo UTF8 corrisponda ai tuoi dati.