Il database, il programma e la connessione hanno ciascuno una codifica.
Assicurati che la tua connessione utilizzi la stessa codifica del tuo database
ch<-odbcConnect("mydb",DBMSencoding="UTF-8");
Questo è stato discusso anche in questa domanda qui .