Ho trovato una soluzione funzionante per il problema (almeno per me ha funzionato con JDev 12.1.2.0 ma credo che dovrebbe funzionare anche su 11.x):
Aggiungi la seguente riga in jdk.conf (JDEV_HOME/jdeveloper/ide/bin) e riavvia JDeveloper:
AddVMOption -Dfile.encoding=UTF-8