Il passaggio 4 della procedura guidata di configurazione di RDS ("Configurazione aggiuntiva") consente di selezionare se il DB è pubblicamente accessibile o meno (in caso contrario, l'accesso è limitato all'interno del VPC, indipendentemente dalle impostazioni del gruppo di sicurezza). Immagino che ciò determini se il nome host si risolve in 54.* rispetto a 172.* .
La tua prima istanza potrebbe essere stata impostata su privata - per quanto ne so, questo non può essere modificato dopo l'inizializzazione. Ho riscontrato un problema simile e la creazione di una nuova istanza impostata per essere accessibile pubblicamente l'ha risolto per me.