Per connetterti tramite una porta (e non la 3306 predefinita), usa:
mysqldump -u root -pmypassword -P 3308 dbname > out.sql
Oltre a ciò, un semplice test per vedere se MySQL risponde alla porta 3308 è provare telnet:
telnet 127.0.0.1 3308
Se MySQL è in ascolto sulla porta 3308, risponderà con un errore e la versione è in esecuzione.
