Questo comando ti dà quasi quello che vuoi e funziona anche con un server remoto. L'unico avvertimento è che genera un file TSV (i campi sono separati da una scheda).
mysql mydb -e "select * from mytable" -B > mytable.tsv
Ma potresti convertirlo in CSV usando sed, come suggerito in questa risposta :
mysql mydb -e "select * from mytable" -B | sed "s/'/\'/;s/\t/\",\"/g;s/^/\"/;s/$/\"/;s/\n//g" > mytable.csv