Mi sono imbattuto anche in questo. Si scopre che può essere causato da due cose.
1. If the node you are adding already has its own dbData.
2. If you ran rs.initiate() on both nodes. It is only supposed to be run on the primary.
Per risolvere questo problema dovrai controllare /etc/mongod.conf per l'attributo "dbPath" e spostare o rimuovere tutti i file in quella cartella.