Jag sprang in på det här också. Det visar sig att det kan bero på två saker.
1. If the node you are adding already has its own dbData.
2. If you ran rs.initiate() on both nodes. It is only supposed to be run on the primary.
För att lösa detta måste du kontrollera /etc/mongod.conf för "dbPath"-attributet och flytta eller ta bort alla filer i den mappen.