MongoDB utilizza l'IO mmapped del sistema operativo come motore di archiviazione. Il massimo teorico, se non ci sono altri limiti imposti dai dettagli di implementazione, sarebbe la quantità di memoria virtuale che il tuo sistema operativo può assegnare al processo mongod. Su un sistema operativo a 32 bit, ti imbatterai in questo limite molto rapidamente. Su Windows, ad esempio, per impostazione predefinita metà dello spazio degli indirizzi è riservato al sistema operativo, quindi la tua istanza mongod smetterà di accettare scritture a una dimensione di circa 2 Gb
Su un sistema operativo a 64 bit, questo massimo teorico è un po' più grande - 64 bit ne vale la pena, nell'ordine di milioni di terabyte se non sbaglio. Raggiungerai un altro limite prima di raggiungere questo.
EDIT:
Questo potrebbe non essere più vero a partire da MongoDB 3.0. Il motore di archiviazione WiredTiger funziona in modo diverso.